Tác nhân AI đám mây và cục bộ: chọn theo nơi suy luận, hành động và lưu dữ liệu
Phân biệt nơi mô hình xử lý yêu cầu, nơi công cụ Android thực thi và nơi dữ liệu được lưu. Xem khi nào nên dùng mô hình trực tuyến, mô hình trên máy hoặc kết hợp cả hai với FoneClaw.
- Đừng chia tác nhân AI thành hai nhãn đám mây hoặc cục bộ: nơi mô hình suy luận, nơi công cụ thực hiện hành động và nơi lưu dữ liệu có thể khác nhau.
- Một mô hình trực tuyến vẫn có thể điều khiển công cụ Android được cấp quyền trên điện thoại; ngược lại, một ứng dụng cài trên máy vẫn có thể gửi ngữ cảnh tới nhà cung cấp mô hình.
- FoneClaw hỗ trợ mô hình mặc định, mô hình trực tuyến tương thích được cấu hình và một số mô hình chạy trên thiết bị; khả năng dùng thực tế phụ thuộc mô hình, máy và tác vụ.
- Hãy chọn đường xử lý bằng một tác vụ không nhạy cảm, kiểm tra quyền, dịch vụ mạng cần dùng và kết quả tại thiết bị trước khi đưa dữ liệu riêng tư vào.
Xác định ba nơi xử lý trước khi chọn
Câu hỏi nên đặt khi chọn tác nhân AI đám mây và cục bộ không chỉ là ứng dụng được cài ở đâu. Một yêu cầu thường đi qua ba phần: mô hình hiểu và lập kế hoạch, công cụ thực hiện hành động, rồi dữ liệu hoặc kết quả được lưu ở một nơi nào đó. Ba phần ấy không nhất thiết cùng nằm trên điện thoại hay cùng ở máy chủ.
| Phần việc | Câu hỏi cần kiểm tra | Ví dụ về đường xử lý |
|---|---|---|
| Suy luận | Mô hình nào nhận nội dung yêu cầu? | Mô hình trên thiết bị hoặc mô hình trực tuyến nhận phần ngữ cảnh được gửi tới. |
| Thực thi | Công cụ nào thật sự đọc hoặc thay đổi trạng thái? | Công cụ Android chạy trên điện thoại; tác vụ web có thể cần dịch vụ từ xa. |
| Lưu dữ liệu | Ghi chú, lịch sử, tệp và kết quả nằm ở đâu? | Bộ nhớ trong ứng dụng, dịch vụ đã kết nối hoặc hệ thống của nhà cung cấp mô hình. |
Một tác nhân hoàn toàn trên thiết bị chỉ hợp với tác vụ mà mô hình, dữ liệu và công cụ cần thiết đều có thể hoạt động tại chỗ. Đường đám mây dùng tài nguyên và dịch vụ từ xa, nhưng không vì thế mà không thể yêu cầu một công cụ được cấp quyền hành động trên Android. Đường kết hợp đặt mô hình ở một nơi và công cụ ở nơi khác. Đó là lý do chỉ thấy biểu tượng ứng dụng trên điện thoại không đủ để kết luận mọi nội dung đều được xử lý ngoại tuyến.
Chọn theo tác vụ và phần phụ thuộc mạng
Hãy bắt đầu từ kết quả muốn có. Nếu bạn chỉ cần chuẩn bị một đoạn ghi chú riêng và đang dùng mô hình trên thiết bị tương thích, phần soạn thảo có thể không cần gửi nội dung tới mô hình trực tuyến. Tuy nhiên, việc đồng bộ ghi chú, lấy tài liệu từ dịch vụ khác hoặc gửi đoạn văn cho người nhận lại là các bước riêng, có thể cần mạng. Một bản nháp được tạo ra không phải bằng chứng nội dung đã được gửi.
Với yêu cầu nghiên cứu thông tin mới trên web, nguồn thông tin tự nó là một phụ thuộc mạng. Dù mô hình lập kế hoạch ở đâu, tác vụ vẫn cần kết nối để truy cập trang nguồn và cần kiểm tra chất lượng thông tin nhận về. Nếu mạng gián đoạn, một câu trả lời dựa trên nội dung cũ không thể thay thế kết quả vừa được xác minh trên web.
Với hành động Android được hỗ trợ, chẳng hạn đọc trạng thái thiết bị hoặc mở một ứng dụng, nơi tác động là điện thoại và quyền Android vẫn quyết định công cụ có làm được không. Nhưng mô hình hiểu câu lệnh có thể chạy trực tuyến; nếu đang dùng mô hình đó mà mất mạng, phần suy luận có thể dừng trước khi công cụ được gọi. Vì vậy, không nên hứa tác vụ điện thoại sẽ luôn chạy ngoại tuyến chỉ vì bước thực thi nằm trên máy. Tốc độ và độ tin cậy cũng phụ thuộc mô hình, thiết bị, kết nối và trạng thái ứng dụng, chứ không có một bên luôn thắng.
Kiểm tra riêng dữ liệu được gửi đi và lưu lại
Bộ nhớ lưu trong ứng dụng không chứng minh phần ngữ cảnh đưa cho mô hình cũng ở lại trên máy. Nếu chọn mô hình trực tuyến, hãy xem đoạn văn, nội dung màn hình hoặc dữ liệu công cụ nào cần được đưa vào yêu cầu. Sau đó kiểm tra nhà cung cấp mô hình, dịch vụ bên ngoài được gọi và nơi lưu kết quả. Quyền Android giới hạn một phần truy cập trên thiết bị; điều kiện xử lý dữ liệu của nhà cung cấp trực tuyến là lớp kiểm soát khác.
Ngược lại, xử lý từ xa không phải lúc nào cũng đồng nghĩa dữ liệu được lưu hoặc bảo vệ theo cùng một cách. Google DeepMind mô tả một kiến trúc bộ nhớ riêng tư phía máy chủ với lưu trữ mã hóa, khóa do thiết bị giữ và xử lý trên hạ tầng đám mây được cách ly. Đây là kiến trúc được công bố, không phải tính năng của FoneClaw hay bảo đảm đã triển khai cho mọi người dùng. Ví dụ này chỉ làm rõ một điểm: xử lý có biện pháp bảo vệ trên máy chủ vẫn là xử lý từ xa, không thể gọi là dữ liệu chưa rời điện thoại.
Nếu bạn không muốn một dữ liệu cụ thể đi ra ngoài, hãy giới hạn ngữ cảnh trước khi gửi yêu cầu và xác nhận đường mô hình đang chọn. Với tác vụ cần tài khoản hoặc ứng dụng bên thứ ba, hãy kiểm tra thêm quyền truy cập và chính sách lưu trữ của chính dịch vụ đó. Nhãn “cục bộ” trên một bước không tự bao phủ toàn bộ chuỗi công việc.
FoneClaw kết hợp mô hình với công cụ Android thế nào
Trong FoneClaw, mô hình được cấu hình xử lý phần hiểu yêu cầu và lập kế hoạch; các công cụ Android được hỗ trợ thực hiện hành động trên điện thoại theo quyền hệ thống và chính sách công cụ. Bạn có thể dùng mô hình mặc định hoặc cấu hình mô hình trực tuyến tương thích. Với mô hình trực tuyến, phần ngữ cảnh cần cho yêu cầu có thể được chuyển tới tuyến xử lý đó. Chúng tôi cũng hỗ trợ nhập một số mô hình chạy trên thiết bị, nhưng việc tương thích phụ thuộc mô hình, môi trường chạy và khả năng của điện thoại; nhập được mô hình không đồng nghĩa mọi tác vụ hay dịch vụ ngoài đều hoạt động khi mất mạng.
Ví dụ, một yêu cầu đọc trạng thái thiết bị có điểm kiểm tra là kết quả công cụ trả về từ Android, không phải lời đoán của mô hình. Một yêu cầu mở ứng dụng phải đi qua công cụ, quyền và cài đặt phê duyệt áp dụng. Mô hình trực tuyến vẫn có thể đề xuất các bước đó, nhưng không tự có quyền vượt qua điều kiện của Android. Trang tính năng FoneClaw trình bày các khả năng điện thoại hiện được hỗ trợ và cách chúng tôi cho người dùng kiểm soát công cụ.
Quy trình đã lưu và tự động hóa theo lịch cũng khác nhau. Một Workflow lưu chuỗi bước để dùng lại; việc lưu nó không tự đặt lịch chạy. Khi tự động hóa được cấu hình riêng, FoneClaw có cơ chế chạy cục bộ và khôi phục qua đám mây trong phạm vi được hỗ trợ. Công việc không cần người dùng khởi xướng trên đám mây hiện chỉ dành cho nghiên cứu web ở chế độ đọc, không phải đọc SMS hoặc lịch riêng trên điện thoại từ xa, cũng không tự gửi tin. Bài Công cụ, Plugin, Skill, Workflow và Shortcut trong FoneClaw khác nhau thế nào? giải thích lúc nào cần công cụ đơn lẻ, quy trình lưu lại hoặc một lớp hướng dẫn.
Kiểm tra đường xử lý bằng một việc ít rủi ro
Để đánh giá cấu hình bạn định dùng, hãy chọn một yêu cầu không chứa thông tin riêng tư, chẳng hạn hỏi trạng thái pin hiện tại. Trước khi gửi, xem mô hình nào đang được chọn, nó chạy trên thiết bị hay qua nhà cung cấp trực tuyến, và công cụ đọc trạng thái có được bật không. Sau khi nhận câu trả lời, đối chiếu mức pin với thông tin Android đang hiển thị. Nếu câu trả lời chỉ hướng dẫn bạn tự mở phần Pin mà không có dữ liệu từ công cụ, yêu cầu chưa chứng minh đường thực thi đã hoạt động.
Sau đó, tự hỏi ba điều trước khi đưa việc thật vào hệ thống: dữ liệu nào phải gửi cho mô hình để hiểu yêu cầu; công cụ hoặc dịch vụ nào tạo ra kết quả; và kết quả ấy được lưu ở đâu? Nếu muốn kiểm tra khả năng làm việc khi mất mạng, hãy thử bằng tác vụ không nhạy cảm và ghi nhận chính xác bước nào không khả dụng. Đừng coi việc một màn hình vẫn mở được là bằng chứng toàn bộ luồng đã hoàn tất ngoại tuyến.
Quyết định cuối nên gắn với việc bạn cần làm. Chọn mô hình trên thiết bị khi nó tương thích và toàn bộ các bước cần thiết có thể chạy tại chỗ. Chọn mô hình trực tuyến khi tác vụ cần tuyến suy luận hoặc nguồn dữ liệu từ xa mà bạn chấp nhận sử dụng. Kết hợp hai đường khi mô hình xử lý yêu cầu ở xa còn hành động được kiểm soát trên điện thoại, và luôn xác nhận kết quả tại nơi hành động thực sự xảy ra.