Tác nhân AI trên điện thoại Dimensity: NPU 990 giúp gì và kiểm tra thế nào?

Dimensity 9500 cung cấp những gì?

Với tác nhân AI trên điện thoại Dimensity, chip là một phần của đường xử lý, còn việc mở đúng ứng dụng hoặc tạo đúng kết quả phụ thuộc cả mô hình, phần mềm và Android. Thông số Dimensity 9500 của MediaTek nêu NPU 990 với Gen-AI Engine thế hệ thứ hai. NPU có thể tăng tốc những phép tính AI mà ứng dụng và môi trường chạy mô hình đưa tới đúng phần cứng.

MediaTek cũng nêu khả năng xử lý mô hình lớn theo định dạng BitNet 1,58 bit và ví dụ tạo đầu ra bằng mô hình ngôn ngữ 3 tỷ tham số trong bài giới thiệu chi tiết Dimensity 9500. Đây là phạm vi năng lực của nền tảng chip. Một tệp mô hình cụ thể còn cần đúng định dạng, cách lượng tử hóa, bộ mã hóa văn bản và môi trường chạy tương thích; kích thước 3 tỷ tham số tự nó không xác nhận một mô hình tải về sẽ chạy được.

Nền tảng này hỗ trợ bộ nhớ LPDDR5X 10667 và lưu trữ UFS 4.1 bốn làn. Những thông số đó mô tả khả năng của nền tảng, không phải dung lượng RAM thực lắp trên mọi điện thoại. Các so sánh tốc độ tạo token và mức điện năng của MediaTek cũng là so sánh phía nhà sản xuất đối với xử lý AI, không phải thời gian hoàn tất một tác vụ Android từ lúc ra yêu cầu đến khi nhìn thấy ứng dụng đúng.

Kiểm tra điện thoại, mô hình và ứng dụng

Trước khi đánh giá một máy Dimensity, hãy xác định đúng mẫu điện thoại và phiên bản Android, dung lượng RAM đã lắp, bộ nhớ còn trống và giới hạn nhiệt khi sử dụng lâu. Tiếp đó kiểm tra ứng dụng AI: mô hình nào được hỗ trợ, tệp mô hình đã có trên máy chưa, định dạng và mức lượng tử hóa có phù hợp không, môi trường chạy có kết nối tới NPU qua phần mềm của nhà sản xuất hay không. Nếu thiếu thông tin về một mắt xích, khả năng chạy hoặc tăng tốc trên máy đó vẫn chưa xác định.

Cần biết yêu cầu đi đâu. Mô hình chạy thực sự trên điện thoại có thể xử lý suy luận cục bộ khi ứng dụng và tài nguyên máy cho phép. Một cấu hình gửi yêu cầu tới máy chủ qua mạng là đường trực tuyến, kể cả khi câu trả lời dẫn đến thao tác Android trên chính điện thoại. Trong FoneClaw, chúng tôi hỗ trợ cấu hình mô hình trực tuyến riêng và có nền tảng cho bộ máy xử lý trên thiết bị; điều đó không xác nhận FoneClaw đang dùng NPU 990 hoặc có danh sách mô hình tăng tốc dành riêng cho Dimensity. Bài Kết nối API mô hình AI với tác nhân Android trong FoneClaw giúp xác định khi nào yêu cầu được gửi tới một điểm kết nối mô hình.

Để kiểm tra một hành động đơn giản, FoneClaw có thể mở ứng dụng Android đã cài. Hãy dùng tên ứng dụng rõ ràng hoặc tên gói chính xác; nếu tên trả về nhiều ứng dụng, cần chọn đúng ứng dụng. Chúng tôi cũng có thể trả về trạng thái pin và bộ nhớ hiện tại mà không thay đổi cài đặt. Những số đọc này cho biết bối cảnh của lần thử, không thay thế công cụ đo mức điện tiêu thụ hoặc đỉnh bộ nhớ.

Đo một tác vụ có thể lặp lại

Hãy dùng một bài thử có kết quả dễ xác nhận: yêu cầu mở một ứng dụng đã cài, chẳng hạn ứng dụng Lịch, rồi kiểm tra ứng dụng đó có xuất hiện ở phía trước hay không. Đây là cách tự đo được đề xuất, chưa phải kết quả thử nghiệm của FoneClaw. Giữ nguyên câu yêu cầu, ứng dụng đích và đường mô hình trong cùng một nhóm thử. Với lần chạy nguội, trước khi gửi yêu cầu hãy xác nhận và ghi lại rằng ứng dụng xử lý đang đóng hoặc mô hình chưa được nạp; bắt đầu tính giờ tại lúc gửi yêu cầu. Nếu phải khởi động ứng dụng trước để nhập yêu cầu, hãy đo thời gian khởi động riêng và chỉ gọi lần gửi yêu cầu là chạy nguội khi mô hình vẫn chưa được nạp tại thời điểm đó. Ghi riêng các lần lặp khi ứng dụng và mô hình đã được nạp; cũng bắt đầu tính giờ tại lúc gửi cùng câu yêu cầu.

Trước mỗi nhóm, ghi mẫu máy, phiên bản Android, mô hình và phiên bản tệp nếu chạy cục bộ, ứng dụng hoặc môi trường chạy, trạng thái mạng, mức pin, chế độ tiết kiệm pin, độ sáng và nhiệt độ môi trường gần đúng. Nếu so sánh hai máy hoặc hai đường xử lý, giữ các điều kiện này càng giống nhau càng tốt. Với đường trực tuyến, ghi loại mạng và chất lượng kết nối; với đường cục bộ, xác nhận yêu cầu vẫn được xử lý khi không có kết nối mạng trước khi gọi đó là thử ngoại tuyến.

Bấm giờ hai mốc khác nhau: từ lúc gửi yêu cầu đến phản hồi đầu tiên, và từ lúc gửi yêu cầu đến khi ứng dụng đích thực sự hiện đúng. Ghi cả lần chọn nhầm ứng dụng, lỗi quyền, yêu cầu hỏi lại và số lần thử lại. Kết quả mà FoneClaw trả về có thể cho biết thao tác mở ứng dụng đã được thực hiện; hãy đối chiếu với ứng dụng đang hiện trên màn hình trước khi tính một lần là hoàn tất.

Nếu có công cụ theo dõi bộ nhớ của ứng dụng, dùng cùng công cụ ở cả ba thời điểm để nhận ra áp lực bộ nhớ hoặc ứng dụng bị tải lại. Chênh lệch phần trăm pin sau một đợt chạy lặp chỉ là chỉ báo thô; nó không đo công suất tức thời của NPU. Trạng thái pin và bộ nhớ do FoneClaw trả về cũng nên ghi cùng thời điểm để có bối cảnh, không diễn giải thành mức tiêu thụ điện của riêng mô hình.

Đọc kết quả trước khi chọn thiết bị

Nếu phản hồi đầu tiên chậm, hãy đối chiếu đường mạng, thời gian nạp mô hình và lần chạy đầu trước khi quy nguyên nhân cho chip. Nếu câu trả lời đến nhanh nhưng mở sai ứng dụng, vấn đề có thể nằm ở tên đích hoặc bước chọn ứng dụng; NPU nhanh hơn không tự sửa lựa chọn đó. Khi các lần sau chậm dần, xem nhiệt độ, chế độ pin và bộ nhớ đã ghi để tìm dấu hiệu máy bị giới hạn hiệu năng hoặc phải nạp lại dữ liệu.

Một điện thoại phù hợp là điện thoại hoàn thành đúng tác vụ lặp lại trong điều kiện bạn thực sự dùng, xử lý rõ khi thiếu quyền hoặc tên ứng dụng mơ hồ và có mức pin chấp nhận được qua cả đợt sử dụng. Chưa có số liệu của mẫu máy và ứng dụng thì thông số NPU chỉ giúp khoanh vùng điều cần thử. Bạn có thể xem phạm vi thao tác Android hiện có trên trang tính năng FoneClaw.

Nếu cân nhắc chi phí của đường mô hình trực tuyến so với xử lý cục bộ, bài Chi phí token AI agent cho mỗi tác vụ: cách tính bằng sổ chi phí thực tế giúp ghi chi phí theo lần sử dụng. Với một họ mô hình cụ thể, bài DeepSeek, trợ lý AI và điều khiển điện thoại Android: có thể và không thể làm gì giúp phân biệt khả năng của mô hình với thao tác mà ứng dụng Android thực hiện.