Biaya Token AI Agent: Mengapa Kendali Lokal di Ponsel Bisa Lebih Hemat

Biaya token dimulai dari tugas yang terlihat sederhana

Seorang pengguna mungkin hanya berkata, “Ringkas notifikasi penting, buka pesan dari tim, lalu siapkan balasan yang sopan.” Dari sisi pengguna, itu satu permintaan. Dari sisi AI agent, permintaan itu bisa berubah menjadi banyak putaran: memahami niat, membaca konteks, menentukan aplikasi, menulis draf, menunggu koreksi, meminta konfirmasi, lalu mencatat hasil. Di sinilah AI agent token cost mulai terasa. Biaya tidak hanya muncul saat model menjawab; biaya muncul setiap kali sistem harus membaca, menjelaskan, dan memperbarui konteks.

Token adalah satuan kecil teks atau data yang diproses model. Penyedia model biasanya menghitung biaya berdasarkan input dan output, dengan variasi menurut model dan jenis data. Halaman harga API OpenAI dan harga generative AI Vertex AI menunjukkan prinsip umum yang sama: biaya cloud AI dipengaruhi oleh pilihan model, volume input, volume output, dan kadang jenis media. Artikel ini tidak memakai angka harga tertentu karena harga berubah dan bergantung pada konfigurasi.

Masalahnya, tugas ponsel jarang hanya satu prompt dan satu jawaban. Saat pengguna meminta otomatisasi Android, agen perlu tahu status layar, aplikasi apa yang terbuka, izin apa yang tersedia, tindakan mana yang aman, dan kapan harus berhenti. Jika semua itu selalu dikirim ke cloud sebagai teks panjang atau tangkapan layar berulang, biaya bisa naik tanpa hasil yang sepadan. Tugas yang gagal sekali sering memicu percobaan ulang, dan percobaan ulang berarti konteks dikirim lagi.

Di FoneClaw, kami melihat biaya sebagai bagian dari desain produk, bukan sekadar tagihan model. Jika tindakan ponsel sudah jelas dan didukung, sistem seharusnya tidak terus meminta model besar untuk menebak langkah dasar. Pembahasan kami tentang Otomatisasi Tugas Android dengan Satu Perintah Suara menjelaskan mengapa tugas multi-langkah perlu dibedakan antara niat pengguna, tindakan perangkat, dan titik konfirmasi.

Di mana token sering terbuang dalam tugas ponsel

Kebocoran biaya paling sering terjadi saat agen terlalu banyak menjelaskan, terlalu sering menebak, atau tidak punya cara yang jelas untuk menjalankan tindakan. Contohnya, agen cloud mungkin menerima deskripsi panjang tentang layar, daftar notifikasi, riwayat percakapan, instruksi sistem, daftar tool, dan aturan keamanan. Setelah itu, ia masih harus menulis instruksi langkah demi langkah yang mungkin tidak cocok dengan kondisi aplikasi sebenarnya. Jika pengguna mengoreksi, konteks bertambah lagi.

Tangkapan layar juga bisa menjadi sumber biaya. Untuk memahami aplikasi ponsel, beberapa sistem mengandalkan gambar layar berulang. Itu berguna dalam sebagian kasus, tetapi mahal bila dipakai untuk setiap langkah kecil: membaca tombol, memeriksa posisi menu, menunggu layar berubah, lalu mengulang saat aplikasi lambat. Jika agen tidak memiliki tindakan Android yang lebih langsung dan didukung, ia bisa menghabiskan banyak biaya hanya untuk menonton layar.

Deskripsi tool juga tidak gratis. Setiap kali agen perlu diberi daftar kemampuan, aturan pemakaian, format parameter, dan batas keamanan, sebagian konteks terpakai sebelum tugas inti dimulai. Untuk tugas ponsel sederhana seperti membuka aplikasi atau menyiapkan pesan, mengirim ulang katalog kemampuan yang panjang setiap kali bukan cara yang efisien. Biaya semakin membesar saat agen mencoba beberapa jalan yang gagal karena tidak tahu kemampuan mana yang benar-benar tersedia di perangkat.

Koreksi pengguna adalah biaya yang sering dilupakan. “Bukan kontak itu”, “aplikasinya yang lain”, “jangan kirim dulu”, atau “ringkas lebih pendek” adalah sinyal penting, tetapi setiap koreksi menambah putaran pemrosesan. Desain yang baik harus mengurangi ambiguitas sejak awal: tampilkan target, minta konfirmasi saat perlu, dan simpan status tugas agar agen tidak mengulang dari awal. Untuk aspek kepercayaan dan visibilitas ini, kami mengaitkannya dengan pembahasan AI Agent Trust: Kontrol Lokal di Ponsel vs Keamanan Cloud.

Mengapa agen cloud-only bisa mahal untuk kendali ponsel

Cloud AI sangat kuat untuk memahami bahasa, merangkum dokumen, mencari pola, dan menyusun jawaban. Namun kendali ponsel memiliki masalah berbeda: setelah model memahami maksud, sesuatu tetap harus terjadi di perangkat. Jika agen hanya berada di cloud, ia bisa menghabiskan banyak token untuk menjelaskan apa yang seharusnya dilakukan, sementara tindakan sebenarnya masih membutuhkan pengguna atau komponen lokal yang bisa berinteraksi dengan Android.

Misalnya pengguna meminta, “Buka aplikasi kalender, cari jadwal besok, lalu siapkan pesan ke rekan kerja.” Agen cloud dapat merumuskan instruksi, tetapi tanpa akses tindakan yang sah di ponsel, ia hanya memberi panduan. Pengguna tetap harus membuka aplikasi, mencari jadwal, menyalin informasi, membuka chat, dan menulis pesan. Dalam skenario seperti itu, token sudah terpakai, tetapi biaya waktu pengguna belum turun banyak.

Masalah lain adalah status ponsel berubah cepat. Notifikasi datang, aplikasi berpindah, jaringan lambat, keyboard muncul, atau izin belum diberikan. Agen cloud-only harus terus menerima pembaruan agar tidak salah konteks. Setiap pembaruan berarti input baru. Jika tindakan perangkat tidak berjalan andal, sistem mungkin mengirim status lagi dan lagi, lalu mencoba ulang. Biaya model dan friksi pengguna bertambah bersamaan.

Ini bukan berarti cloud buruk. Kami tidak melihat keputusan ini sebagai cloud melawan perangkat secara mutlak. Ada tugas yang memang lebih cocok dengan model cloud: ringkasan panjang, pencarian pengetahuan, penalaran kompleks, atau pemahaman konteks besar. Tetapi untuk tindakan Android yang berulang dan sudah didukung, pendekatan yang sepenuhnya bergantung pada cloud bisa menjadi boros. Pembahasan Keamanan AI Agent Perusahaan: Cara Menilai Agent Ponsel yang Lokal dan Terkendali relevan karena biaya, keamanan, dan kontrol sering bertemu di titik yang sama: siapa yang benar-benar menjalankan tindakan.

Kapan tindakan Android yang dekat ke perangkat bisa menghemat biaya

Penghematan muncul ketika tindakan yang sering dilakukan tidak perlu selalu dipikirkan ulang oleh model besar. Jika pengguna meminta membuka aplikasi, menyiapkan draf pesan, membaca status notifikasi yang diizinkan, atau menjalankan urutan Android yang didukung, sebagian langkah dapat ditangani lebih dekat ke perangkat. Model tetap berguna untuk memahami niat dan menyusun bahasa, tetapi tindakan rutin tidak perlu selalu menjadi percakapan panjang dengan cloud.

Contoh sederhana: “Buka pesan dari Rina dan siapkan balasan saya terlambat 10 menit.” Sistem perlu memahami nama kontak dan maksud pesan, tetapi setelah target jelas, membuka aplikasi, menampilkan draf, dan menunggu konfirmasi seharusnya menjadi langkah yang terarah. Jika setiap langkah kecil meminta model cloud membaca ulang seluruh konteks, biaya naik. Jika perangkat memiliki tindakan yang didukung dan status yang jelas, model tidak perlu mengulang penjelasan dasar.

Penghematan juga datang dari kegagalan yang lebih singkat. Saat suatu izin belum tersedia, phone agent sebaiknya segera memberi tahu pengguna: izin ini belum aktif, tindakan ini tidak didukung, atau aplikasi perlu dibuka manual. Respons seperti itu lebih murah daripada mencoba banyak jalur yang tidak mungkin berhasil. Android sendiri memiliki model privasi dan izin yang harus dihormati; dokumentasi privasi dan keamanan Android menjadi pengingat bahwa kendali lokal tetap perlu mengikuti aturan pengguna dan sistem.

Kami juga perlu jujur: tidak semua tugas bisa dibuat murah hanya dengan berada di ponsel. Jika tugas membutuhkan riset web, analisis dokumen besar, atau pemahaman bahasa yang rumit, cloud tetap bisa menjadi pilihan masuk akal. Penghematan terbaik datang dari pembagian tugas yang sehat: gunakan model canggih untuk memahami niat dan konteks yang sulit, lalu gunakan tindakan Android yang didukung untuk langkah yang sudah jelas.

Pandangan FoneClaw: tindakan didukung tidak perlu ditebak ulang

Di FoneClaw, kami membangun dari prinsip sederhana: tindakan ponsel yang didukung sebaiknya memiliki jalur yang dapat diprediksi. Jika pengguna meminta tindakan yang sama berkali-kali, sistem tidak perlu selalu menebak dari nol. Ia harus mengenali pola, memeriksa izin, menampilkan status, lalu menjalankan langkah yang memang tersedia. Ini bukan hanya membuat pengalaman lebih cepat; ini juga mengurangi putaran model yang tidak perlu.

Kami memisahkan tiga hal. Pertama, pemahaman niat: apa yang pengguna ingin capai. Kedua, tindakan perangkat: apa yang bisa dilakukan di Android dengan dukungan dan izin yang benar. Ketiga, persetujuan pengguna: kapan tindakan perlu ditinjau sebelum dilanjutkan. Jika tiga hal ini dicampur, agen mudah boros. Model terus menalar karena tidak tahu apakah ia sedang memahami maksud, menjalankan langkah, atau menunggu izin.

Catatan tindakan juga berpengaruh pada biaya. Jika sistem tahu langkah mana yang sudah dilakukan dan apa hasilnya, ia tidak perlu meminta pengguna mengulang konteks panjang. Misalnya, setelah menyiapkan draf pesan, agen cukup menampilkan status: penerima, isi draf, dan tindakan berikutnya. Model tidak perlu merangkum ulang seluruh percakapan kecuali pengguna memintanya. Biaya turun karena status tugas tidak selalu berubah menjadi prompt panjang.

Batas keamanan tetap kami jaga. FoneClaw tidak kami posisikan sebagai sistem yang bisa mengendalikan semua aplikasi, melewati izin, membeli sesuatu diam-diam, atau menggantikan persetujuan manusia. Justru karena kami memikirkan biaya, kami juga memikirkan batas. Agen yang terlalu bebas sering mahal karena sering salah jalan. Agen yang punya tindakan didukung, izin jelas, dan konfirmasi tepat cenderung lebih hemat karena lebih sedikit berputar.

Checklist menghitung biaya total AI agent

Untuk menilai biaya AI agent, jangan hanya melihat harga per token. Harga model penting, tetapi biaya total juga mencakup kegagalan tindakan, waktu pengguna, dukungan pelanggan, koreksi manual, dan risiko kepercayaan. Agen yang murah per token bisa mahal jika sering salah memahami layar. Agen yang memakai model kuat bisa lebih efisien jika hanya dipakai pada bagian yang benar-benar membutuhkan kecerdasan bahasa.

Gunakan daftar berikut saat mengevaluasi AI agent untuk Android: berapa banyak konteks yang dikirim setiap tugas; apakah tangkapan layar dipakai terus-menerus; berapa kali agen biasanya mencoba ulang; apakah tindakan ponsel yang umum punya jalur yang jelas; apakah pengguna perlu mengoreksi target berulang; apakah izin yang hilang langsung dijelaskan; apakah konfirmasi sensitif ditampilkan sebelum tindakan; dan apakah hasil tugas tersimpan dalam status yang mudah ditinjau.

Tambahkan juga biaya manusia. Jika pengguna harus memeriksa ulang semua langkah karena tidak percaya agen, penghematan token tidak banyak berarti. Jika tim dukungan harus menjelaskan mengapa agen salah membuka aplikasi atau mengirim draf yang keliru, biaya operasional naik. Jika pengguna meninggalkan produk karena pengalaman terasa tidak terkendali, biaya akuisisi juga ikut terbuang. Karena itu penghematan terbaik sering berasal dari desain yang jelas, bukan sekadar model yang lebih murah.

Kesimpulan kami: local AI agent cost bukan berarti semua hal harus berjalan tanpa cloud, dan AI agent cloud cost bukan berarti cloud selalu boros. Yang menentukan adalah pembagian kerja. Gunakan cloud untuk penalaran yang benar-benar perlu, gunakan tindakan Android yang didukung untuk langkah perangkat yang berulang, dan selalu pertahankan izin serta konfirmasi. Di situlah FoneClaw kami arahkan: phone agent yang membantu tugas nyata tanpa mengubah setiap tap kecil menjadi percakapan mahal dengan model besar.