Dua proposal layanan AI Agent bisa tampak sama murah di atas kertas, padahal memakai satuan penagihan yang berbeda. Sebagian penyedia mengenakan biaya per respons yang dikirim, sementara penyedia lain menghitung berdasarkan jumlah token input dan output yang diproses sistem. Tanpa menyamakan asumsi, kedua angka tersebut sulit dibandingkan secara adil.
Memahami Satuan yang Sebenarnya Dibayar
Pada skema per respons, biaya dihitung dari jumlah jawaban yang dikirim AI sehingga proyeksinya lebih sederhana: volume respons dikalikan tarif. Namun definisi “satu respons” perlu dicek, karena jawaban panjang bisa saja dikenakan tarif berbeda. Sementara itu, skema token menghitung seluruh potongan teks yang diproses, termasuk konteks percakapan, instruksi sistem, dan dokumen basis pengetahuan yang dipanggil sebelum jawaban dihasilkan. Semakin panjang konteks dan jawaban, semakin besar pemakaian tokennya.
Baca juga:
- Meta Business Agent vs AI Pihak Ketiga: Mana Lebih Hemat?
- Segini Kisaran Biaya Berlangganan AI Agent dari Barantum
Simulasi dengan Asumsi Setara
Untuk membandingkan secara wajar, bisnis disarankan membuat simulasi dengan pertanyaan, panjang basis pengetahuan, dan tingkat eskalasi yang sama, lalu mengujinya pada skenario ringan, normal, dan berat. Sebagai ilustrasi, tarif sekitar US$2 per satu juta token dengan pemakaian 20-25 ribu token per respons dapat menghasilkan puluhan respons setara. Sebagai pembanding, AI Agent dari Barantum menawarkan skema per respons mulai Rp150, yang perlu disesuaikan lagi dengan volume dan kompleksitas layanan masing-masing bisnis.
Hitung Total Biaya, Bukan Hanya Tarif AI
Biaya penggunaan AI juga perlu ditambah dengan komponen lain seperti biaya pesan pada kanal seperti WhatsApp Business API, biaya pengalihan ke agen manusia (handoff), pengelolaan basis pengetahuan, routing, pelaporan, hingga integrasi data pelanggan. AI yang tarif per unitnya sedikit lebih mahal bisa jadi lebih efisien secara total jika mampu mengurangi jumlah alat terpisah dan menjaga riwayat pelanggan tetap terhubung dalam satu sistem seperti CRM.
Barantum menyarankan pelaku bisnis melakukan uji coba (pilot) dengan daftar pertanyaan dan volume yang sama antar penyedia, lalu membandingkan biaya per percakapan yang benar-benar selesai, bukan sekadar biaya per respons. Pendekatan ini dinilai lebih akurat karena mencegah kesimpulan keliru ketika sebuah model menghasilkan respons murah namun memicu lebih banyak percakapan ulang.
Catatan Redaksi. Artikel ini bersumber dari siaran pers Barantum, penyedia AI Agent dengan skema penagihan per respons yang dibahas di dalamnya. Token sendiri adalah satuan terkecil teks yang diproses model bahasa, bukan selalu satu kata utuh, sehingga konteks percakapan dan dokumen basis pengetahuan yang disertakan di setiap permintaan ikut menambah jumlah token meski jawaban akhirnya singkat, berbeda dari skema per respons yang tarifnya tetap untuk setiap jawaban.
Sumber: Barantum.
