Mengendalikan Biaya AI untuk Bisnis agar Tetap Terukur

Saat mencoba layanan AI untuk pertama kali, biayanya sering terasa sangat kecil. Masalah baru muncul setelah fitur AI dibuka untuk pelanggan atau staf: pemakaian bertambah, beberapa orang memakai jauh lebih banyak dari perkiraan, dan tagihan bulanan sulit ditebak. Kabar baiknya, biaya AI bisa dikendalikan dengan beberapa pengaman yang dirancang sejak awal. Artikel ini membahas pengaman yang kami pakai sendiri.

Kenapa biaya API AI sulit ditebak

Sebagian besar layanan AI menagih berdasarkan jumlah token, yaitu potongan teks yang masuk ke model dan yang keluar sebagai jawaban. Artinya biaya bergantung pada beberapa hal yang tidak selalu Anda kendalikan:

• Berapa banyak orang yang memakai fitur AI, dan seberapa sering.
• Seberapa panjang pertanyaan, dokumen pendukung, dan jawaban yang dihasilkan.
• Model mana yang dipakai, karena harga per token antarmodel bisa berbeda jauh.
• Pemakaian tidak wajar, misalnya skrip otomatis atau satu pengguna yang mengirim ratusan permintaan.

Tanpa batasan, satu hari yang ramai atau satu pengguna yang iseng bisa menghabiskan anggaran sebulan. Karena itu pengaman sebaiknya dibangun bersamaan dengan fiturnya, bukan setelah tagihan datang.

Kuota harian per pengguna

Pengaman paling sederhana adalah kuota: setiap pengguna hanya boleh memakai fitur AI sekian kali per hari. Kuota membuat pemakaian lebih adil dan mencegah satu orang menghabiskan jatah bersama. Kuota juga bisa dibedakan per paket, misalnya pengguna gratis mendapat jatah lebih kecil daripada pelanggan berbayar. Tampilkan sisa kuota kepada pengguna supaya mereka tidak kaget saat jatahnya habis.

Batas biaya per pengguna dan batas global

Kuota menghitung jumlah permintaan, padahal satu permintaan yang panjang bisa jauh lebih mahal daripada sepuluh permintaan pendek. Jadi di samping kuota, perlu ada batas biaya dalam rupiah atau dolar.

• Batas biaya per pengguna per hari menjaga agar satu akun tidak bisa menghabiskan anggaran.
• Batas biaya global per hari menjadi rem terakhir untuk seluruh sistem, apa pun yang terjadi.
• Batas token per permintaan mencegah satu pertanyaan memicu jawaban yang sangat panjang.

Supaya batas ini bekerja, setiap panggilan AI perlu dicatat beserta perkiraan biayanya. Hal kecil yang sering terlewat: kalau sistem tidak mengenali harga sebuah model, jangan anggap biayanya nol. Gunakan perkiraan yang aman, supaya batas biaya tetap bisa tercapai dan tidak diam-diam terlewati.

Model hemat sebagai bawaan, eskalasi bila perlu

Tidak semua pertanyaan butuh model paling mahal. Pola yang efektif adalah memakai model yang lebih hemat sebagai pilihan bawaan, lalu meneruskan ke model yang lebih kuat hanya untuk kasus yang memang sulit. Aturan kapan eskalasi terjadi sebaiknya jelas dan bisa ditinjau, misalnya ketika pengguna sudah beberapa kali gagal atau ketika pertanyaannya memuat gambar.

Lebih hemat lagi, tidak setiap permintaan harus dikirim ke AI. Bila jawabannya sudah tersedia di sistem, misalnya FAQ, petunjuk resmi, atau data pesanan, tampilkan saja langsung. AI cukup dipanggil untuk pertanyaan bebas yang memang tidak bisa dijawab dengan cara biasa.

Cadangan saat AI gagal atau batas tercapai

Layanan AI bisa lambat, error, atau berhenti sementara. Batas biaya Anda juga suatu saat akan tercapai. Rencanakan apa yang terjadi pada momen itu, supaya pengguna tidak melihat layar kosong.

1. Siapkan penyedia AI cadangan yang dipakai otomatis bila penyedia utama gagal.
2. Bila semua penyedia gagal atau batas tercapai, tampilkan jawaban cadangan yang aman, misalnya materi resmi atau pesan untuk mencoba lagi besok.
3. Kirim notifikasi ke Anda atau tim saat batas global hampir tercapai, sehingga keputusan menaikkan anggaran dibuat secara sadar.

Contoh nyata: tutor AI di Numekara

Numekara, bisnis pendidikan kami sendiri yang sudah live, memakai tutor AI yang dipakai siswa sungguhan. Semua pengaman di atas diterapkan di sana. Model utamanya adalah DeepSeek lewat OpenRouter, dengan Gemini sebagai cadangan bila model utama gagal. Ada kuota harian untuk pemakaian AI, batas biaya harian per pengguna dan untuk seluruh sistem, serta batas token per permintaan.

Eskalasi ke model yang lebih kuat hanya terjadi dalam kondisi tertentu, misalnya saat siswa meminta petunjuk yang lebih dalam atau berulang kali salah. Untuk permintaan petunjuk biasa, tutor lebih dulu memakai petunjuk dari materi resmi tanpa memanggil model AI sama sekali. Bila layanan AI gagal, siswa tetap mendapat bantuan dari materi dan pembahasan resmi.

Langkah berikutnya

1. Tentukan anggaran harian maksimal untuk fitur AI Anda.
2. Catat setiap panggilan AI beserta pengguna, model, jumlah token, dan perkiraan biayanya.
3. Pasang kuota per pengguna, batas biaya per pengguna, dan batas global.
4. Pilih model hemat sebagai bawaan dan tulis aturan eskalasi yang jelas.
5. Siapkan jawaban cadangan, lalu tinjau data pemakaian setiap minggu pada bulan pertama.