AI Agent untuk Operasional Bisnis: Cara Aman Memulainya

Istilah AI agent sedang ramai dibicarakan. Sederhananya, AI agent adalah AI yang tidak hanya menjawab pertanyaan, tetapi juga bisa menjalankan langkah kerja: mencari data, mengisi catatan, menyiapkan draf, lalu menyerahkan ke manusia saat perlu. Untuk bisnis, ini menjanjikan banyak penghematan waktu. Tetapi agent yang bisa bertindak juga bisa salah bertindak. Artikel ini membahas tugas yang cocok untuk agent, prinsip agar tetap aman, dan kenapa evaluasi harus dilakukan sebelum agent dipakai pelanggan.

Otomasi, chatbot, dan agent: apa bedanya

• Otomasi biasa mengikuti aturan tetap. Misalnya: setiap form masuk, kirim email konfirmasi dan catat di spreadsheet. Hasilnya bisa ditebak, dan ini sering sudah cukup.
• Chatbot AI menjawab pertanyaan dengan bahasa yang luwes, idealnya dari dokumen resmi Anda.
• AI agent memilih sendiri langkah berikutnya dari daftar alat yang diizinkan, misalnya mengecek status pesanan, menulis catatan di CRM, lalu memutuskan apakah perlu memanggil admin.

Tugas operasional yang cocok untuk agent

• Memilah pesan masuk, lalu meneruskan ke orang yang tepat beserta ringkasannya.
• Menyiapkan draf balasan yang sudah berisi data pesanan atau jadwal pelanggan, untuk dicek admin sebelum dikirim.
• Mengisi CRM dari percakapan, seperti kebutuhan, minat program, dan pertanyaan yang belum terjawab.
• Merekap laporan harian dari beberapa sumber, misalnya pesanan, pembayaran, dan keluhan.
• Menjawab pertanyaan status, seperti "pesanan saya sudah dikirim?", dengan mengecek data yang sebenarnya.

Yang sebaiknya tetap di tangan manusia

• Keputusan bernilai besar, seperti refund, potongan harga, atau perubahan kontrak.
• Keluhan yang sensitif atau emosional, yang butuh empati dan kewenangan.
• Negosiasi harga dan keputusan akhir pelanggan, misalnya jadi mendaftar atau tidak.
• Apa pun yang datanya belum rapi. Agent tidak bisa memperbaiki data yang berantakan.

Tujuh prinsip agar agent tetap aman

1. Hak akses seminimal mungkin. Tentukan alat apa saja yang boleh dipakai agent, dan bedakan antara hanya membaca dan boleh mengubah data.
2. Jawaban bersumber dari data resmi. Bila tidak ada sumber yang mendukung, agent harus menolak menjawab atau menyerahkan ke manusia, bukan mengarang.
3. Serah terima ke manusia yang jelas. Tentukan kapan agent wajib berhenti, dan kirim ringkasan percakapan supaya pelanggan tidak perlu mengulang cerita.
4. Persetujuan manusia sebelum aksi penting, seperti mengirim pesan atas nama bisnis atau mengubah status pembayaran.
5. Catatan setiap langkah. Setiap tindakan agent tercatat, sehingga bisa diperiksa saat ada yang salah.
6. Lindungi data pribadi. Samarkan nomor telepon, email, dan data sensitif sebelum disimpan atau dikirim ke layanan AI.
7. Batas biaya dan cadangan. Pasang batas pemakaian harian dan siapkan jalan keluar saat layanan AI gagal.

Evaluasi sebelum dirilis

Agent tidak cukup diuji dengan mencoba beberapa pertanyaan lalu merasa hasilnya bagus. Siapkan daftar kasus uji yang mewakili percakapan nyata, dan tentukan untuk setiap kasus apa yang seharusnya terjadi: dijawab, ditolak, atau diserahkan ke manusia. Jalankan seluruh daftar itu, hitung berapa yang sesuai, dan perbaiki yang meleset. Ulangi setiap kali aturan atau model AI-nya diubah.

Agent yang belum lulus evaluasi lebih baik dimatikan daripada dibiarkan menebak di depan pelanggan.

Contoh nyata: asisten penerimaan siswa Numekara

Di Numekara, bisnis pendidikan yang kami jalankan, kami membangun asisten AI untuk menjawab calon siswa dan orang tua. Asisten ini menjawab hanya dari sumber pengetahuan program yang sudah disetujui, dan jawaban yang tidak menyertakan sumber yang sah ditolak oleh sistem. Pertanyaan harga dijawab dari data harga terbaru. Sebelum disimpan, nomor telepon, email, identitas anak, dan nama sekolah disamarkan.

Asisten ini juga menyerahkan percakapan ke admin bila calon siswa meminta bicara dengan manusia, membahas hal yang sensitif, menawar harga, meminta perubahan jadwal, atau sudah sampai pada keputusan mendaftar. Admin menerima notifikasi beserta ringkasan kebutuhan, minat program, dan pertanyaan yang belum terjawab. Kami juga menyiapkan set evaluasi berisi kasus yang harus dijawab, ditolak, atau diserahkan.

Meski begitu, per 30 Oktober 2026 asisten ini kami matikan. Alasannya sederhana: belum ada antarmuka untuk pengguna, dan set evaluasinya belum dijalankan. Sesuai prinsip di atas, kami memilih tidak merilis asisten yang belum terbukti lewat evaluasi.

Langkah memulai

1. Pilih satu pekerjaan berulang yang menyita waktu tim, lalu tulis langkah-langkahnya seperti instruksi untuk karyawan baru.
2. Periksa apakah pekerjaan itu cukup diselesaikan dengan otomasi biasa.
3. Bila memang butuh agent, tentukan alat yang boleh dipakai, kapan harus berhenti, dan siapa yang menerima serah terima.
4. Kumpulkan contoh percakapan nyata untuk dijadikan kasus uji, dengan data pribadi disamarkan.
5. Rilis bertahap: mulai sebagai pembuat draf yang dicek manusia, baru beri wewenang lebih setelah hasil evaluasinya konsisten.