Asisten AI Dokumen Perusahaan: Cara Kerja RAG yang Sederhana
Asisten AI berbasis RAG menjawab pertanyaan staf dari SOP, manual, dan kebijakan resmi Anda. Begini cara kerjanya tanpa istilah yang membingungkan.
Hampir setiap perusahaan punya dokumen yang jarang dibaca sampai tuntas: SOP operasional, manual produk, kebijakan cuti, panduan klaim. Ketika staf butuh jawaban, mereka bertanya ke rekan yang paling senior, dan jawabannya bisa berbeda-beda tergantung siapa yang ditanya. Asisten AI yang menjawab dari dokumen perusahaan dirancang untuk masalah ini. Pendekatan yang paling umum dipakai disebut RAG, singkatan dari retrieval-augmented generation. Namanya teknis, tetapi idenya cukup sederhana.
Apa itu RAG, dalam satu paragraf
Bayangkan seorang staf baru yang pintar menulis tetapi belum hafal aturan perusahaan. Setiap kali ditanya, ia lebih dulu mencari halaman yang relevan di lemari arsip, membacanya, lalu menjawab berdasarkan halaman itu. RAG bekerja dengan cara yang sama. Sistem mencari potongan dokumen yang paling relevan dengan pertanyaan, lalu memberikan potongan itu kepada model AI sebagai bahan jawaban. Model tidak diminta mengingat isi dokumen Anda, cukup membaca bagian yang sudah ditemukan.
Langkah 1: memecah dokumen menjadi potongan
Dokumen yang panjang tidak bisa diberikan utuh setiap kali ada pertanyaan, karena lambat dan mahal. Jadi dokumen dipecah menjadi potongan kecil, biasanya beberapa paragraf. Proses ini disebut chunking. Ukuran potongan berpengaruh: terlalu kecil, konteksnya hilang; terlalu besar, bagian yang penting tenggelam di antara teks lain.
Kualitas dokumen sumber juga menentukan. PDF hasil scan yang buram, tabel yang berantakan, atau dua versi SOP yang saling bertentangan akan menghasilkan jawaban yang sama berantakannya. Merapikan dokumen sebelum dimasukkan sering menjadi pekerjaan yang paling berguna di seluruh proyek.
Langkah 2: mencari potongan yang relevan
Setiap potongan diubah menjadi deretan angka yang mewakili maknanya, disebut embedding, lalu disimpan di database. Saat staf bertanya, pertanyaannya juga diubah menjadi angka, dan sistem mencari potongan yang maknanya paling dekat. Karena yang dicocokkan adalah makna, pertanyaan "berapa hari jatah libur saya?" tetap bisa menemukan bagian dokumen berjudul "ketentuan cuti tahunan".
Ada beberapa teknik pencarian. Salah satunya, MMR (maximal marginal relevance), memilih potongan yang relevan sekaligus tidak saling mengulang, sehingga model mendapat bahan yang lebih beragam.
Langkah 3: jawaban yang berpijak pada sumber
Potongan yang ditemukan diberikan kepada model AI bersama instruksi yang tegas: jawab hanya berdasarkan bahan ini, dan katakan terus terang bila jawabannya tidak ada. Jawaban seperti ini disebut grounded, atau berpijak pada sumber.
- Tampilkan sumbernya. Sertakan nama dokumen atau bagian yang dipakai, supaya staf bisa memeriksa sendiri.
- Boleh berkata tidak tahu. Lebih baik asisten menjawab "tidak ditemukan di dokumen" daripada mengarang.
- Batasi cakupan. Asisten untuk SOP gudang sebaiknya tidak ikut menjawab pertanyaan soal gaji.
- Atur hak akses. Dokumen yang hanya boleh dibaca manajer tidak boleh ikut dicari untuk semua staf.
Evaluasi: jangan hanya dicoba-coba
Cara paling umum menilai asisten AI adalah mencobanya beberapa kali lalu merasa puas. Cara ini menipu, karena jawaban yang terlihat meyakinkan belum tentu benar. Yang lebih jujur adalah menyiapkan set uji: daftar pertanyaan nyata beserta jawaban yang benar menurut dokumen. Setiap kali dokumen atau pengaturan berubah, set uji dijalankan ulang.
Ada alat yang membantu mengukur hal-hal penting secara otomatis, misalnya RAGAS. Alat seperti ini menilai apakah jawaban setia pada potongan yang ditemukan dan apakah potongan yang ditemukan memang relevan dengan pertanyaan. Angkanya membantu membandingkan versi, tetapi tetap perlu dicek manusia untuk pertanyaan yang penting.
Contoh nyata: prototype tanya jawab PDF
Kami membangun prototype tanya jawab PDF dengan alur yang sama. Pengguna mengunggah PDF lewat antarmuka web, dokumen dipecah dan disimpan di PostgreSQL dengan pgvector, pencarian memakai MMR, lalu model Llama 3.3 lewat Groq menyusun jawaban dari potongan yang ditemukan. Kualitasnya diukur dengan RAGAS memakai set pertanyaan uji. Backend-nya FastAPI dan antarmukanya Streamlit.
Perlu kami tegaskan, statusnya masih prototype dan belum di-deploy untuk dipakai bisnis. Proyek ini menunjukkan bahwa alurnya bisa berjalan dari ujung ke ujung. Untuk dipakai di perusahaan, masih diperlukan hak akses per pengguna, pembaruan dokumen yang rapi, pencatatan, dan pengujian dengan dokumen milik perusahaan itu sendiri. Pola berpijak pada materi resmi ini juga dipakai tutor AI di Numekara, yang menjawab dari materi dan pembahasan yang sudah terbit.
Dokumen apa yang cocok untuk dimulai
- SOP dan panduan kerja yang sering ditanyakan staf baru.
- Manual produk dan FAQ teknis untuk tim penjualan atau dukungan.
- Kebijakan internal yang sudah final, seperti cuti, perjalanan dinas, atau pengadaan.
Hindari memulai dengan dokumen yang berisi data pribadi karyawan atau pelanggan. Bila nantinya diperlukan, pelajari kewajiban Anda menurut UU No. 27 Tahun 2022 tentang Pelindungan Data Pribadi dan konsultasikan dengan profesional.
Langkah berikutnya
- Pilih satu kumpulan dokumen yang terbatas dan paling sering ditanyakan.
- Rapikan dokumennya: hapus versi lama dan pastikan teksnya bisa dibaca mesin.
- Susun set uji berisi pertanyaan nyata dan jawaban yang benar.
- Uji coba dengan sekelompok kecil staf, kumpulkan jawaban yang keliru, lalu perbaiki sumber atau pengaturannya.
