AGENTIC AI / DECISION GUIDE
Asisten yang menyusun draf dan agen yang bertindak sendiri adalah dua hal berbeda. Pertanyaan yang menentukan bukan "seberapa pintar agennya", melainkan "seberapa mudah akibat tindakannya dibatalkan".
Tiga hal yang sering dicampur
Dalam percakapan sehari-hari, "AI agent" dipakai untuk apa saja. Memisahkannya mengubah cara memutuskan.
- Asisten membantu manusia menghasilkan atau menemukan informasi. Ia menyusun draf, meringkas, menjawab pertanyaan. Manusia yang bertindak.
- Alur kerja otomatis menjalankan langkah yang sudah ditentukan. Jika X, lakukan Y. Perilakunya bisa diprediksi dan diuji.
- Agen memilih sendiri langkahnya untuk mencapai tujuan, memakai alat dan data, dan bertindak. Di sinilah risiko berubah.
Contoh dari produk yang ada membantu. Agentforce Service dari Salesforce disebut sebagai platform layanan pelanggan yang aktif 24 jam, tempat manusia dan agen AI bergantian menangani kasus. Employee Agent-nya bisa menjadwalkan rapat, memperbarui peluang penjualan, dan menyiapkan ringkasan pelanggan. Keduanya melakukan hal yang berbeda tingkatnya: menyiapkan ringkasan hampir tak berisiko, memperbarui catatan penjualan punya akibat, dan menjawab pelanggan langsung membawa risiko reputasi.
Minat dunia usaha tinggi. Studi EY 2026 menemukan 34% perusahaan di berbagai negara sudah berinvestasi pada agentic AI, dan 32% lain berencana melakukannya dalam setahun. Pertanyaan praktisnya bukan apakah mencoba, tetapi proses mana yang aman diserahkan.
Dua pertanyaan yang memilah proses
Untuk setiap proses yang dipertimbangkan, tanyakan dua hal.
- Seberapa besar dampaknya bila agen keliru? Uang, data pelanggan, keselamatan, reputasi.
- Seberapa mudah tindakannya dibatalkan? Draf bisa dihapus. Pembayaran yang terkirim atau email ke seribu pelanggan tidak bisa ditarik.
| Mudah dibatalkan | Sulit dibatalkan | |
|---|---|---|
| Dampak kecil | Otomatiskan penuh, dengan log. Contoh: mengelompokkan tiket, menyusun ringkasan | Otomatiskan dengan batas, dan tinjau sampel secara rutin |
| Dampak besar | Agen menyiapkan, manusia menyetujui. Contoh: draf balasan keluhan serius | Manusia memutuskan, agen hanya memberi bahan. Contoh: pembayaran, perubahan data inti |
Aturan sederhananya: semakin besar dan semakin permanen akibatnya, semakin dekat manusia harus berada.
Batas ada di luar perintah
Kesalahan umum adalah menaruh batasan di dalam perintah ke model: "jangan pernah mengembalikan dana lebih dari seratus ribu." Model bisa saja salah memahami, dibujuk, atau berubah perilaku setelah pembaruan. Batas yang sebenarnya harus berada di sistem di sekelilingnya.
- Izin yang sempit. Agen hanya memiliki hak akses yang dibutuhkan untuk tugasnya, seperti pegawai baru, bukan administrator.
- Persetujuan di titik berisiko. Sistem, bukan model, yang menahan tindakan hingga manusia menyetujui.
- Batas nilai dan jumlah. Maksimal transaksi, maksimal pesan per jam.
- Catatan lengkap. Apa yang diminta, apa yang diputuskan, dan alasannya, supaya bisa diperiksa.
Laporan Microsoft Digital Defense Report 2026 menguatkan sisi keamanannya: sistem AI beserta data dan infrastruktur pendukungnya kini menjadi sasaran serangan, dan organisasi dianjurkan mengawasi alat serta agen AI yang tidak disetujui dan memberi akses sesuai kebutuhan. Agen yang dibuat seorang karyawan secara diam-diam, dengan akses luas, adalah kerentanan yang menunggu waktunya.
Satu contoh arah industri: IBM Maximo 9.2 menyediakan server MCP yang memungkinkan organisasi menghubungkan agen AI mereka sendiri ke API Maximo. Itu berguna, dan juga berarti pertanyaan tentang izin dan pencatatan harus dijawab untuk setiap agen yang disambungkan.
Pilot 90 hari yang bisa dibuktikan
- Minggu 1–2: pilih satu proses di kuadran paling aman. Catat angka awalnya: waktu, volume, tingkat kesalahan manusia.
- Minggu 3–6: bangun dengan izin sempit dan persetujuan manusia untuk semua tindakan, termasuk yang tampak sepele.
- Minggu 7–10: longgarkan persetujuan hanya untuk jenis tindakan yang terbukti tepat, berdasarkan log, bukan perasaan.
- Minggu 11–13: bandingkan dengan angka awal dan putuskan: lanjutkan, perluas, atau hentikan.
Otonomi bukan saklar. Ia diberikan sedikit demi sedikit, berdasarkan bukti.
Ingin membahasnya?



Solution
Solution
Solution
