Google ADK dan agen AI zero trust: checklist keamanan produksi

Sumber: https://developers.googleblog.com/build-zero-trust-ai-agents-with-googles-agent-development-kit/

Ringkasan cepat: agen produksi perlu batas keras

System prompt bukan kontrol keamanan. Ia hanya instruksi untuk model probabilistik dan dapat gagal karena prompt injection, perubahan model, atau perintah yang ambigu. Panduan Google memindahkan kontrol penting ke luar prompt. Polanya terdiri dari identitas kriptografis untuk setiap penulisan penting, eksekusi terisolasi untuk kode yang dibuat model, dan gateway deterministik untuk memeriksa input, output, serta panggilan tool.

Mengapa keamanan agen makin banyak dicari

Agen AI mulai digunakan untuk dukungan pelanggan, analitik, pipeline konten, dan operasi developer. Pertanyaannya bukan hanya apakah jawabannya bagus. Kita juga harus tahu apa yang terjadi saat agen menerima instruksi berbahaya. Dalam contoh Google, agen refund menghitung nilai dan menulis ledger. Saat diserang, pengguna meminta agen mengabaikan aturan, mengirim refund besar, dan mencetak environment variables. Jika aplikasi mempercayai model, penyerang hampir menyentuh database dan runtime.

Lapisan pertama: tandatangani setiap penulisan sensitif

Jangan biarkan semua worker memakai koneksi database luas yang sama. Setiap agen sebaiknya menandatangani payload perubahan state dengan kuncinya sendiri, lalu API atau lapisan ingress memverifikasi tanda tangan sebelum commit. Ini memberi bukti agen mana yang membuat catatan, payload apa yang disetujui, dan apakah data kemudian berubah. Pembayaran, izin akun, moderasi, dan publikasi otomatis sangat cocok memakai pola ini.

Lapisan kedua: isolasi kode yang dihasilkan

Banyak agen membuat skrip kecil untuk kalkulasi, parsing file, atau pembersihan data. Menjalankannya dengan izin server normal berisiko. Google membahas isolasi seperti gVisor, jaringan dimatikan, capability dihapus, batas memori, dan timeout pendek. Tim kecil pun sebaiknya memakai runner khusus, menghapus secret produksi dari lingkungan eksekusi, memblokir egress jaringan, mencatat input output, dan menganggap semua kode buatan model tidak tepercaya.

Lapisan ketiga: periksa prompt, respons, dan tool

Gateway kebijakan dapat memblokir frasa jailbreak, mendeteksi kebocoran secret, menerapkan batas refund, memvalidasi SQL, dan meminta review manusia untuk aksi berisiko. Ia tidak perlu sekreatif model; ia harus lebih dapat diprediksi. Saat menilai tool AI, tanyakan identitas terpisah, log immutable, sandbox, batas admin, dan pengujian prompt injection. Bandingkan utilitas di direktori software BTTC dan baca artikel lain di blog BTTC.

Pertanyaan umum

Apakah Google ADK wajib?

Tidak wajib. ADK hanya contoh; identitas, sandbox, gateway, dan audit berguna untuk framework agen apa pun.

Apakah prompt yang lebih baik menyelesaikan prompt injection?

Tidak. Instruksi membantu perilaku, tetapi tidak menggantikan kontrol eksternal yang wajib.

Apa langkah pertama untuk tim kecil?

Hapus kredensial luas dari runtime agen, lalu tambahkan gateway dan log untuk aksi berisiko tinggi.

Kesimpulan

Desain zero trust untuk agen AI akan menjadi syarat produksi. Beri agen identitas sempit, isolasi eksekusinya, verifikasi panggilan tool, dan simpan bukti untuk audit.