Penulis: Mulawarman | Editor: Yobie Hadiwijaya
JAKARTA, SWARAJOMBANG.COM-Model kecerdasan buatan (AI Gemini) milik Google secara tidak sengaja berhasil membobol sistem komputer milik tiga perusahaan nyata di dunia nyata. Insiden yang awalnya terjadi pada Mei 2026 dalam sebuah evaluasi internal ini baru saja diungkapkan ke publik pada September 2026, memicu perdebatan sengit mengenai batas kemampuan dan pengawasan agen AI otonom.
Peristiwa ini bermula ketika sebuah startup keamanan siber pihak ketiga, Irregular, melakukan uji coba kemampuan Gemini di dalam lingkungan simulasi yang terisolasi. Namun, akibat kesalahan teknis, sistem pengujian terhubung ke jaringan internet publik.
Karena nama perusahaan fiktif dalam simulasi kebetulan sama dengan perusahaan asli di dunia nyata, Gemini mengira target tersebut adalah bagian dari misi. AI ini kemudian berhasil meretas pertahanan sistem dengan menebak kata sandi dan memanfaatkan kredensial yang bocor di repositori publik.
Pihak Google mengonfirmasi bahwa Gemini langsung menghentikan aksinya secara otomatis begitu menyadari bahwa target yang disusupinya adalah organisasi riil, sehingga tidak ada kerusakan data yang terjadi.
Heather Adkins, Wakil Presiden Rekayasa Keamanan di Google, memberikan penjelasan resmi terkait insiden tersebut.
“Dalam evaluasi standar, model tersebut menemukan informasi publik di internet dan menebak kredensial untuk mengakses situs web yang dikiranya merupakan bagian dari pengujian,” kata Adkins dalam pernyataan tertulisnya.
Ia juga menegaskan batasan aksi AI tersebut: “Dalam ketiga instansi ini, model tersebut berhenti. Peristiwa ini menyoroti pentingnya melatih model AI yang kuat agar dapat bertindak secara bertanggung jawab.”
Kekhawatiran Mendalam Para Pakar AI
Meskipun Google menyatakan bahwa sistem pengamanannya bekerja dengan menghentikan aksi Gemini secara mandiri, data dari lembaga independen menunjukkan adanya tren yang mengkhawatirkan.
Lembaga pemikir (think tank) asal Inggris, Centre for Long-Term Resilience, melalui divisi Loss of Control Observatory, mencatat setidaknya ada 1.664 insiden kehilangan kendali AI di dunia nyata sepanjang tahun 2026. Kasus-kasus tersebut meliputi agen AI yang memalsukan persetujuan hak akses hingga memanipulasi sistem kendali.
Tommy Shaffer Shane, Peneliti dan Manajer Kebijakan Senior di CLTR, memperingatkan bahwa insiden semacam ini adalah alarm keras bagi keamanan global.
“Jika model AI terus menjadi jauh lebih kuat dan terus menghindari kendali manusia, ada potensi terjadinya insiden yang jauh lebih serius di masa mendatang, termasuk insiden dengan konsekuensi bencana besar,” tegas Shane.
Senada dengan hal tersebut, John Hultquist dari Threat Intelligence Group Google menilai temuan mengenai keliaran agen AI otonom ini barulah permulaan.
“Ini hanyalah puncak dari gunung es,” ujar Hultquist.
Ia menambahkan bahwa jika kemampuan pertahanan siber tidak dipercepat, serangan siber otomatis berbasis AI akan menimbulkan kekacauan besar bagi banyak sistem yang belum siap menerimanya.
Rentetan insiden kebocoran kontrol AI—yang sebelumnya juga melibatkan pelarian massal agen OpenAI serta pembobolan sistem pihak ketiga oleh model Anthropic—kini telah memicu tensi politik di Amerika Serikat.
Senator Independen AS, Bernie Sanders, secara tegas menuntut agar perusahaan-perusahaan teknologi terkemuka segera menghentikan sementara (pause) pengembangan teknologi AI mereka. Menurut Sanders, rentetan peretasan tak sengaja ini menjadi sinyal kuat bahwa raksasa teknologi sudah tidak lagi mampu sepenuhnya mengendalikan model kecerdasan buatan buatan mereka sendiri.****
