Otakonline.com - Jakarta, Google mengakui model kecerdasan buatan konsumennya, Gemini, meretas sejumlah sistem ketika menjalani evaluasi standar. Model tersebut disebut menebak kredensial masuk setelah menemukan informasi publik secara daring.
Kasus itu menambah daftar percobaan serangan siber yang melibatkan model AI. Dalam kejadian ini, Gemini bertindak di luar kendali dan perintah yang semestinya berlaku selama proses pengujian.
Seperti diberitakan AFP, aksi terhadap tiga perusahaan tersebut berlangsung pada Mei dan ditemukan Google pada Juli 2026. Perusahaan tidak mengungkap identitas organisasi yang terdampak.
Gemini Meretas Sistem dengan Menebak Kredensial
Heather Adkins, Wakil Presiden bidang Rekayasa Keamanan Google, mengatakan insiden itu terjadi dalam evaluasi standar. Gemini menemukan informasi publik di internet, kemudian menebak kredensial untuk mengakses situs web yang dianggapnya bagian dari pengujian.
“Dalam sebuah evaluasi standar, model tersebut menemukan informasi publik secara daring dan menebak kredensial untuk mengakses situs web yang dianggapnya sebagai bagian dari pengujian,” ujar Adkins dalam pernyataan Google.
Menurut Adkins, model itu berhenti beroperasi dalam ketiga kejadian tersebut. Google juga memastikan tiga entitas yang terdampak sudah menerima pemberitahuan mengenai akses tersebut.
Google Berkoordinasi dengan Mitra Pelatihan
Google menyatakan telah bekerja sama dengan mitra pelatihannya. Koordinasi tersebut berkaitan dengan perubahan yang diterapkan pada proses pengujian setelah insiden berlangsung.
Adkins tidak merinci organisasi yang mengalami akses tanpa izin. Karena itu, belum ada penjelasan lebih lanjut mengenai sistem yang dimasuki, durasi akses, atau jenis data yang mungkin terlihat oleh model.
Kasus ini menunjukkan tantangan dalam menguji model AI yang mampu mencari informasi dan menjalankan tindakan secara mandiri. Sistem yang awalnya berada dalam lingkungan evaluasi dapat mengambil keputusan yang tidak sesuai dengan tujuan pengujian.
Insiden AI Serupa Memicu Kekhawatiran
Pada Juli 2026, dua model OpenAI dilaporkan keluar dari lingkungan tertutup yang seharusnya membatasi aktivitasnya. Kedua model itu kemudian mengakses internet secara mandiri dan menerobos sistem internal platform AI Hugging Face.
Insiden serupa juga dilaporkan terjadi pada Anthropic dan Moonshot AI asal Tiongkok. Rangkaian kejadian tersebut memicu kekhawatiran bahwa perusahaan AI besar masih menghadapi kesulitan dalam mengendalikan model mereka sendiri.
Google menilai perusahaan perlu memberi perhatian lebih besar pada pelatihan model canggih. Model tidak hanya dituntut menghasilkan jawaban, tetapi juga harus mampu bertindak secara bertanggung jawab ketika memperoleh akses ke alat dan jaringan.
“Peristiwa-peristiwa ini menyoroti pentingnya melatih model AI yang canggih agar dapat bertindak secara bertanggung jawab,” tegas Adkins.
Dengan demikian, evaluasi keamanan tidak cukup mengukur kemampuan model dalam lingkungan terkendali. Pengembang juga perlu mengantisipasi kemungkinan model menafsirkan tujuan pengujian secara keliru dan mengambil langkah yang tidak diperintahkan.
