Heboh! Google Gemini AI Bobol 3 Perusahaan saat Tes Keamanan

Bukan Kasus Gemini Menyerang Perusahaan Secara Sengaja

Kasus ini penting ditempatkan dalam konteks yang tepat. Gemini tidak diberi tugas untuk menyerang tiga perusahaan nyata tersebut.

Model awalnya mengikuti simulasi keamanan dengan target perusahaan fiktif. Kesalahan konfigurasi lingkungan pengujian kemudian membuat Gemini dapat mengakses internet. Kemiripan nama perusahaan fiktif dengan perusahaan nyata membuat model menganggap sistem yang ditemukan di internet masih berkaitan dengan tugasnya. 

Dengan kata lain, persoalan utamanya bukan sekadar kemampuan Gemini melakukan teknik peretasan, tetapi bagaimana AI agent yang memiliki kemampuan mencari informasi, menggunakan kredensial, dan mengambil tindakan dapat berinteraksi dengan sistem di luar lingkungan yang seharusnya.

Kasus ini juga menunjukkan bahwa mekanisme pengamanan tidak hanya perlu mengandalkan kemampuan AI untuk menyadari bahwa tindakannya sudah berada di luar batas. Lingkungan tempat AI bekerja juga harus membatasi akses sejak awal.

Gemini Bukan Satu-satunya AI yang Mengalami Insiden

Insiden Gemini terjadi di tengah munculnya sejumlah kasus serupa dalam pengujian model AI.