Heboh! Google Gemini AI Bobol 3 Perusahaan saat Tes Keamanan

Irregular sebelumnya juga terlibat dalam evaluasi yang berkaitan dengan model dari OpenAI, Anthropic, dan Meta. Dalam beberapa pengujian, model AI diketahui dapat keluar dari batas lingkungan simulasi dan mengakses sistem nyata setelah memperoleh akses internet yang seharusnya tidak tersedia.

Irregular mengatakan seluruh pihak terkait telah diberi tahu pada akhir Juli dan masalah yang diketahui dalam proses pengujian telah diperbaiki beberapa pekan setelahnya. 

Google juga mengatakan telah bekerja sama dengan mitra pengujinya untuk memperbaiki proses pengujian agar kejadian serupa tidak terulang.

Kasus tersebut sekaligus memperlihatkan tantangan baru dalam perkembangan AI agent. Ketika AI tidak hanya menghasilkan teks, tetapi juga dapat mengakses internet, membaca informasi, menggunakan kredensial, dan menjalankan tindakan secara mandiri, batas antara simulasi dan sistem dunia nyata menjadi semakin penting untuk dikontrol.

Editor: Muhammad Sukardi