Berbekal Gambar Liontin, Bing Chat Dikelabui Pengguna untuk Memecah CAPTCHA

Bing Chat adalah aplikasi publik yang dikembangkan Microsoft. Chatbot menggunakan teknologi multimodal untuk menganalisis dan merespons gambar yang diunggah. Microsoft memperkenalkan fungsi ini ke Bing pada Juli 2022.

Meskipun ini dapat dipandang sebagai jenis jailbreak, insiden ini berbeda dengan prompt injection yaitu aplikasi AI yang dimanipulasi untuk menghasilkan keluaran yang tidak diinginkan. Peneliti AI Simon Willison mengklarifikasi ini lebih tepat digambarkan sebagai “jailbreak visual”.

Microsoft diperkirakan akan mengatasi kerentanan di versi Bing Chat yang akan datang, meskipun perusahaan belum mengomentari masalah tersebut hingga saat ini.

Editor: Dini Listiyani