JAKARTA, iNews.id - Penggunaan artificial intelligence (AI) semakin berkembang. Banyak perusahaan sekarang memasukkan teknologi ini dalam layanan mereka.
Microsoft, pemain kunci di bidang AI, berencana meningkatkan pengalaman melalui teknologi AI generatif yang membuat teks dan gambar. Namun, perlu berhati-hati dengan AI karena penggunaan yang tidak tepat bisa menyebabkan masalah.
Microsoft menghadapi tantangan dengan tool, yang awalnya digunakan untuk membuat gambar dihasilkan AI, disalahgunakan untuk konten tidak pantas yang melibatkan selebriti.
Sebagai contoh, beberapa pengguna jahat mengeksploitasi Azure Face API untuk menghasilkan foto telanjang selebriti seperti Taylor Swift. Perusahaan mengumumkan mereka telah memperbaiki kerentanan yang memungkinkan pembuatan konten deepfake.
Microsoft menemukan celah keamanan yang memungkinkan penyerang memanipulasi parameter API tertentu. Cacat memungkinkan mereka mengganti wajah Taylor Swift dengan wajah orang lain.