JAKARTA, iNews.id - Google menghentikan sementara alat AI baru Gemini usai pengguna mengecam pembuat gambar yang mengganti tokoh sejarah berkulit putih. Alat AI menghasilkan Viking, ksatria, bapak pendiri negara, dan bahkan tentara Nazi yang berbeda ras.
Program artificial intelligence (AI) belajar dari informasi yang tersedia untuk mereka. Peneliti telah memperingatkan AI cenderung menciptakan rasisme, seksime, dan bias lainnya dari penciptanya serta masyarakat pada umumnya.
Dalam kasus ini, Google kemungkinan dikoreksi secara berlebihan dalam upaya mengatasi diskriminasi karena beberapa pengguna memberikan perintah demi perintah dalam upaya yang gagal demi membuat AI menciptakan gambar orang kulit putih.
"Kamu memerhatikan Gemini menawarkan beberapa penggambaran tokoh sejarah tidak akurat, " kata tim komunikasi Google di X sebagaimana dikutip dari Daily Mail.
Gambar tokoh bersejarah yang tidak akurat mendorong beberapa pengguna menuduh AI rasis terhadap orang kulit putih. Dalam sebuah pernyataan, Google mengakui kesalahan ini.
"Kami berusaha mengatasi masalah terkini dengan fitur pembuatan gambar Gemini. Sementara kami melakukan hal ini, kami akan mengentikan sementara pembuatan gambar orang-orang dan segera merilis versi yang lebih baik," kata Google.