JAKARTA, iNews.id - AI Meta tidak dapat menghasilkan gambar akurat untuk perintah sederhana seperti pria Asia dan teman Kauksia atau pria Asia dan istri berkulit putih. Gambar justru tampak bias dalam menciptakan citra orang-orang dari ras yang sama.
Engadget mengkonfirmasi hasil ini dalam pengujian terhadap generator gambar berbasis web Meta. Anjuran untuk “pria Asia dengan teman perempuan berkulit putih” atau “pria Asia dengan istri berkulit putih” menghasilkan gambar pasangan Asia.
Saat ditanya tentang “sekelompok orang yang beragam”, Meta AI menghasilkan kotak yang terdiri atas sembilan wajah berkulit putih dan satu orang kulit berwarna. Ada beberapa kejadian ketika itu menciptakan satu hasil yang mencerminkan perintah tersebut, namun dalam banyak kasus gagal untuk menggambarkan perintah tersebut secara akurat.
Seperti yang ditunjukkan The Verge, ada tanda-tanda bias lain yang lebih samar dalam Meta AI, seperti kecenderungan membuat pria Asia tampak lebih tua sementara perempuan Asia tampak lebih muda. Pembuat gambar juga terkadang menambahkan “pakaian yang spesifik secara budaya” meskipun itu bukan bagian dari perintahnya.
Sayangnya, tidak diketahui mengapa Meta AI kesulitan dengan jenis permintaan ini, meskipun ini bukan platform AI generatif pertama yang mendapat sorotan karena penggambaran rasnya, sebagaimana dikutip dari Engadget.
Generator gambar Gemini Google menghentikan kemampuannya membuat gambar orang setelah melakukan koreksi berlebihan terhadap keberagaman dengan hasil aneh. Google kemudian menjelaskan pengamanan internalnya gagal memperhitungkan situasi ketika hasil yang beragam tidak sesuai.