Peneliti Ungkap Bahaya Tersembunyi AI: Ancaman Disinformasi, Diskriminasi hingga Masa Depan Anak

JAKARTA, iNews.id – Di balik pesatnya kemajuan kecerdasan buatan (AI), tersimpan berbagai ancaman serius terhadap keamanan data, keadilan sosial, dan masa depan generasi muda. Para ahli memperingatkan, bahaya teknologi AI tidak boleh dianggap sepele, mulai dari risiko disinformasi, bias diskriminatif, hingga ancaman terhadap kemampuan berpikir kritis anak-anak.

“AI tidak boleh berbahaya dan bertentangan dengan prinsip dan keamanan manusia,” ujar Ayu Purwarianti, peneliti dari Pusat AI ITB, dalam webinar nasional Humanizing Artificial Intelligence yang digelar oleh STEI ITB.

Dia menyoroti pentingnya AI yang transparan, bisa dijelaskan, serta selalu dalam kendali manusia. AI yang tak diawasi dengan benar dinilai bisa memperkuat stereotip sosial dan merugikan kelompok rentan.

Indriaswati Dyah dari ELSAM mengingatkan kesadaran akan potensi diskriminasi oleh sistem AI masih sangat rendah. “Kesadaran akan potensi risiko AI dalam menguatkan bias dan diskriminasi masih rendah,” katanya.

Bahaya teknologi AI terhadap anak-anak juga menjadi perhatian utama. Andy Ardian dari ECPAT Indonesia mengungkap risiko chatbot AI yang mulai digunakan anak-anak tanpa pengawasan.

Menurutnya, data yang digunakan bisa bias dan memperkuat pandangan sosial yang salah. “AI dapat menggerus kemampuan berpikir kritis anak-anak dan menimbulkan ketergantungan,” ujarnya.

Diena Haryana dari SEJIWA Foundation menyampaikan teknologi seharusnya tidak menggantikan masa bermain anak. “AI tidak boleh menggantikan masa bermain dan eksplorasi anak. Teknologi bisa menjadi alat bantu tanpa harus mengganggu proses tumbuh kembang anak,” katanya.

Tak hanya itu, bahaya AI juga menyangkut disinformasi digital. Iradat Wirid dari CfDS UGM menyebut AI dapat memproduksi informasi palsu dengan meyakinkan. Dalam kondisi minim literasi digital, masyarakat rentan termakan oleh konten manipulatif. “Inovasi teknologi harus berpihak pada manusia, bukan gadget worship,” ucapnya.

Henke Yunkins dari Indonesia AI Society menegaskan bahwa AI “tidak dirancang untuk jujur, tetapi untuk terdengar meyakinkan.” Ini menjadi alarm serius dalam dunia pendidikan dan komunikasi publik.

Sementara itu, Panji Wasmana dari Microsoft Indonesia menyoroti makin otonomnya AI membutuhkan literasi pengguna yang kuat. “Bagaimana kita empower pengguna untuk... mengerti risiko dan mampu memastikan bahwa AI dapat dikontrol sedemikian rupa,” katanya.

Bahaya teknologi AI kini tak hanya bersifat teknis, tetapi menyentuh ranah sosial, etika, hingga moralitas generasi masa depan. Tanpa regulasi dan literasi yang kuat, AI dapat menjadi alat yang memperkuat ketimpangan dan merusak nilai-nilai kemanusiaan. Para ahli sepakat, AI harus dikendalikan—bukan sebaliknya.

Editor: Dani M Dahwilani