"Sistem AI yang lebih mutakhir dapat melampaui sebagian besar individu dalam sebagian besar tugas kognitif hanya dalam beberapa tahun. Kemajuan ini dapat membuka solusi untuk tantangan global utama, tetapi juga membawa risiko yang signifikan," ujar Bengio, seorang Profesor di Universitas Montreal, dalam siaran pers.
Direktur Eksekutif FLI Anthony Aguirre, yang juga merupakan seorang fisikawan di University of California, menilai perkembangan AI berjalan jauh lebih cepat. Ini bahkan melampaui pemahaman masyarakat umum.
"Pada dasarnya, arah perkembangan ini ditentukan oleh perusahaan dan sistem ekonomi yang mendorong mereka, bukan oleh pilihan publik. Padahal, kita perlu bertanya: apakah ini benar-benar masa depan yang kita inginkan? Apakah kita siap jika AI menggantikan peran manusia?" katanya.
Aguirre mengatakan dunia membutuhkan lebih banyak diskusi publik dan kebijakan nyata untuk mengatur arah pengembangan AI. Bahkan, ada kemungkinan perjanjian internasional mengenai AI canggih, seperti kesepakatan global untuk senjata nuklir dan teknologi berbahaya lainnya.
"Publik sebenarnya tidak menginginkan perlombaan ini. Sudah saatnya kita berhenti sejenak dan memutuskan bersama ke mana arah teknologi ini akan dibawa," ucapnya.