Penyerahan Kognitif dan Pabrikasi Ingatan Palsu: Distopia Artificial Intelligence?

Tim iNews.id
Pemerhati Budaya dan Komunikasi Digital, Dr. Firman Kurniawan S. (Foto: Dok Pribadi)

Sebelum membahas implikasinya lebih jauh, cognitive surrender kurang lebih diartikan oleh Shaw dan Nave sebagai kecenderungan perilaku dan motivasi manusia untuk menyerahkan penilaian, upaya berpikir, maupun tanggung jawab kepada AI. Dapat dimengerti bahwa manusia yang telah mencapai penyerahan kognitif secara bertahap akan mempercayai produk dan proses kognitif yang dilakukan mesin. Inilah indikasi bekerjanya Sistem 3. Jawaban perangkat AI yang cepat, meyakinkan, dan mudah diterima membentuk kepercayaan terhadap seluruh produk dan prosesnya. Mekanismenya, kecepatan membangun ilusi ketepatan, sedangkan keyakinan terbentuk oleh kelaziman. AI mengolah data perilaku manusia secara global dan statistik, menghasilkan pola perilaku yang tampak lazim. Karena itu, hasilnya mudah diterima.

Shaw dan Nave juga membedakan cognitive offloader dari cognitive surrender. Dalam cognitive offloader—siswa yang menggunakan kalkulator atau pengemudi yang menggunakan GPS—terdapat proses evaluasi kritis terhadap hasil yang diberikan. Penggunaan perangkat, termasuk perangkat berbasis AI, sekadar membantu proses berpikir. Sementara itu, dalam cognitive surrender, penggunanya cenderung menerima hasil AI dengan evaluasi minimal, bahkan mengabaikan proses berpikirnya sendiri. Implikasi meluasnya cognitive surrender dalam kehidupan nyata adalah makin minimnya evaluasi kritis. Maka, AI yang digunakan dengan penyerahan kognitif dapat mengubah cara manusia bernalar, mengambil keputusan, memahami otonomi, dan mendistribusikan tanggung jawab di dalam masyarakat.

Implikasi cognitive surrender tersebut senada dengan uraian Darren Orf pada 2026 dalam tulisan berjudul “Scientists Say AI Can Plant False Memories—and It’s Slowly Decaying Your Mind”. Berdasarkan berbagai hasil penelitian terungkap bahwa perangkat AI dapat menanamkan ingatan palsu pada penggunanya. Selain itu, penggunaan AI secara rutin—tanpa disadari oleh pengguna yang mengalihkan keterampilan kognitifnya kepada chatbot—dapat berdampak buruk pada kemampuan berpikir. Temuan tersebut berdasarkan pada eksperimen yang melibatkan 1.372 pengguna AI dalam pekerjaannya.

Memang, menanamkan isi pikiran tersebut bukan dengan cara mengunggah memori palsu ke otak oleh AI. Konstruksi ingatan palsu dilakukan dengan cara memasukkan materi pikiran yang mengandung 75 persen kesalahan secara bertahap. Hasilnya, memori yang dibangkitkan kembali dapat 'tercemar' oleh kesalahan tersebut. Hal ini terjadi lantaran memori manusia bersifat konstruktif. Manusia membangun ingatan secara bertahap, dari satu peristiwa ke peristiwa lain yang dialaminya. Dalam proses konstruksi itu, manipulasi ingatan dilakukan dengan menyisipkan materi palsu ke dalam ingatan asli.

Begini penjelasannya: memori seseorang tentang suatu peristiwa—misalnya saat mengunjungi suatu tempat bersama empat orang teman—dapat dibangkitkan kembali melalui foto. Namun, dalam proses tersebut, diselipkan bagian foto hasil manipulasi AI yang menampilkan satu teman tambahan. Dengan demikian, orang tersebut seolah-olah pergi bersama lima teman, bukan empat teman seperti yang sebenarnya. Pemampangan foto tersebut secara wajar dan berulang-ulang dapat membentuk kembali ingatannya. Namun, yang terbangkitkan adalah hasil rekonstruksi, yakni memori asli yang ditambah dengan memori palsu. Ketika diminta menceritakan kembali peristiwa itu, orang tersebut mengingat dirinya pergi bersama lima teman, bukan empat teman sebagaimana kejadian sebenarnya. Ingatan palsu ini merupakan hasil manipulasi AI.

Editor : Maria Christina
Artikel Terkait
1 tahun lalu

Dapatkah Rasionalitas Berpikir Bertahan di Zaman Artificial Intelligence? 

1 tahun lalu

Aksi Artificial Intelligence Memerangi Korupsi

1 tahun lalu

"Efek Kupu-Kupu" Artificial Intelligence pada Nasib Peradaban

1 tahun lalu

Urgensi Aturan Perlindungan terhadap Bahaya Artificial Intelligence

Berita Terkini
Network
Kami membuka kesempatan bagi Anda yang ingin menjadi pebisnis media melalui program iNews.id Network. Klik Lebih Lanjut
Network Updates
News updates from 99+ regions
Personalize Your News
Get your customized local news
Login to enjoy more features and let the fun begin.
Kanal