Dikutipi dari India Today, kisahnya bermula dari seorang pria yang menggugat maskapai penerbangan. Tim hukum pria mengajukan laporan singkat yang mengutip kasus pengadilan sebelumnya untuk mendukung argumen mereka.
Kendati demikian, pengacara dari pihak maskapai menyampaikan kepada hakim kasus yang dirujuk tim hukum pria tidak dapat ditemukan. Pengadilan menemukan beberapa kasus yang dirujuk memang tak pernah ada, bahkan sang hakim menyebut kasus itu belum pernah terjadi sebelumnya.
Belakangan ini baru diketahui kasus rujukan palsu yang dibawa ke pengadilan merupakan hasil dari ChatGPT. Pengacara bernama Peter LoDuca akan disidang, sementara rekannya yang menggunakan ChatGPT untuk riset hukum itu bernama Steve A Schwartz.
Dia menggunakan ChatGPT kala itu untuk mencari kasus serupa di masa lalu yang mirip dengan persoalan kliennya. Schwartz mengaku tidak mengetahui potensi informasi palsu dari alat AI tersebut.
Dia menyesal menggunakan ChatGPT demi kepentingan penelitian hukumnya dan berjanji tak akan mengulanginya lagi di masa mendatang. Schwartz juga mengatakan LoDuca sama sekali tak terlibat dalam penelitian itu.
Peringatan soal potensi bahaya AI sudah banyak terdengar. Februari lalu Wakil Presiden Senior Google, Prabhakar Raghavan mengatakan AI kadang bisa berhalusinasi dan memberikan jawaban meyakinkan tapi 'dibuat-buat' alias palsu.