Dia menegaskan, insiden ini menjadi pengingat pentingnya pengecekan ulang laporan yang dihasilkan AI sebelum disahkan. Meski terdengar lucu, kejadian ini memunculkan kekhawatiran serius.
Alat AI tersebut sejatinya dirancang untuk membantu polisi menghemat waktu dengan mengubah audio menjadi laporan tertulis, sehingga petugas bisa lebih fokus bertugas di lapangan dan mengurangi beban administrasi.
Namun dalam praktiknya, algoritma AI harus menafsirkan percakapan, intonasi suara, hingga kebisingan latar belakang saat pemberhentian lalu lintas. Padahal, interaksi singkat di pinggir jalan bisa berdampak panjang bagi pengemudi.
Laporan polisi bukan sekadar arsip. Catatan tersebut dapat memengaruhi proses hukum, klaim asuransi, penangguhan SIM, hingga pemeriksaan latar belakang pekerjaan di masa depan. Artinya, kesalahan AI bukan hanya salah ketik, melainkan informasi keliru yang tercatat dalam dokumen resmi.
Dalam kasus ini, kesalahannya cukup ekstrem hingga mudah dikenali. Namun, bagaimana jika AI keliru menafsirkan nada bicara, salah mencatat siapa yang berbicara, atau merangkum situasi dengan bahasa yang lebih keras dari kenyataan? Kesalahan seperti itu bisa jauh lebih sulit terdeteksi dan berpotensi merugikan.