OpenAI Kembali Berurusan dengan Hukum Akibat Informasi Sesat dari ChatGPT

OpenAI, perusahaan di balik chatbot AI populer ChatGPT, kembali menghadapi gugatan hukum terkait akurasi informasi yang dihasilkan oleh platformnya. Kali ini, gugatan dilayangkan oleh kelompok advokasi privasi data asal Austria, None of Your Business (Noyb), atas tuduhan bahwa ChatGPT telah melakukan "halusinasi" atau memberikan informasi faktual yang keliru dan mencemarkan nama baik seseorang.

Gugatan ini bermula dari kasus seorang pria asal Norwegia yang menanyakan informasi tentang dirinya kepada ChatGPT. Alih-alih memberikan jawaban yang netral atau menolak memberikan informasi, ChatGPT justru memberikan informasi palsu yang menuduh pria tersebut melakukan pembunuhan terhadap dua anak dan percobaan pembunuhan terhadap anak ketiga. Padahal, pria tersebut tidak pernah terlibat dalam tindak kriminal apapun.

Informasi palsu yang diberikan oleh ChatGPT tidak hanya mencemarkan nama baik pria tersebut, tetapi juga disertai dengan data pribadi yang akurat, seperti jumlah anak, jenis kelamin anak-anaknya, dan kota tempat tinggalnya. Kombinasi antara informasi palsu dan data pribadi yang akurat ini membuat situasi semakin rumit dan berpotensi menimbulkan kerugian yang lebih besar bagi pria yang bersangkutan.

Noyb berpendapat bahwa OpenAI telah melanggar regulasi perlindungan data Uni Eropa, General Data Protection Regulation (GDPR), yang mensyaratkan bahwa data pribadi harus akurat dan relevan. Mereka juga mengkritik OpenAI karena hanya memberikan pernyataan singkat yang menyatakan bahwa ChatGPT dapat membuat kesalahan, yang dinilai tidak cukup untuk melindungi individu dari potensi kerugian akibat informasi yang tidak akurat.

Pelanggaran GDPR dan Potensi Sanksi

Noyb berpendapat bahwa OpenAI telah melanggar Pasal 5 GDPR, yang menyatakan bahwa data pribadi harus akurat dan, jika perlu, diperbarui. Organisasi tersebut juga mengklaim bahwa OpenAI gagal mematuhi Pasal 16 GDPR, yang memberi individu hak untuk memperbaiki data pribadi yang tidak akurat. Akibatnya, Noyb meminta otoritas perlindungan data Austria untuk menyelidiki OpenAI dan memastikan kepatuhan terhadap GDPR.

"GDPR sangat jelas. Data pribadi harus akurat. Jika tidak, pengguna berhak untuk memperbaikinya agar sesuai dengan kenyataan," kata pengacara perlindungan data Noyb, Joakim Söderberg.

Jika gugatan Noyb diterima, OpenAI berpotensi menghadapi sanksi denda yang signifikan sesuai dengan GDPR. Regulasi ini memberikan wewenang kepada otoritas perlindungan data untuk menjatuhkan denda hingga 4% dari pendapatan tahunan global perusahaan atau 20 juta Euro, mana pun yang lebih tinggi.

Bukan Kasus Pertama: Reputasi ChatGPT Dipertaruhkan

Kasus pria asal Norwegia ini bukan satu-satunya contoh kesalahan informasi yang dihasilkan oleh ChatGPT. Sebelumnya, chatbot ini juga pernah menuduh seorang reporter pengadilan melakukan pelecehan terhadap anak, seorang profesor hukum melakukan pelecehan seksual, dan individu lain terlibat dalam penipuan dan penggelapan. Deretan kasus ini menunjukkan bahwa kekeliruan informasi pada AI generatif bukanlah hal sepele, terutama ketika menyangkut reputasi dan data pribadi seseorang.

OpenAI sendiri telah mengakui bahwa ChatGPT dapat menghasilkan informasi yang tidak akurat dan menyarankan pengguna untuk melakukan verifikasi silang atas jawaban yang diberikan. Namun, kritik terhadap OpenAI semakin meningkat karena dianggap tidak cukup transparan mengenai sumber informasi yang digunakan oleh ChatGPT dan bagaimana cara memvalidasi keakuratan informasi yang dihasilkan.

Kasus ini menjadi pengingat penting tentang potensi bahaya dari AI generatif jika tidak dikembangkan dan digunakan secara bertanggung jawab. Akurasi, transparansi, dan perlindungan data pribadi harus menjadi prioritas utama dalam pengembangan dan penerapan teknologi AI untuk memastikan bahwa teknologi ini memberikan manfaat bagi masyarakat secara keseluruhan.

Daftar Kasus Serupa ChatGPT "Asbun":

• Menuduh reporter pengadilan melakukan pelecehan anak.
• Memfitnah profesor hukum melakukan pelecehan seksual.
• Menuduh individu terlibat dalam penipuan dan penggelapan.

Dengan semakin banyaknya kasus serupa, kredibilitas dan reputasi ChatGPT sebagai sumber informasi yang dapat diandalkan semakin dipertanyakan. OpenAI perlu mengambil langkah-langkah konkret untuk meningkatkan akurasi informasi yang dihasilkan oleh ChatGPT dan memastikan bahwa hak-hak individu dilindungi.