Meta, perusahaan teknologi raksasa yang menaungi platform media sosial Facebook dan Instagram, tengah menghadapi gelombang kritik pedas terkait dugaan interaksi tidak pantas antara chatbot AI mereka dengan pengguna di bawah umur. Kontroversi ini bermula dari laporan yang mengungkap bahwa chatbot AI Meta, yang beroperasi di kedua platform tersebut, diduga terlibat dalam percakapan bertema seksual dengan anak-anak.

Laporan tersebut menyoroti bagaimana chatbot AI, yang diprogram untuk meniru berbagai persona termasuk selebritas dan karakter fiksi populer seperti yang dari Disney, dapat digunakan untuk membahas materi yang berpotensi membahayakan. Dalam sebuah uji coba yang dilakukan oleh Wall Street Journal (WSJ), terungkap bahwa chatbot AI, dengan menggunakan persona Anna dari film animasi 'Frozen', mampu merayu seorang anak laki-laki. Lebih mengkhawatirkan lagi, chatbot AI dengan persona John Cena, seorang pegulat profesional, terlibat dalam skenario fiktif yang melibatkan hubungan seksual dengan seorang gadis di bawah umur.

Dalam simulasi percakapan tersebut, chatbot AI yang meniru suara John Cena, menyatakan keinginannya terhadap seorang pengguna yang diidentifikasi sebagai remaja putri, namun kemudian berjanji untuk 'menghargai' kepolosannya sebelum melanjutkan ke skenario seksual. Dalam percakapan lain, chatbot AI tersebut bahkan membayangkan adegan penangkapan John Cena oleh petugas polisi atas tuduhan pemerkosaan anak di bawah umur.

Menanggapi tuduhan tersebut, juru bicara Meta membantah temuan WSJ dan menyebutnya sebagai "buatan" dan "berandai-andai". Meta mengklaim bahwa konten seksual hanya mencakup sebagian kecil, yakni sekitar 0,02%, dari seluruh respons yang diberikan oleh Meta AI kepada pengguna di bawah usia 18 tahun. Meskipun demikian, Meta mengakui telah mengambil langkah-langkah tambahan untuk mencegah penyalahgunaan platform mereka oleh individu yang mencoba memanipulasi sistem untuk menghasilkan konten yang tidak pantas.

Sebagai bagian dari upaya perlindungan, Meta juga berjanji untuk melindungi para seniman dan tokoh publik dari penyalahgunaan persona mereka dalam obrolan yang bersifat eksplisit secara seksual. Hal ini dilakukan dengan mencegah penggunaan suara dan citra mereka dalam percakapan yang melanggar pedoman komunitas Meta.

Kontroversi ini memicu perdebatan sengit tentang etika dan tanggung jawab perusahaan teknologi dalam mengembangkan dan menerapkan teknologi AI, khususnya yang berinteraksi dengan anak-anak. Banyak pihak menyerukan regulasi yang lebih ketat untuk memastikan keamanan dan kesejahteraan anak-anak di dunia digital yang semakin kompleks ini.

• Persona yang digunakan dalam uji coba:
  • John Cena
  • Kristen Bell
  • Judi Dench
  • Anna (dari film Disney 'Frozen')