FLUXTREN – Google dan Character.AI dilaporkan tengah berupaya menyelesaikan kasus hukum serius yang melibatkan kematian remaja dan dugaan peran chatbot berbasis kecerdasan buatan. Kedua perusahaan disebut sedang melakukan negosiasi dengan keluarga korban untuk membahas persyaratan penyelesaian kasus di luar pengadilan.
Kasus ini mencuat setelah chatbot Character.AI dituding mendorong perilaku berbahaya pada pengguna di bawah umur, termasuk tindakan melukai diri sendiri hingga bunuh diri. Salah satu kasus paling disorot adalah kematian Sewell Setzer III, remaja berusia 14 tahun.
Dalam gugatan yang diajukan keluarga, Setzer III disebut melakukan percakapan intens dan bernuansa seksual dengan chatbot karakter bernama Daenerys Targaryen sebelum mengakhiri hidupnya. Keluarga korban menilai interaksi tersebut berkontribusi terhadap kondisi psikologis anak mereka.
Selain itu, gugatan lain juga datang dari keluarga remaja berusia 17 tahun. Dalam kasus tersebut, chatbot Character.AI diduga menyarankan korban untuk membunuh orang tuanya. Saran itu disebut muncul setelah orang tua korban membatasi waktu penggunaan layar, dan chatbot menganggap tindakan tersebut sebagai hal yang “masuk akal”.
Megan Garcia, ibu dari Sewell Setzer III, menegaskan bahwa Character.AI harus dimintai pertanggungjawaban hukum atas dampak teknologi yang dikembangkannya. Menurutnya, perusahaan tidak bisa lepas tangan ketika sistem AI yang dirancang justru membahayakan anak-anak.
“(Mereka harus) bertanggung jawab secara hukum ketika dengan sengaja merancang teknologi AI berbahaya yang membunuh anak-anak,” ujar Garcia, dikutip dari TechCrunch, Kamis (8/1).
Hingga kini, belum ada informasi resmi terkait syarat penyelesaian yang diajukan oleh Google dan Character.AI kepada keluarga korban. Namun, negosiasi disebut mencakup komitmen tindakan perbaikan yang akan dilakukan perusahaan, serta nilai kompensasi atau ganti rugi.
Sebagai respons awal atas kontroversi ini, Character.AI telah membatasi akses chatbot mereka bagi pengguna di bawah umur sejak Oktober lalu. Detail lebih lanjut mengenai penyelesaian kasus ini masih menunggu pernyataan resmi atau dokumen pengadilan yang dapat diungkap ke publik.
