FLUXTREN — Negara-negara anggota European Union mulai mengambil langkah hukum baru untuk membatasi penyalahgunaan kecerdasan buatan. Pemerintah negara anggota pada Jumat (13/3) mengusulkan agar teknologi AI yang mampu menghasilkan gambar pelecehan seksual terhadap anak dimasukkan sebagai praktik terlarang dalam regulasi utama AI blok tersebut.
Usulan tersebut bertujuan menambahkan larangan terhadap teknologi AI yang dapat membuat materi pelecehan seksual anak ke dalam kerangka hukum EU AI Act, regulasi kecerdasan buatan yang selama ini disebut sebagai salah satu aturan AI paling komprehensif di dunia.
Langkah ini muncul di tengah meningkatnya kekhawatiran global mengenai penyalahgunaan teknologi generatif untuk membuat konten seksual eksplisit, termasuk deepfake intim yang dapat diproduksi menggunakan model AI.
Tekanan terhadap perusahaan teknologi juga meningkat setelah muncul laporan mengenai konten seksual yang diduga dihasilkan oleh chatbot Grok. Chatbot tersebut dikembangkan oleh perusahaan kecerdasan buatan xAImilik Elon Musk dan terintegrasi dengan platform media sosial X.
Sejumlah regulator teknologi di Eropa saat ini tengah menyelidiki potensi penyalahgunaan teknologi tersebut. Otoritas pengawas di beberapa negara seperti United Kingdom, Ireland, dan Spain bersama regulator Uni Eropa sedang meneliti kasus deepfake seksual yang diduga dihasilkan oleh Grok.
Meski demikian, proposal larangan baru ini masih harus melalui proses legislasi. Rencana tersebut perlu mendapat persetujuan dari European Parliament sebelum dapat diadopsi secara resmi.
Jika parlemen menyetujui pendekatan yang sama, tahap berikutnya adalah negosiasi dengan European Commission untuk memasukkan perubahan tersebut ke dalam kerangka hukum AI yang sudah berlaku.
Para analis memperkirakan proses legislasi dan negosiasi dapat berlangsung sekitar satu tahun sebelum aturan baru benar-benar diterapkan. Perdebatan diperkirakan akan cukup sengit karena sebagian pihak di Uni Eropa sebelumnya mengusulkan pelonggaran aturan AI guna mendorong inovasi teknologi.
Namun kelompok masyarakat sipil dan organisasi perlindungan privasi menilai regulasi ketat tetap diperlukan untuk mencegah penyalahgunaan teknologi generatif, terutama yang berpotensi membahayakan anak dan memperluas eksploitasi digital.
