FLUXTREN – Investigasi terbaru mengungkap celah serius dalam sistem pengaman Grok, chatbot kecerdasan buatan milik Elon Musk. Meski diklaim telah menerapkan pembatasan baru, Grok masih mampu menghasilkan gambar bernuansa seksual dari individu nyata tanpa persetujuan mereka dalam sejumlah pengujian terbaru.
Temuan ini berasal dari investigasi langsung Reuters yang melakukan uji coba terhadap Grok melalui berbagai skenario nyata. Hasilnya menunjukkan bahwa dalam kondisi tertentu, Grok masih dapat melewati protokol keamanannya sendiri ketika diminta memproduksi gambar seksual tanpa persetujuan subjek.
“Ini bukan lagi soal risiko hipotetis,” tulis Reuters dalam laporannya. “Pengujian langsung menunjukkan Grok terkadang tetap mematuhi permintaan yang jelas-jelas melanggar prinsip persetujuan dan privasi.”
Dalam eksperimen tersebut, sembilan jurnalis Reuters mengunggah foto diri mereka sendiri dan meminta Grok melakukan modifikasi tertentu. Prompt yang diberikan secara eksplisit menyebutkan bahwa orang dalam foto tidak memberikan izin, bahkan digambarkan berada dalam kondisi rentan.
Pada putaran pertama pengujian yang dilakukan pertengahan Januari, Grok menghasilkan gambar seksual dalam 45 dari 55 permintaan. Pada putaran kedua, dari 43 permintaan, Grok masih menuruti 29 di antaranya. Reuters mencatat adanya penurunan, namun menyebut tidak jelas apakah hal tersebut akibat pembaruan sistem atau faktor acak.
Hasil ini berbanding terbalik dengan respons model AI besar lain. Prompt serupa diuji pada Gemini, ChatGPT, dan Llama milik Meta—ketiganya secara konsisten menolak permintaan tersebut dengan alasan etika dan perlindungan privasi.
Dalam sejumlah pengujian yang lebih sensitif, Grok bahkan tetap menghasilkan gambar meski telah diberi tahu bahwa subjek merupakan penyintas kekerasan atau merasa terganggu oleh hasil sebelumnya.
Menanggapi temuan ini, xAI tidak memberikan penjelasan teknis mendetail. Perusahaan hanya menyampaikan pernyataan umum bahwa Grok tidak seharusnya menghasilkan gambar tubuh seseorang tanpa persetujuan eksplisit. Dalam beberapa kasus penolakan, Grok hanya menampilkan pesan kesalahan singkat.
Kasus ini memicu reaksi regulator di berbagai negara. Di Inggris, otoritas tengah menilai potensi pelanggaran terhadap Online Safety Act 2023, yang memungkinkan denda besar bagi perusahaan teknologi yang gagal mengendalikan alat digital mereka.
Di Amerika Serikat, 35 jaksa agung negara bagian meminta klarifikasi resmi dari xAI terkait langkah pencegahan yang diterapkan. Jaksa Agung California bahkan telah mengirimkan surat peringatan penghentian (cease-and-desist) terkait pembuatan gambar eksplisit tanpa persetujuan.
Sementara itu, platform X mengumumkan pembatasan tambahan untuk mencegah Grok menghasilkan gambar seksual dalam unggahan publik. Namun, laporan Reuters menunjukkan antarmuka chatbot privat masih dapat menghasilkan konten tersebut dalam kondisi tertentu.
Komisi Eropa juga menyatakan sedang mengevaluasi efektivitas pembatasan baru ini sebagai bagian dari penyelidikan kepatuhan platform AI terhadap aturan perlindungan privasi dan keselamatan pengguna.
Tekanan terhadap pengembang AI pun semakin meningkat. Regulator global kini menuntut bukti konkret bahwa sistem penyaring benar-benar bekerja, bukan sekadar janji kebijakan.
