FLUXTREN – Sorotan terhadap penyalahgunaan kecerdasan buatan (AI) untuk pembuatan konten pornografi non-konsensual tidak hanya mengarah ke X dan chatbot Grok milik Elon Musk. Apple kini turut dikritik karena masih mengizinkan puluhan aplikasi “nudify” berbasis AI beredar di App Store.
Laporan terbaru dari Tech Transparency Project (TTP) yang dirilis pada 27 Januari mengungkap keberadaan sedikitnya 47 aplikasi “AI nudify” di App Store dan 55 aplikasi serupa di Google Play Store. Aplikasi-aplikasi tersebut menawarkan layanan untuk mengedit foto seseorang agar tampak telanjang tanpa persetujuan, termasuk dengan teknik face-swap dan generator berbasis prompt.
Menurut temuan TTP, aplikasi-aplikasi tersebut mudah ditemukan hanya dengan kata kunci seperti “nudify” atau “undress”. Dari pengujian yang dilakukan, puluhan aplikasi terbukti mampu menghasilkan gambar atau video seksual, meski sebagian mengklaim melarang penggunaan semacam itu dalam ketentuan layanan mereka.
Secara global, aplikasi-aplikasi ini disebut telah diunduh lebih dari 705 juta kali dan diperkirakan menghasilkan pendapatan sekitar US$117 juta. Dengan skema bagi hasil di toko aplikasi, Apple dan Google dinilai ikut memperoleh keuntungan finansial dari aplikasi-aplikasi tersebut.
TTP juga menyoroti fakta bahwa banyak aplikasi “nudify” ini diberi rating usia remaja di bawah 18 tahun, meskipun berpotensi menghasilkan konten seksual eksplisit. Padahal, pedoman App Store Review Guidelines Apple secara tegas melarang konten pornografi, konten yang “mengganggu atau menyeramkan”, serta mewajibkan penyaring efektif untuk konten buatan pengguna.
Setelah dihubungi terkait temuan tersebut, Apple meminta daftar aplikasi bermasalah. Perusahaan kemudian menyampaikan kepada CNBC bahwa mereka telah menghapus 28 aplikasi dan memperingatkan pengembang lain untuk memperbaiki pelanggaran atau menghadapi penghapusan.
Namun, laporan ini menilai langkah tersebut belum cukup. TTP menyebut temuan mereka kemungkinan hanya mencerminkan sebagian kecil dari total aplikasi bermasalah yang beredar, sekaligus mempertanyakan proses peninjauan App Store yang memungkinkan aplikasi semacam itu lolos sejak awal.
Kontroversi ini muncul di tengah tekanan global terhadap Grok, yang sebelumnya dikritik karena memungkinkan pembuatan deepfake pornografi dan konten seksual anak. Meski Grok telah mengumumkan pembatasan fitur, laporan menyebut konten serupa masih dapat ditemukan di platform X.
Hingga kini, Apple belum memberikan pernyataan publik terkait isu Grok maupun laporan TTP secara menyeluruh. Sikap diam tersebut menuai kritik, mengingat Apple kerap memposisikan diri sebagai perusahaan yang mengutamakan privasi dan keselamatan pengguna.
