FLUXTREN.ID — Dunia digital kini bergerak lebih cepat daripada kemampuan regulasi manusia untuk mengendalikannya. Teknologi deepfake, yang semula dikembangkan untuk hiburan dan eksperimen AI, telah berubah menjadi alat kejahatan siber paling canggih dan sulit dilacak.
Di Indonesia, kerugian akibat penipuan berbasis AI tercatat telah mencapai Rp700 miliar, menurut Wakil Menteri Komunikasi dan Digital (Wamenkomdig) Nezar Patria.
“Produk deepfake berbasis AI ini, ketika digunakan untuk melakukan kejahatan, sungguh luar biasa dapat menipu masyarakat,” ujar Nezar dalam acara Kumpul Connect For Change Summit 2025 di Jakarta.
Pertanyaannya kini: apakah Indonesia sudah siap menghadapi era di mana realitas bisa direkayasa secara digital dengan sempurna?
Deepfake: Dari Kreativitas Menjadi Manipulasi
Deepfake bekerja dengan model pembelajaran mendalam (deep learning) untuk mengganti wajah, suara, atau ekspresi seseorang dalam video maupun audio.
Awalnya dikembangkan untuk efek visual dan konten kreatif, namun kini teknologi tersebut banyak disalahgunakan untuk:
- Penipuan finansial
- Pornografi nonkonsensual
- Propaganda politik dan disinformasi publik
Secara global, kasus seperti CEO palsu yang meminta transfer dana melalui video deepfake dan kampanye politik yang dimanipulasi wajah tokoh publik menjadi sinyal bahwa manipulasi berbasis AI sudah keluar dari ranah hiburan dan masuk ke wilayah kriminal.
Langkah Hukum dan Edukasi Publik
Sebagai langkah pencegahan, Kementerian Komunikasi dan Digital (Komdigi) bekerja sama dengan aparat penegak hukum untuk menindak pelaku penyalahgunaan AI.
Penegakan dilakukan melalui UU ITE, UU Pelindungan Data Pribadi (PDP), dan KUHP.
Sementara di sisi masyarakat, pemerintah menggencarkan kampanye literasi digital agar publik lebih waspada terhadap konten manipulatif berbasis AI — terutama deepfake video yang kerap digunakan untuk penipuan, fitnah, atau pemerasan daring.
Peta Jalan & Perpres AI: Membangun Tanggung Jawab Digital
Nezar Patria mengungkap bahwa pemerintah tengah menyiapkan Peta Jalan AI Nasional dan Peraturan Presiden (Perpres) AI, yang akan menjadi kerangka hukum baru bagi pengembang dan pengguna AI di Indonesia.
Regulasi tersebut dirancang untuk memastikan:
- Labelisasi konten AI, agar publik tahu mana yang buatan mesin.
- Transparansi dan akuntabilitas pengembang AI.
- Sanksi tegas bagi pelaku penyalahgunaan teknologi untuk penipuan atau manipulasi digital.
Namun, tantangan terbesar terletak pada penegakan dan koordinasi lintas lembaga — dari Komdigi, aparat penegak hukum, hingga pelaku industri teknologi.
Tantangan Utama: Literasi dan Infrastruktur Etika
Masalah utama bukan pada kecerdasan AI, melainkan ketidaksiapan manusia. Deepfake kerap berhasil menipu karena masyarakat belum paham kemampuan AI dalam merekayasa realitas digital.
Tanpa literasi digital yang kuat, publik mudah percaya pada video atau gambar yang terlihat “nyata”.
Selain itu, Indonesia juga belum memiliki infrastruktur etika digital yang kuat — banyak konten AI beredar tanpa watermark, label, atau identitas sumber.
Sementara itu, negara-negara seperti Uni Eropa dan Korea Selatan sudah mulai menerapkan AI Transparency Act, yang mewajibkan setiap konten buatan AI mencantumkan tanda pengenal digital.
Kolaborasi Global dan Peluang Industri
Kejahatan berbasis AI bersifat lintas batas, membuat kerja sama internasional dalam pelacakan dan pertukaran data siber menjadi penting.
Namun di sisi lain, ini juga membuka peluang baru bagi startup keamanan digital lokal yang mulai mengembangkan algoritma pendeteksi deepfake menggunakan machine learning terbalik (anti-deepfake model).
Jika didukung kebijakan dan investasi yang tepat, teknologi pendeteksi ini bisa menjadi lapisan pelindung nasional terhadap manipulasi digital.
Butuh Regulasi yang Adaptif dan Cepat
Deepfake adalah simbol era baru di mana kebenaran visual tidak lagi absolut. Indonesia sudah berada di jalur yang benar dengan rencana Peta Jalan dan Perpres AI, namun kecepatan implementasi dan pengawasan etis akan menjadi faktor penentu.
Dalam dunia yang bisa memalsukan kenyataan hanya dengan satu klik, regulasi yang lambat berarti memberi ruang bagi kebohongan untuk bekerja lebih cepat.
Butuh Regulasi yang Adaptif dan Cepat
Kejahatan berbasis AI bersifat lintas batas, membuat kerja sama internasional dalam pelacakan dan pertukaran data siber menjadi penting.
