Konten AI Wajib Label, Strategi Efektif Lawan Penyebaran Deepfake

Konten AI Wajib Label, Strategi Efektif Lawan Penyebaran Deepfake

JAKARTA - Di era kecerdasan buatan (AI) generatif, membedakan konten asli dan hasil AI bukan hal mudah. Kementerian Komunikasi dan Digital (Kemkomdigi) menyiapkan regulasi yang mewajibkan setiap konten AI disertai label. Rencana ini bertujuan menekan penyebaran deepfake, konten digital yang memanipulasi wajah, suara, atau video seseorang sehingga terlihat nyata, meski tidak pernah terjadi.

Rencana aturan itu disampaikan dalam Rapat Kerja Komisi I DPR dengan Menteri Komdigi Meutya Hafid di Kompleks Parlemen, Senayan, Jakarta, Senin (26/1/2026). Rapat disiarkan daring dan dihadiri anggota Komisi I DPR serta pejabat eselon I Kemkomdigi.

Peraturan Menteri Wajibkan Label untuk Konten AI

Direktur Jenderal Ekosistem Digital Kemkomdigi, Edwin Hidayat Abdullah, menjelaskan bahwa Kemkomdigi tengah menyiapkan peraturan menteri mengenai AI generatif untuk penyelenggara sistem elektronik (PSE), seperti media sosial dan situs.

Baca Juga

Cara Menghilangkan Bekas Jerawat Secara Alami dan Medis

“(Peraturan menteri yang dimaksud) ialah peraturan di mana AI generatif yang dimunculkan wajib diberikan watermark (label/tanda). Ini sedang kami rancang. Jadi, jangan sampai bingung ini (konten buatan) AI atau betul?” ujar Edwin di hadapan anggota Komisi I DPR RI.

Dengan aturan ini, perusahaan penyedia AI harus mencantumkan label pada setiap konten generatif. Contoh AI generatif adalah ChatGPT, Google Gemini, dan Grok AI, yang bisa membuat teks, gambar, suara, hingga video. Jika konten AI muncul di platform tanpa label, konten tersebut bisa diturunkan (takedown).

Ancaman Deepfake dan Kasus yang Mencuat

Ketiadaan label memudahkan penyebaran deepfake, yang bisa menampilkan seseorang melakukan atau mengucapkan hal yang sebenarnya tidak pernah terjadi. Tahun lalu, misalnya, beredar video Menteri Keuangan Sri Mulyani yang direkayasa, maupun video Presiden Prabowo Subianto yang mahir berbahasa Arab dan Mandarin.

Konten deepfake seksual nonkonsensual juga menjadi perhatian serius. Salah satu contoh terjadi di platform Grok, chatbot AI di media sosial X (dulu Twitter), yang memunculkan konten dewasa tanpa persetujuan. Akibatnya, Kemkomdigi memblokir sementara Grok sejak 10 Januari 2026.

Menurut Edwin, dengan peraturan menteri yang mewajibkan label AI, penyebaran deepfake bisa lebih mudah dikontrol. Setiap konten tanpa label akan diturunkan, dan sanksi bagi pengembang diatur dalam regulasi lain.

Peta Jalan AI dan Etika Penggunaan

Draf dua peraturan presiden, yaitu Peta Jalan Kecerdasan Artifisial (KA) dan Etika KA, ditargetkan terbit pada 2026. Peta jalan KA mengatur penggunaan AI di 10 sektor, termasuk ketahanan pangan, transportasi, logistik, dan keuangan. Regulasi ini juga mendukung program prioritas pemerintah seperti Makan Bergizi Gratis, Pemeriksaan Kesehatan Gratis, dan Koperasi Merah Putih.

Sementara, Etika KA mengatur tiga pihak: pengguna, pelaku industri, dan regulator. Pengguna harus berhati-hati membagikan data pribadi pada AI. Pelaku industri wajib melindungi data warga. Pemerintah dan kementerian juga diharapkan mengatur pemanfaatan AI di sektor masing-masing.

Edwin menambahkan, etika KA bertujuan mengantisipasi tiga risiko besar: kesenjangan sosial, pelanggaran data pribadi, dan penyalahgunaan deepfake.

Pelajaran dari Luar Negeri dan Empat Poin Regulasi

Septiaji Eko Nugroho, Ketua Mafindo, menekankan perlunya aturan AI berbasis pengalaman negara lain. Korea Selatan, misalnya, mendenda konten AI tanpa label, sementara Uni Eropa akan memberlakukan UU AI penuh pada 2027.

Menurut Septiaji, regulasi AI di Indonesia setidaknya memuat empat poin:

1.Transparansi Konten – Platform wajib memberi label konten AI sehingga masyarakat tidak terbebani memilah konten asli dan sintetik.

2.Regulasi Berbasis Risiko – Platform harus melaporkan kebocoran data dan memproteksi pengguna.

3.Keseimbangan Inovasi dan Keamanan – Perusahaan rintisan dapat menguji AI dalam lingkungan terbatas, sementara regulasi membedakan antara perusahaan besar, menengah, dan akademisi.

4.Dukungan Jurnalisme dan Kreator Lokal – Platform AI yang menggunakan data lokal wajib memberi kompensasi agar konten asli tetap terjaga.

Dengan regulasi dan edukasi etika AI yang tepat, diharapkan penyebaran deepfake bisa diminimalkan sekaligus memberikan kepastian hukum bagi pengembang dan investor.

Regulasi, Label, dan Pengawasan Digital

Sampai saat ini, Kemkomdigi juga memperketat pengawasan terhadap PSE. Hingga Desember 2025, tercatat 3.805 PSE terdaftar, dan 61 peringatan diberikan bagi PSE yang belum registrasi. Mayoritas telah mematuhi aturan, termasuk OpenAI (ChatGPT).

Sanksi pemblokiran Grok masih berlangsung, menegaskan bahwa pengawasan platform digital menjadi langkah krusial selain regulasi. Anggota DPR menyoroti bahwa perkembangan AI lebih cepat daripada regulasi, sehingga penanganan risiko deepfake harus segera dilakukan.

Dengan penerapan label pada konten AI, regulasi yang jelas, dan edukasi etika, Indonesia dapat meminimalkan risiko penyebaran deepfake dan kejahatan digital, sambil mendorong inovasi teknologi yang aman dan bertanggung jawab.