AVNMEDIA.ID - Kemajuan teknologi kecerdasan buatan atau Artificial Intelligence (AI) yang pesat ternyata membawa ancaman baru yang semakin mengkhawatirkan, terutama bagi para figur publik.

Foto dan video mereka yang tersebar luas di internet menjadi bahan yang mudah dieksploitasi oleh pihak-pihak tidak bertanggung jawab.

Di Indonesia, kasus penyalahgunaan AI untuk memanipulasi citra artis tanpa izin kini bukan lagi fenomena yang bisa diabaikan.

Dari konten tidak senonoh hingga penipuan berkedok giveaway, para artis Indonesia menghadapi ancaman digital yang semakin nyata dan kompleks.

Ketika Teknologi AI Berubah Menjadi Senjata Penyalahgunaan Digital

Awal tahun 2026 dibuka dengan fenomena digital yang meresahkan di platform X.

Fitur “edit image” pada AI Grok disalahgunakan secara masif oleh sejumlah pengguna untuk memodifikasi foto figur publik menjadi konten tidak senonoh, bahkan mengandung unsur pornografi, tanpa izin dan tanpa sepengetahuan para korban.

Namun ancaman ini sebenarnya bukan hal baru.

Jauh sebelum Grok menjadi sorotan, teknologi deepfake berbasis AI sudah lebih dulu menjadi ancaman nyata bagi sejumlah artis Indonesia dengan modus yang beragam, mulai dari penyebaran konten tidak senonoh, penipuan berkedok giveaway, hingga manipulasi video untuk kepentingan politik.

Para korban menyebut dampaknya tidak hanya dirasakan secara personal, tetapi juga secara profesional karena merusak martabat, mengaburkan identitas, dan merusak kepercayaan antara artis dan publik.

Pemerintah pun akhirnya bergerak.

Kementerian Komunikasi, Informasi, dan Digital resmi memblokir penggunaan Grok di platform X untuk sementara waktu, menjadikan Indonesia sebagai negara pertama yang mengambil langkah pemblokiran demi melindungi masyarakat dari konten asusila berbasis AI.

Selain itu, pemerintah kini tengah menyiapkan regulasi khusus terkait pemanfaatan AI yang etis, bermakna, dan bertanggung jawab sebagai respons atas maraknya kasus manipulasi digital yang terus berkembang. 

6 Deretan Artis Indonesia yang Menjadi Korban Penyalahgunaan AI

1. Freya Jayawardana (JKT48),

Kapten JKT48 ini mengungkapkan keresahannya atas maraknya foto anggota yang diedit menggunakan teknologi AI hingga memuat konten pornografi tanpa izin.

Manajemen JKT48 merespons dengan tegas dan mengancam jalur hukum terhadap para pelaku.

2. Sisca Saras, Shania Gracia, dan Greesel (JKT48)

Ketiganya ikut menjadi korban sekaligus menyuarakan kecaman keras atas penyalahgunaan AI Grok yang memanipulasi foto anggota JKT48 menjadi konten tidak senonoh.

3. Bernadya

Bernadya - Profile/ Foto: HO

Penyanyi muda ini menjadi salah satu yang pertama bersuara lewat akun X pribadinya pada 2 Januari 2026, menyindir para pelaku yang disebutnya seperti anak kecil yang baru pertama kali memegang ponsel.

4. Arie Kriting

Komedian ini turut mengecam penyalahgunaan AI Grok secara terbuka dan menyerukan agar praktik manipulasi foto tanpa izin segera dihentikan.

5. Nagita Slavina

Jauh sebelum kasus Grok ramai, video tidak senonoh yang menampilkan wajah Nagita hasil manipulasi deepfake AI sempat beredar luas di jagat maya dan memicu kecaman keras dari publik.

6. Baim Wong

Baim Wong dan Paula Verhoeven (Foto: Instagram @baimwong)

Video deepfake wajah Baim Wong sengaja diproduksi dan disebarkan dalam rangka program giveaway palsu untuk menipu masyarakat, memanfaatkan kepercayaan publik terhadap figur yang dikenal luas.

Dari enam nama ini, satu kesimpulan yang tak bisa dihindari: selama foto dan video artis bebas beredar di internet tanpa perlindungan hukum yang memadai, ancaman penyalahgunaan AI akan terus membayangi siapa pun yang namanya dikenal publik. (jay)