Pelaku dengan kemampuan rendah kini mampu menjalankan penipuan dan pemerasan digital secara masif, menjadikan kejahatan siber sebagai operasi berulang dan terindustrialisasi.

Sebagai contoh, WormGPT mampu menghasilkan konten penipuan dalam Bahasa Indonesia yang fasih dan kontekstual, sehingga serangan social engineering menjadi semakin sulit dideteksi.

Tantangan Regulasi dan Urgensi Pendekatan Prevention-First

Unit 42 menilai pemanfaatan AI tingkat lanjut oleh pelaku ancaman akan terus mempercepat eskalasi risiko di ruang digital.

Karena itu, pembuat kebijakan didorong untuk menetapkan standar dan kerangka kerja pengelolaan AI, termasuk kewajiban audit keamanan secara berkala dan penerapan praktik keamanan terbaik.

Seiring pemerintah menyusun peta jalan AI nasional, tantangan utama bukanlah membatasi penggunaan AI, melainkan membangun ketahanan keamanan siber terhadap serangan berbasis AI yang cepat dan berskala besar.

Pendekatan prevention-first, yang mengintegrasikan praktik AI yang aman ke dalam tata kelola dan strategi pertahanan digital, dinilai menjadi kunci.

Unit 42 menekankan pentingnya kolaborasi antara pemerintah, regulator, dan sektor swasta agar pemanfaatan AI dapat memberikan nilai tambah maksimal tanpa meningkatkan risiko terhadap organisasi, konsumen, maupun layanan publik yang bersifat kritikal. (jas)