AVNMEDIA.ID -  Pemanfaatan kecerdasan buatan (artificial intelligence/AI) yang semakin masif di Indonesia menghadirkan peluang besar bagi transformasi digital.

Namun di balik potensi tersebut, muncul ancaman serius dari penyalahgunaan large language models (LLMs) yang kini dimanfaatkan untuk kejahatan siber berskala besar.

Model AI generatif seperti ChatGPT dan Google Gemini telah diadopsi luas oleh pelaku usaha hingga layanan publik.

Di sisi lain, teknologi serupa juga dimanfaatkan oleh aktor kejahatan untuk mengotomatisasi phishing, penipuan digital, hingga pengembangan malware, sehingga meningkatkan risiko keamanan siber secara signifikan.

Indonesia Dinilai Rentan Terhadap Serangan Siber Berbasis AI

Ketergantungan tinggi masyarakat Indonesia terhadap aplikasi pesan instan, platform e-commerce, serta layanan publik digital menjadikan negara ini target empuk bagi serangan siber berbasis AI.

Sejumlah laporan sebelumnya mencatat beredarnya aplikasi ChatGPT palsu yang disusupi malware dan digunakan dalam kampanye phishing terorganisir.

Indikator dari Tim Tanggap Insiden Keamanan Siber Nasional (CSIRT) juga menunjukkan kemunculan pola ancaman baru bergaya agen AI, termasuk teknik phishing yang semakin canggih dan mampu menargetkan pencurian data pribadi serta kredensial keuangan dengan tingkat keberhasilan lebih tinggi.

Unit 42 Ungkap Maraknya “Dark LLMs” di Pasar Gelap

Riset terbaru Palo Alto Networks Unit 42 bertajuk The Dual-Use Dilemma of AI: Malicious LLMs mengungkap keberadaan LLM berbahaya atau “dark LLMs”, seperti WormGPT, FraudGPT, dan KawaiiGPT.

Model-model AI ini dikembangkan tanpa mekanisme pengaman dan kini diperjualbelikan secara terbuka melalui Telegram serta forum dark web.

Menurut Unit 42, kehadiran dark LLMs secara drastis menurunkan hambatan teknis bagi pelaku kejahatan siber.

Aktivitas yang sebelumnya membutuhkan keahlian tinggi dan waktu lama kini dapat dilakukan secara instan, murah, dan terlokalisasi, termasuk dalam konteks Bahasa Indonesia.

Tiga Dampak Utama LLM Berbahaya bagi Lanskap Siber Indonesia

Unit 42 mengidentifikasi tiga perubahan besar yang berpotensi mengubah peta ancaman siber di Indonesia. 

Pertama, kemampuan AI menghasilkan bahasa yang sangat presisi memungkinkan pelaku menciptakan pesan phishing dan business email compromise (BEC) yang tampak sangat meyakinkan.

Pesan-pesan ini dapat meniru gaya komunikasi pimpinan perusahaan, institusi keuangan, hingga lembaga pemerintah.

Kedua, AI mendorong komersialisasi kejahatan siber, di mana malware, phishing kits, dan skrip pencurian data dapat dihasilkan secara instan.

Hal ini menghilangkan batas antara pelaku pemula dan aktor siber berpengalaman.

Ketiga, hilangnya hambatan teknis menyebabkan kejahatan siber semakin terdemokratisasi.

Pelaku dengan kemampuan rendah kini mampu menjalankan penipuan dan pemerasan digital secara masif, menjadikan kejahatan siber sebagai operasi berulang dan terindustrialisasi.

Sebagai contoh, WormGPT mampu menghasilkan konten penipuan dalam Bahasa Indonesia yang fasih dan kontekstual, sehingga serangan social engineering menjadi semakin sulit dideteksi.

Tantangan Regulasi dan Urgensi Pendekatan Prevention-First

Unit 42 menilai pemanfaatan AI tingkat lanjut oleh pelaku ancaman akan terus mempercepat eskalasi risiko di ruang digital.

Karena itu, pembuat kebijakan didorong untuk menetapkan standar dan kerangka kerja pengelolaan AI, termasuk kewajiban audit keamanan secara berkala dan penerapan praktik keamanan terbaik.

Seiring pemerintah menyusun peta jalan AI nasional, tantangan utama bukanlah membatasi penggunaan AI, melainkan membangun ketahanan keamanan siber terhadap serangan berbasis AI yang cepat dan berskala besar.

Pendekatan prevention-first, yang mengintegrasikan praktik AI yang aman ke dalam tata kelola dan strategi pertahanan digital, dinilai menjadi kunci.

Unit 42 menekankan pentingnya kolaborasi antara pemerintah, regulator, dan sektor swasta agar pemanfaatan AI dapat memberikan nilai tambah maksimal tanpa meningkatkan risiko terhadap organisasi, konsumen, maupun layanan publik yang bersifat kritikal. (jas)