AVNMEDIA.ID -  Pemanfaatan kecerdasan buatan (artificial intelligence/AI) yang semakin masif di Indonesia menghadirkan peluang besar bagi transformasi digital.

Namun di balik potensi tersebut, muncul ancaman serius dari penyalahgunaan large language models (LLMs) yang kini dimanfaatkan untuk kejahatan siber berskala besar.

Model AI generatif seperti ChatGPT dan Google Gemini telah diadopsi luas oleh pelaku usaha hingga layanan publik.

Di sisi lain, teknologi serupa juga dimanfaatkan oleh aktor kejahatan untuk mengotomatisasi phishing, penipuan digital, hingga pengembangan malware, sehingga meningkatkan risiko keamanan siber secara signifikan.

Indonesia Dinilai Rentan Terhadap Serangan Siber Berbasis AI

Ketergantungan tinggi masyarakat Indonesia terhadap aplikasi pesan instan, platform e-commerce, serta layanan publik digital menjadikan negara ini target empuk bagi serangan siber berbasis AI.

Sejumlah laporan sebelumnya mencatat beredarnya aplikasi ChatGPT palsu yang disusupi malware dan digunakan dalam kampanye phishing terorganisir.

Indikator dari Tim Tanggap Insiden Keamanan Siber Nasional (CSIRT) juga menunjukkan kemunculan pola ancaman baru bergaya agen AI, termasuk teknik phishing yang semakin canggih dan mampu menargetkan pencurian data pribadi serta kredensial keuangan dengan tingkat keberhasilan lebih tinggi.

Unit 42 Ungkap Maraknya “Dark LLMs” di Pasar Gelap

Riset terbaru Palo Alto Networks Unit 42 bertajuk The Dual-Use Dilemma of AI: Malicious LLMs mengungkap keberadaan LLM berbahaya atau “dark LLMs”, seperti WormGPT, FraudGPT, dan KawaiiGPT.

Model-model AI ini dikembangkan tanpa mekanisme pengaman dan kini diperjualbelikan secara terbuka melalui Telegram serta forum dark web.