AVNMEDIA.ID -  Perkembangan kecerdasan buatan (Artificial Intelligence/AI) memasuki fase baru.

Jika sebelumnya AI banyak digunakan untuk membantu pencarian informasi, membuat konten, hingga memberikan rekomendasi, kini perusahaan mulai mengadopsi Autonomous AI atau sistem AI yang mampu menjalankan tugas secara mandiri dengan intervensi manusia yang semakin minim.

Transformasi ini mulai mengubah cara perusahaan menjalankan operasional bisnis, khususnya dalam sektor teknologi informasi (TI), keamanan siber, layanan pelanggan, hingga pengelolaan infrastruktur digital.

Di Indonesia, tren adopsi AI juga menunjukkan pertumbuhan signifikan.

Pemerintah menyebut Indonesia telah menjadi salah satu pasar AI potensial terbesar di Asia, dengan investasi sektor swasta terhadap teknologi AI yang terus meningkat.

Namun, memasuki era AI otonom, tantangan perusahaan tidak lagi hanya berkaitan dengan kemampuan teknologi.

Faktor tata kelola, keamanan data, transparansi, dan akuntabilitas menjadi elemen penting sebelum AI diberikan akses untuk mengambil keputusan operasional.

Dari AI Generatif Menuju Autonomous AI di Lingkungan Bisnis

Selama beberapa tahun terakhir, perusahaan berlomba mengintegrasikan AI generatif untuk meningkatkan produktivitas.

Teknologi tersebut digunakan untuk membantu pekerjaan administratif, membuat laporan, menghasilkan konten, hingga mempercepat proses analisis data.

Kini, fokus industri mulai bergeser menuju agentic AI atau AI berbasis agen yang mampu melakukan tindakan secara mandiri.

Berbeda dengan AI konvensional yang hanya memberikan jawaban atau rekomendasi, Autonomous AI dapat:

• Menjalankan proses kerja secara otomatis.
• Berkoordinasi dengan berbagai platform digital.
• Melakukan analisis berdasarkan data yang tersedia.
• Mengambil tindakan sesuai instruksi dan batasan yang telah ditentukan.
• Menyelesaikan alur kerja tanpa keterlibatan manusia secara terus-menerus.

Kemampuan tersebut membuat Autonomous AI mulai dilirik sebagai solusi untuk meningkatkan efisiensi operasional perusahaan.

Sektor Keuangan Jadi Salah Satu Industri yang Mengadopsi AI Otonom

Salah satu sektor yang berpotensi mengalami perubahan besar akibat Autonomous AI adalah industri keuangan.

Dalam operasional perbankan, AI berbasis agen dapat dimanfaatkan untuk berbagai kebutuhan, seperti:

• Menangani permintaan layanan pelanggan.
• Membantu investigasi keamanan siber.
• Mendeteksi aktivitas tidak normal pada sistem teknologi informasi.
• Mendukung proses kepatuhan regulasi.
• Mengoptimalkan penggunaan sumber daya cloud.

Potensi tersebut membuat teknologi agentic AI mulai mendapatkan perhatian regulator.

Di sektor perbankan Indonesia, pemanfaatan AI juga mulai diarahkan agar tetap berjalan sesuai prinsip tata kelola, manajemen risiko, dan perlindungan data.

Tantangan Terbesar Autonomous AI: Keamanan Data dan Akuntabilitas

Meski menawarkan peluang besar, penerapan Autonomous AI membawa tantangan baru bagi perusahaan.

Ketika sistem AI mulai diberikan akses terhadap data pelanggan, sistem internal, hingga proses bisnis penting, perusahaan perlu memastikan teknologi tersebut tetap berada dalam kendali organisasi.

Beberapa pertanyaan penting yang muncul antara lain:

• Siapa yang memiliki akses terhadap data yang digunakan AI?
• Apakah data perusahaan digunakan untuk melatih model AI eksternal?
• Bagaimana keputusan AI dapat diperiksa dan diaudit?
• Seberapa besar kendali manusia terhadap tindakan sistem otonom?

Masalah privasi data dan akuntabilitas menjadi salah satu faktor yang menentukan tingkat kepercayaan perusahaan dalam mengadopsi AI.

Perusahaan Butuh AI yang Spesifik dan Terpercaya

CEO ManageEngine, Rajesh Ganesan, menilai masa depan adopsi AI perusahaan tidak hanya bergantung pada kecanggihan teknologi, tetapi juga kemampuan organisasi membangun sistem AI yang dapat dipercaya.

Menurutnya, model AI umum belum tentu mampu menjawab kebutuhan spesifik perusahaan, terutama dalam lingkungan TI yang kompleks.

Karena itu, perusahaan mulai membutuhkan AI yang dirancang khusus sesuai kebutuhan operasional, namun tetap memberikan efisiensi biaya dan nilai bisnis jangka panjang.

AI Agents Mulai Mengotomatisasi Operasional TI Perusahaan

Perkembangan Autonomous AI mendorong munculnya platform AI yang mampu menjalankan fungsi operasional secara lebih mandiri.

Beberapa area yang mulai memanfaatkan AI agents antara lain:

1. Manajemen Layanan TI

AI dapat membantu menangani permintaan pengguna, menyelesaikan masalah sederhana, hingga mempercepat layanan service desk.

2. Keamanan Siber

AI agents dapat membantu mendeteksi ancaman, menganalisis pola serangan, serta mempercepat proses investigasi keamanan.

3. Cloud dan Infrastruktur Digital

Dalam pengelolaan cloud, AI dapat membantu perusahaan mengoptimalkan penggunaan sumber daya serta mendeteksi potensi gangguan sistem.

4. Analisis dan Penyelesaian Masalah

AI berbasis agen mampu menghubungkan data dari berbagai sistem untuk menemukan akar masalah (root cause analysis) secara lebih cepat.

Tata Kelola Menjadi Pembeda Utama dalam Implementasi Autonomous AI

Semakin besar kewenangan yang diberikan kepada AI, semakin besar pula kebutuhan perusahaan terhadap sistem pengawasan.

Industri kini tidak hanya membahas kemampuan model AI, tetapi juga aspek:

• Governance atau tata kelola AI.
• Observability untuk memantau aktivitas sistem.
• Auditability agar setiap keputusan dapat ditelusuri.
• Data sovereignty untuk menjaga kendali atas data perusahaan.

Perusahaan membutuhkan kepastian bahwa setiap tindakan AI dapat dipantau, dikendalikan, dan sesuai dengan kebijakan internal.

ManageEngine Dorong Konsep AI Berbasis Privasi dan Kendali Perusahaan

Salah satu pendekatan yang berkembang adalah penggunaan platform AI dengan prinsip privacy-first.

Vice President ManageEngine, Umasankar Narayanasamy, mengatakan tingkat kepercayaan organisasi terhadap AI akan menjadi faktor pembeda utama dalam penerapan teknologi tersebut.

Menurutnya, perlindungan privasi dan kedaulatan data menjadi fondasi penting agar perusahaan dapat memanfaatkan AI secara aman.

Salah satu teknologi yang dikembangkan ManageEngine adalah Zia Agents, kerangka kerja Autonomous AI yang tersedia dalam berbagai portofolio manajemen TI.

Platform tersebut memungkinkan perusahaan menggunakan AI agents siap pakai maupun membuat agen khusus sesuai kebutuhan bisnis.

Fitur utama pendekatan ini mencakup:

• Kemampuan menjalankan tugas secara mandiri.
• Kolaborasi antaragen AI dalam proses kompleks.
• Penerapan batasan keamanan (guardrails).
• Jejak audit terhadap setiap aktivitas AI.

Perlindungan data pelanggan agar tidak digunakan untuk melatih model AI eksternal.

Masa Depan AI Perusahaan Ditentukan oleh Kepercayaan

Perkembangan Autonomous AI menunjukkan bahwa pertanyaan utama perusahaan bukan lagi apakah AI akan digunakan, melainkan bagaimana teknologi tersebut diterapkan secara aman dan bertanggung jawab.

Ke depan, organisasi yang mampu menggabungkan inovasi AI dengan tata kelola yang kuat berpotensi mendapatkan keuntungan lebih besar, mulai dari peningkatan efisiensi operasional, ketahanan bisnis, hingga peningkatan kepercayaan pelanggan.

Sebelum memperluas penggunaan AI otonom, perusahaan perlu memastikan kesiapan dari sisi keamanan data, kebijakan internal, serta strategi implementasi.

Sebab, dalam era Autonomous AI, keunggulan teknologi tidak hanya ditentukan oleh kemampuan mesin berpikir, tetapi juga bagaimana perusahaan mampu mengendalikan dan mempercayainya. (jas)