Kementerian Komunikasi dan Digital (Komdigi) sedang menyiapkan regulasi khusus untuk mengantisipasi ancaman serangan siber yang memanfaatkan agen kecerdasan buatan (AI) otonom. Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria menyampaikan langkah tersebut menyusul meningkatnya kekhawatiran atas penyalahgunaan teknologi AI hingga fenomena recursive self-improvement (RSI).
Dalam acara peluncuran JK1 Phase 2 Pusat Data Equinix pada Selasa (10/11), Nezar menjelaskan bahwa peningkatan kemampuan agen AI dalam mencari celah kerentanan sistem keamanan membuat aktivitas peretasan dapat berjalan lebih cepat. Menurutnya, fenomena serangan berbasis agentic AI ini merupakan model ancaman baru yang terjadi secara global, termasuk di Indonesia.
Kolaborasi dengan BSSN dan Simulasi Pertahanan
Untuk menahan dampak perluasan serangan, Komdigi bekerja sama dengan Badan Siber dan Sandi Negara (BSSN). Kedua lembaga ini bertukar informasi ancaman, menggelar simulasi pertahanan, dan memperkuat sejumlah infrastruktur digital nasional agar tahan terhadap serangan berbasis AI.
Selain penguatan teknis, Komdigi turut menata ekosistem penggunaan pusat data dan menyusun peta jalan pengembangan AI nasional dari hulu ke hilir. Aturan yang disiapkan mencakup aspek privasi, pelindungan data pribadi, mitigasi risiko, serta pengamanan khusus bagi agen AI yang memiliki kemampuan mengambil keputusan secara mandiri.
Aturan Lebih Ketat dan Kewajiban Sandboxing
Komdigi merancang penerapan batasan (guardrail) yang lebih ketat bagi agen AI otonom dibandingkan AI pasif yang hanya mengelola informasi. Fokus utama regulasi ini adalah menentukan batas otonomi yang diizinkan bagi mesin serta memastikan posisi kontrol manusia dalam pengambilan keputusan.
“Ini satu hal yang baru dan butuh risk mitigation sendiri,” kata Nezar.
Dalam pelaksanaannya, pemerintah akan menerapkan beberapa mekanisme pengawasan terhadap layanan AI otonom:
- Pendekatan pengawasan manusia melalui skema human in the room dan human oversight pada proses pengambilan keputusan.
- Kewajiban melewati tahap sandboxing atau simulasi uji coba bagi setiap model dan produk AI sebelum resmi diluncurkan guna menganalisis potensi risiko.
- Penerapan pedoman mitigasi khusus pada sektor berisiko tinggi, meliputi sektor keuangan, kesehatan, dan riset strategis.
Melalui kerangka aturan dan tahapan sandboxing ini, pengembang maupun penyelenggara layanan di Indonesia nantinya wajib menguji keamanan agen AI mereka sebelum diimplementasikan pada layanan publik, terutama di industri keuangan dan kesehatan.
Sumber: CNN Indonesia, VIV. Gambar: Ilustrasi AI