Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria mengingatkan pentingnya mitigasi risiko dalam pemanfaatan kecerdasan buatan (AI). Peringatan itu disampaikan dalam wawancara dengan CNBC Indonesia di Kantor Kementerian Komunikasi dan Digital (Komdigi), Jakarta Pusat, pada Jumat, 30 Oktober 2026.

Nezar menegaskan pengembangan AI tidak boleh hanya mengejar inovasi dan efisiensi. Pemerintah juga harus mengantisipasi risiko ketika teknologi tersebut mulai menjalankan tindakan dan mengambil keputusan secara mandiri, bukan lagi sekadar memberi rekomendasi kepada manusia.

Di sektor jasa keuangan, Nezar menyoroti penggunaan agentic AI, khususnya di perbankan. Teknologi ini memiliki kemampuan menjalankan tindakan berdasarkan kewenangan yang diberikan pengguna, sehingga kesalahan eksekusi dapat berdampak langsung pada uang nasabah.

Menurut Nezar, di sektor layanan keuangan, apabila AI yang diberi otoritas untuk melakukan tindakan dan pengambilan keputusan mengalami kesalahan, akibatnya bisa fatal. Uang bisa hilang atau bahkan menimbulkan kekacauan yang bersifat sistemik akibat kesalahan eksekusi yang menjalar ke banyak transaksi sekaligus.

Risiko yang tidak kalah besar juga muncul di sektor kesehatan. Teknologi AI kini mulai membantu dokter mendiagnosis penyakit dan menentukan langkah penanganan medis, baik oleh dokter maupun oleh agen AI dalam layanan medis. Di bidang kesehatan, yang dipertaruhkan adalah nyawa manusia, sehingga kesalahan diagnosis atau keputusan yang keliru tidak dapat dipandang ringan.

Nezar juga mengingatkan bahwa pengelolaan data harus mengikuti aturan untuk mencegah kebocoran dan penyalahgunaan informasi sensitif masyarakat. Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi (UU PDP) menjadi salah satu landasan untuk menjaga keamanan data dalam ekosistem AI nasional, bersama dengan Undang-Undang Informasi dan Transaksi Elektronik (UU ITE).

Menurutnya, hal itu penting karena makanan utama AI adalah data. Tanpa tata kelola data yang baik, sistem AI yang canggih sekalipun dapat menjadi pintu masuk bagi penyalahgunaan informasi pribadi, mulai dari pencurian identitas hingga manipulasi berbasis data yang dikumpulkan tanpa persetujuan yang memadai.

Di sisi lain, pemerintah menyiapkan Peta Jalan Nasional AI dan Etika AI yang ditargetkan menjadi Peraturan Presiden (Perpres). Kerangka tersebut akan menjadi pedoman pengembangan AI sekaligus memastikan pemanfaatannya tetap memperhatikan etika, keamanan, dan perlindungan masyarakat.

Nezar mengatakan pemerintah perlu memetakan perkembangan teknologi secara menyeluruh sebelum menetapkan aturan. Pemetaan itu penting agar regulasi yang lahir tidak tertinggal dari kecepatan teknologi, tetapi juga tidak menghambat inovasi yang bermanfaat bagi masyarakat dan perekonomian.

Terkait risiko lain, Komdigi juga tengah mengkaji aturan pelabelan konten AI untuk membantu masyarakat mengenali video, gambar, dan suara sintetis serta mengurangi risiko penipuan dan manipulasi informasi. Nezar mencontohkan kasus di Hong Kong sekitar dua tahun lalu, ketika sebuah perusahaan mengalami kerugian sebesar 25 juta dolar Amerika Serikat akibat rekayasa digital dalam pertemuan daring.

Nezar menekankan bahwa AI harus didudukkan sebagai alat dan mitra kerja, bukan pengganti nalar dan tanggung jawab manusia. Prinsip ini menjadi benang merah dari seluruh upaya mitigasi risiko: teknologi boleh semakin mandiri, tetapi tanggung jawab atas keputusan yang berdampak pada uang dan nyawa manusia harus tetap berada di tangan manusia.

Dengan pendekatan itu, pemerintah berharap inovasi AI di Indonesia dapat terus melaju tanpa mengorbankan keamanan, keadilan, dan kepercayaan publik. Mitigasi risiko bukan dimaksudkan untuk memperlambat teknologi, melainkan untuk memastikan teknologi itu benar-benar bekerja untuk kepentingan masyarakat.

Apa poin penting dari berita ini?

• Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria mengingatkan pentingnya mitigasi risiko dalam pemanfaatan kecerdasan buatan (AI).
• Di sektor jasa keuangan, Nezar menyoroti penggunaan agentic AI, khususnya di perbankan.
• Menurut Nezar, di sektor layanan keuangan, apabila AI yang diberi otoritas untuk melakukan tindakan dan pengambilan keputusan mengalami kesalahan, akibatnya bisa fatal.
• Di bidang kesehatan, yang dipertaruhkan adalah nyawa manusia, sehingga kesalahan diagnosis atau keputusan yang keliru tidak dapat dipandang ringan.
• Nezar juga mengingatkan bahwa pengelolaan data harus mengikuti aturan untuk mencegah kebocoran dan penyalahgunaan informasi sensitif masyarakat.