Jakarta -

Kementerian Komunikasi dan Digital (Komdigi) sebut kerugian akibat penipuan pakai AI telah rugikan Indonesia hingga Rp 9,1 triliun. Hal ini disampaikan Nezar Patria Wakil Menteri Komunikasi dan Digital dalam acara Kaspersky Academic Summit 'AI, Security & Society: What's Next for Our Digital Future?'.

"Gelombang penipuan berbasis AI yang menyebabkan kerugian sebesar Rp 9,1 triliun tidaklah mengandalkan metode yang sederhana. Penipuan ini memanfaatkan elemen-elemen sintetis, seperti peniruan identitas orang terdekat dan penciptaan sosok investor fiktif, serta sistem insentif otomatis yang beroperasi dalam skala yang mustahil dicapai oleh otak manusia tanpa bantuan teknologi," terang Nezar.

Nezar menambahkan bahwa Perserikatan Bangsa-Bangsa (PBB) memperkirakan bahwa kerugian akibat penipuan daring di seluruh kawasan Asia-Pasifik dapat mendekati angka USD 140 miliar pada tahun ini saja. Ini adalah angka yang mengkhawatirkan dan perlu diwaspadai bersama.

SCROLL TO CONTINUE WITH CONTENT

Dengan adanya acara ini, Nezar berkata pertanyaan yang mesti kita jawab adalah bukan sesederhana bagaimana kita merancang keamanan berbasis AI, namun bagaimana kita dapat membangun keamanan berbasis AI yang senantiasa adaptif sekaligus berkeadilan.

Pertama, membangun tata kelola keamanan yang berlandaskan prinsip ketahanan alih-alih sekadar pembatasan. Tujuan pemerintah seharusnya adalah membangun kerangka kerja tata kelola keamanan AI yang komprehensif dan tangguh, yang memungkinkan inovasi terus berjalan sembari memastikan aspek keamanan, akuntabilitas, dan ketahanan telah dibangun sejak awal.

"Kami menyebutnya security by design (keamanan sejak tahap perancangan)," ujarnya.

Kedua, merancang sistem yang menjangkau lini terdepan, bukan hanya kantor pusat. Sistem intelijen pelacakan atau deteksi penipuan berbasis AI apa pun yang kita terapkan secara nasional harus dapat berfungsi bagi pemegang kartu SIM di desa, bukan hanya bagi tim anti-penipuan bank di Jakarta, katanya.

Hal ini berarti infrastruktur anti-penipuan yang langsung menyentuh publik, penyaringan di tingkat telekomunikasi, serta verifikasi berbantuan AI yang terintegrasi pada titik di mana warga biasa melakukan transaksi. Bukan hanya pada perimeter sistem perusahaan.

Ketiga, memandang AI sebagai teknologi dengan kegunaan ganda atau dual-use juga diperlukan sejak awal. Setiap kemampuan yang kita bangun untuk mendeteksi deepfake, menandai identitas sintetis, atau mengotomatisasi respons terhadap ancaman, pada dasarnya juga merupakan kemampuan yang dapat berbalik menyerang kita jika tata kelolanya buruk atau jatuh ke tangan yang salah.

Nezar menyebut perancanaan strategis berarti menyertakan mekanisme pengawasan, auditabilitas, dan akuntabilitas manusia ke dalam sistem sejak hari pertama. Bukan sekadar menambahkannya setelah insiden terjadi.

"Tidak satu pun dari strategi tersebut dapat dibangun oleh entitas tunggal. Oleh karena itu, tanggung jawab bersama menjadi hal yang mutlak. Dalam hal ini, saya mengajak para praktisi, pembuat kebijakan, akademisi, dan masyarakat sipil untuk menjalankan peran masing-masing sekaligus meningkatkan kolaborasi sesuai dengan kapasitas mereka," ujar Nezar.

"Kita memerlukan proses yang berkelanjutan dan kolaboratif, di mana pemerintah, industri, akademisi, dan pemangku kepentingan lainnya bersama-sama mengantisipasi kebutuhan regulasi," pungkasnya.

(rns/rns)

LIHAT LAINNYA