Wamenkomdigi Ingatkan Bahaya Deepfake AI yang Makin Mulus dan Picu Lonjakan ScamWamenkomdigi Ingatkan Bahaya Deepfake AI yang Makin Mulus dan Picu Lonjakan ScamWamenkomdigiIngatkanBahayaDeepfakeAIyangMakinMulusdanPicuLonjakanScam

JAKARTA - Kementerian Komunikasi dan Digital (Kemenkomdigi) meminta masyarakat meningkatkan kewaspadaan terhadap modus penipuan digital (scam) yang memanfaatkan kecerdasan buatan (AI). Teknologi manipulasi visual dan suara atau deepfake saat ini dinilai sudah sangat halus, sehingga menciptakan tantangan etis dan keamanan siber yang serius di Indonesia.

Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria mengungkapkan bahwa teknologi deepfake kini mampu memproduksi video, gambar, hingga rekaman suara palsu yang hampir mustahil dibedakan dengan aslinya. Fenomena ini memicu lahirnya synthetic reality atau realitas sintetik, di mana konten rekayasa digital terlihat sepenuhnya nyata.

"Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus," ujar Nezar dalam perhelatan Indonesia Ethical AI Summit di Jakarta, Rabu.

Situasi ini diperparah oleh lompatan teknologi AI yang sangat masif. Nezar menjelaskan, industri teknologi global kini mulai bergeser dari era AI generatif (pembuat konten) menuju agentic AI atau AI otonom. Jenis AI terbaru ini memiliki kemampuan bernalar dan mengambil keputusan secara mandiri tanpa instruksi konstan dari manusia.

Kombinasi antara teknologi yang makin cerdas dan rendahnya literasi digital masyarakat menjadi celah yang dieksploitasi oleh para pelaku kriminal. Karena belum banyak yang paham cara kerja AI, korban penipuan berbasis manipulasi wajah dan suara ini terus berjatuhan.

"Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa," kata Nezar menambahkan.

Mengantisipasi risiko kecerdasan buatan otonom tersebut, Nezar menekankan pentingnya protokol keamanan yang ketat lewat prinsip human in the loop. Artinya, dalam setiap proses pengambilan keputusan penting oleh sistem AI, kendali dan pengawasan tertinggi harus tetap berada di tangan manusia.

Pemerintah juga menegaskan bahwa kepatuhan terhadap etika AI tidak bisa lagi sekadar bersifat sukarela. Kemenkomdigi mendorong para pengembang teknologi, akademisi, dan pelaku industri untuk menerapkan prinsip ethics by design, yaitu mengintegrasikan nilai transparansi, akuntabilitas, dan keamanan sejak awal produk AI dirancang.

Mengapa Realitas Sintetik dan Deepfake AI Berbahaya bagi Anda?

Istilah synthetic reality (realitas sintetik) merujuk pada kondisi di mana informasi palsu yang diproduksi komputer—baik berupa video maupun suara tokoh publik atau kerabat dekat Anda—terlihat begitu valid.

Di Indonesia, teknologi ini kerap disalahgunakan untuk menyebarkan hoaks politik hingga penipuan terstruktur. Modus paling umum adalah kloning suara anak atau anggota keluarga yang meminta uang darurat, membuat korban panik dan langsung mengirimkan dana tanpa verifikasi.

Dengan hadirnya agentic AI, sistem penipuan ini berpotensi bergerak otomatis mencari celah kelemahan targetnya. Oleh karena itu, masyarakat diimbau untuk selalu melakukan cek ulang (cross-check) lewat jalur komunikasi lain yang sekiranya aman, jika menerima panggilan video atau suara yang meminta informasi sensitif atau transaksi keuangan mendadak.