(Vibizmedia – Jakarta) Perkembangan kecerdasan artifisial (Artificial Intelligence/AI) yang semakin pesat dinilai membawa tantangan baru dalam keamanan digital. Salah satu yang paling mengkhawatirkan adalah meningkatnya ancaman penipuan digital melalui teknologi deepfake, yang mampu menghasilkan suara, gambar, hingga video palsu dengan tingkat kemiripan yang sulit dibedakan dari kenyataan.
Wakil Menteri Komunikasi dan Digital, Nezar Patria, mengingatkan bahwa penyalahgunaan AI untuk menciptakan konten manipulatif menjadi risiko serius yang harus diantisipasi oleh pemerintah, industri, dan masyarakat. “Kini suara, wajah, bahkan ekspresi seseorang dapat ditiru dan dihadirkan dalam bentuk video deepfake yang sangat meyakinkan,” ujarnya dalam Indonesia Ethical AI Summit di Jakarta Selatan, Rabu (17/6/2026).
Menurutnya, perkembangan AI berlangsung sangat cepat, bahkan telah melampaui fase generative AI dan mulai memasuki era agentic AI—sistem yang mampu bernalar dan mengambil keputusan secara lebih mandiri.
Di satu sisi, kemajuan ini membuka peluang besar untuk meningkatkan produktivitas dan inovasi. Namun di sisi lain, muncul risiko baru, terutama terkait keamanan siber dan penyebaran disinformasi.
Nezar menyoroti maraknya penggunaan teknologi AI oleh pelaku kejahatan digital untuk melakukan penipuan berbasis deepfake. Manipulasi tersebut bahkan berkembang menjadi apa yang disebut sebagai synthetic reality atau realitas sintetik, sehingga semakin sulit dikenali oleh masyarakat luas.
“Minimnya pemahaman masyarakat terhadap perkembangan AI membuat banyak orang mudah terkecoh. Itulah sebabnya kasus penipuan digital saat ini meningkat signifikan,” tegasnya.
Untuk mengantisipasi hal tersebut, ia menekankan pentingnya penerapan prinsip human in the loop dalam pengembangan agentic AI, yaitu memastikan bahwa setiap keputusan penting yang dihasilkan sistem tetap berada dalam pengawasan manusia.
“Banyak pakar mendorong penerapan protokol yang ketat, termasuk memastikan adanya kontrol manusia dalam proses pengambilan keputusan oleh AI,” jelasnya.
Selain itu, Nezar menilai pendekatan etika dalam pengembangan AI tidak cukup lagi bersifat sukarela. Prinsip-prinsip seperti transparansi, akuntabilitas, dan keamanan harus menjadi bagian integral sejak tahap perancangan melalui pendekatan ethics by design.
“Transparansi, akuntabilitas, dan keamanan harus melekat dalam setiap tahap pengembangan dan implementasi produk AI,” ujarnya.
Karena itu, ia mendorong kolaborasi lintas sektor—mulai dari pemerintah, pengembang teknologi, akademisi, industri, hingga komunitas pengguna—untuk memperkuat tata kelola AI serta mitigasi risiko sejak awal.
Menurut Nezar, Indonesia Ethical AI Summit menjadi momentum penting untuk merumuskan langkah-langkah strategis dalam membangun ekosistem AI yang tidak hanya inovatif, tetapi juga aman dan bertanggung jawab.
“Forum ini diharapkan dapat menghasilkan rekomendasi yang menjadi dasar dalam penyusunan kebijakan AI yang etis di Indonesia,” pungkasnya.
