(Vibizmedia – Jakarta) Perkembangan kecerdasan artifisial (Artificial Intelligence/AI) dinilai semakin meningkatkan kompleksitas ancaman penipuan digital, seiring kemampuannya menghasilkan konten sintetis yang sulit dibedakan dari kenyataan.
Wakil Menteri Komunikasi dan Digital, Nezar Patria, mengingatkan bahwa penyalahgunaan teknologi AI, khususnya melalui deepfake, telah menjadi tantangan serius dalam aspek etika maupun keamanan digital yang perlu diantisipasi secara menyeluruh.
Dalam sambutannya pada Indonesia Ethical AI Summit di Jakarta Selatan, Rabu (17/06/2026), ia menyampaikan bahwa saat ini suara dan wajah seseorang dapat direplikasi secara digital dengan tingkat kemiripan yang sangat tinggi melalui teknologi AI.
Menurutnya, perkembangan kecerdasan artifisial berlangsung sangat pesat, bahkan telah bergerak melampaui fase generative AI menuju pengembangan agentic AI serta berbagai inovasi lanjutan lainnya. Di satu sisi, kemajuan tersebut memberikan manfaat besar bagi berbagai sektor, namun di sisi lain juga menghadirkan risiko baru yang tidak dapat diabaikan.
Dalam konteks keamanan siber, Nezar Patria menyoroti semakin maraknya penggunaan AI oleh pelaku kejahatan digital untuk melakukan penipuan berbasis deepfake. Ia menjelaskan bahwa manipulasi berbasis AI kini telah berkembang ke arah apa yang disebut sebagai synthetic reality atau realitas sintetik, yang membuat masyarakat semakin sulit membedakan antara konten asli dan konten rekayasa.
Ia menegaskan bahwa rendahnya literasi masyarakat terhadap perkembangan AI turut memperbesar kerentanan terhadap penipuan digital. Kondisi tersebut menyebabkan kasus scam berbasis teknologi semakin meningkat dan menjadi semakin sulit dideteksi.
Lebih lanjut, ia menekankan pentingnya penerapan prinsip human in the loop dalam pengembangan agentic AI, yakni sistem kecerdasan buatan yang memiliki kemampuan untuk melakukan penalaran dan pengambilan keputusan secara lebih mandiri. Menurutnya, berbagai pakar juga mengusulkan perlunya protokol pengawasan yang ketat agar keputusan-keputusan penting tetap berada dalam kendali manusia.
Nezar Patria juga menilai bahwa pendekatan etika dalam pengembangan AI tidak lagi cukup bersifat sukarela, melainkan harus diintegrasikan langsung ke dalam proses desain teknologi. Prinsip seperti transparansi, akuntabilitas, dan keamanan perlu diwujudkan secara nyata melalui pendekatan ethics by design dalam setiap tahap pengembangan produk AI.
Ia menegaskan bahwa nilai-nilai tersebut harus menjadi bagian yang melekat dalam implementasi teknologi, bukan sekadar prinsip normatif di atas kertas. Oleh karena itu, para pengembang, pelaku industri, akademisi, dan komunitas pengguna AI didorong untuk memperkuat tata kelola serta mitigasi risiko sejak tahap awal perancangan teknologi.
Menurutnya, Indonesia Ethical AI Summit menjadi ruang strategis untuk merumuskan langkah-langkah kolaboratif dalam membangun ekosistem kecerdasan artifisial yang tidak hanya inovatif, tetapi juga bertanggung jawab dan aman bagi masyarakat.
