(Vibizmedia – Jakarta) Perkembangan kecerdasan artifisial (Artificial Intelligence\/AI) yang semakin pesat dinilai membawa tantangan baru dalam keamanan digital. Salah satu yang paling mengkhawatirkan adalah meningkatnya ancaman penipuan digital melalui teknologi deepfake, yang mampu menghasilkan suara, gambar, hingga video palsu dengan tingkat kemiripan yang sulit dibedakan dari kenyataan.<\/p>\n
Wakil Menteri Komunikasi dan Digital, Nezar Patria, mengingatkan bahwa penyalahgunaan AI untuk menciptakan konten manipulatif menjadi risiko serius yang harus diantisipasi oleh pemerintah, industri, dan masyarakat. \u201cKini suara, wajah, bahkan ekspresi seseorang dapat ditiru dan dihadirkan dalam bentuk video deepfake yang sangat meyakinkan,\u201d ujarnya dalam Indonesia Ethical AI Summit di Jakarta Selatan, Rabu (17\/6\/2026).<\/p>\n
Menurutnya, perkembangan AI berlangsung sangat cepat, bahkan telah melampaui fase generative AI dan mulai memasuki era agentic AI\u2014sistem yang mampu bernalar dan mengambil keputusan secara lebih mandiri.<\/p>\n
Di satu sisi, kemajuan ini membuka peluang besar untuk meningkatkan produktivitas dan inovasi. Namun di sisi lain, muncul risiko baru, terutama terkait keamanan siber dan penyebaran disinformasi.<\/p>\n
Nezar menyoroti maraknya penggunaan teknologi AI oleh pelaku kejahatan digital untuk melakukan penipuan berbasis deepfake. Manipulasi tersebut bahkan berkembang menjadi apa yang disebut sebagai synthetic reality atau realitas sintetik, sehingga semakin sulit dikenali oleh masyarakat luas.<\/p>\n
\u201cMinimnya pemahaman masyarakat terhadap perkembangan AI membuat banyak orang mudah terkecoh. Itulah sebabnya kasus penipuan digital saat ini meningkat signifikan,\u201d tegasnya.<\/p>\n
Untuk mengantisipasi hal tersebut, ia menekankan pentingnya penerapan prinsip human in the loop dalam pengembangan agentic AI, yaitu memastikan bahwa setiap keputusan penting yang dihasilkan sistem tetap berada dalam pengawasan manusia.<\/p>\n
\u201cBanyak pakar mendorong penerapan protokol yang ketat, termasuk memastikan adanya kontrol manusia dalam proses pengambilan keputusan oleh AI,\u201d jelasnya.<\/p>\n
Selain itu, Nezar menilai pendekatan etika dalam pengembangan AI tidak cukup lagi bersifat sukarela. Prinsip-prinsip seperti transparansi, akuntabilitas, dan keamanan harus menjadi bagian integral sejak tahap perancangan melalui pendekatan ethics by design.<\/p>\n
\u201cTransparansi, akuntabilitas, dan keamanan harus melekat dalam setiap tahap pengembangan dan implementasi produk AI,\u201d ujarnya.<\/p>\n
Karena itu, ia mendorong kolaborasi lintas sektor\u2014mulai dari pemerintah, pengembang teknologi, akademisi, industri, hingga komunitas pengguna\u2014untuk memperkuat tata kelola AI serta mitigasi risiko sejak awal.<\/p>\n
Menurut Nezar, Indonesia Ethical AI Summit menjadi momentum penting untuk merumuskan langkah-langkah strategis dalam membangun ekosistem AI yang tidak hanya inovatif, tetapi juga aman dan bertanggung jawab.<\/p>\n
\u201cForum ini diharapkan dapat menghasilkan rekomendasi yang menjadi dasar dalam penyusunan kebijakan AI yang etis di Indonesia,\u201d pungkasnya.<\/p>\n","protected":false},"excerpt":{"rendered":"
(Vibizmedia – Jakarta) Perkembangan kecerdasan artifisial (Artificial Intelligence\/AI) yang semakin pesat dinilai membawa tantangan baru dalam keamanan digital. Salah satu yang paling mengkhawatirkan adalah meningkatnya ancaman penipuan digital melalui teknologi deepfake, yang mampu menghasilkan suara, gambar, hingga video palsu dengan tingkat kemiripan yang sulit dibedakan dari kenyataan. Wakil Menteri Komunikasi dan Digital, Nezar Patria, mengingatkan […]<\/p>\n","protected":false},"author":101059,"featured_media":413260,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_exactmetrics_skip_tracking":false,"_exactmetrics_sitenote_active":false,"_exactmetrics_sitenote_note":"","_exactmetrics_sitenote_category":0,"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0},"categories":[1],"tags":[34448],"aioseo_notices":[],"yoast_head":"\n\n\n\n\n\n\n\n\n\n\n\t\n\t\n\n\n\t\n\t\n\t\n