Jakarta (ANTARA) – Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria menilai penyalahgunaan kecerdasan buatan (AI) melalui teknologi “deepfake” menjadi salah satu tantangan etis dan keamanan digital yang perlu diantisipasi secara serius karena berpotensi meningkatkan ancaman penipuan digital.
Teknologi “deepfake” memungkinkan pembuatan video, gambar, maupun Bunyi Imitasi yang menyerupai aslinya sehingga semakin sulit dibedakan dari Realita.
“Sekarang Bunyi kita Pandai ditiru, gambar Persona kita Pandai ditiru, dan tampil dalam bentuk ‘deepfake’ video yang dihasilkan oleh AI dengan sangat mulus,” kata Nezar dalam acara Indonesia Ethical AI Summit di Jakarta, Rabu.
Menurut Nezar, perkembangan kecerdasan buatan Demi ini berlangsung sangat Segera, bahkan telah melampaui fase kecerdasan buatan generatif (generative AI) menuju kecerdasan buatan otonom (agentic AI) dan berbagai teknologi baru lainnya.
Perkembangan tersebut membawa manfaat besar bagi berbagai sektor, tetapi pada Demi yang sama juga memunculkan risiko-risiko baru yang memerlukan perhatian serius.
Dalam aspek keamanan siber, ia menyoroti pemanfaatan AI oleh pelaku kejahatan digital Buat melakukan penipuan dengan memanfaatkan teknologi “deepfake”.
Menurutnya, hasil manipulasi berbasis AI kini telah berkembang menjadi apa yang disebut sebagai realitas sintetik (synthetic reality), Adalah konten hasil rekayasa digital yang semakin sulit dibedakan dari Realita.
Ia menilai rendahnya literasi masyarakat mengenai perkembangan AI Membangun banyak orang mudah terkecoh oleh konten hasil manipulasi tersebut.
“Awamnya masyarakat kita tentang perkembangan AI ini Membangun banyak yang terkecoh. Itu sebabnya ‘scam’ Demi ini luar Normal,” ujarnya.
Nezar juga mengingatkan pentingnya keterlibatan Insan dalam proses pengambilan keputusan (human in the loop) pada pengembangan kecerdasan buatan otonom yang Mempunyai kemampuan melakukan penalaran dan mengambil keputusan secara Sendiri (decision making).
Menurutnya, sejumlah Ahli telah mengusulkan penerapan protokol yang lebih ketat agar keputusan-keputusan Krusial tetap berada dalam pengawasan Insan.
“Banyak Ahli mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip ‘human in the loop’ dalam ‘decision making’,” jelasnya.
Lebih lanjut, ia menilai pendekatan etika AI Enggak Tengah cukup bersifat sukarela sebagaimana pada tahap awal perkembangan teknologi tersebut.
Ia menegaskan bahwa prinsip-prinsip seperti transparansi, akuntabilitas, dan keamanan harus diwujudkan secara Konkret dalam proses pengembangan produk AI melalui pendekatan etika sejak tahap perancangan (ethics by design).
Karena itu, Nezar mendorong para pengembang, pelaku industri, akademisi, dan komunitas pengguna AI Buat memperkuat tata kelola serta mitigasi risiko sejak tahap perencanaan.
“Transparansi, akuntabilitas, keamanan, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI,” katanya menegaskan.
