KabarMakassar.com — Lonjakan konten deepfake dan konten negatif menjadi alarm bagi pembuat kebijakan dan pelaku industri. Data Sensity AI menunjukkan peningkatan konten deepfake hingga 550% dalam lima tahun terakhir. Angka yang menegaskan bahwa ancaman deepfake bukan sekadar proyeksi, melainkan kenyataan yang terus menguat.
Pakar dan Praktisi IT Oskar Riandi menegaskan bahwa antisipasi terhadap deepfake harus dilakukan dari berbagai sisi yaitu teknologi, edukasi, dan regulasi.
‘’Pertama, sisi teknologi, kita butuh teknologi deteksi deepfake (deepfake debunking). Harus disiapkan sejalan dengan semakin berkembangnya teknologi deepfake. Kedua, literasi digital masyarakat harus ditingkatkan,’’ ujar Oskar dalam keterangan, Selasa (28/10)
‘’Masyarakat tidak boleh langsung percaya dan men-share konten tanpa verifikasi. Ketiga, regulasi yang jelas tapi tidak menghambat inovasi. Perlu semacam digital signature yang diterbitkan bersamaan dengan audio dan/atau video yang degenerate menggunakan Artificial Intelligence (genAI),’’ sambungnya.
Oskar menjelaskan, digital signature atau tanda tangan digital dapat berfungsi sebagai penanda keaslian konten yang dibuat dengan AI, agar publik dapat membedakan mana yang otentik dan mana yang manipulatif. Langkah ini, katanya, dapat membantu mencegah penyalahgunaan serta memperkuat kepercayaan publik terhadap konten digital.
Ancaman yang ditimbulkan deepfake sangat beragam dan berdampak luas. Menurut Oskar, dampak itu meliputi kerusakan reputasi, misalnya audio atau video palsu pejabat yang bisa menimbulkan kerusakan berkepanjangan, hingga ancaman terhadap stabilitas politik.
‘’Kedua, dalam konteks politik, ini bisa mengancam demokrasi. Kita sudah lihat di beberapa negara, deepfake digunakan untuk manipulasi opini publik menjelang pemilu. Di Indonesia dengan 270 juta penduduk dan penetrasi media sosial yang tinggi, potensi penyebarannya sangat cepat,’’ ungkapnya.
Dampak lain adalah aspek kemanusiaan. Korban deepfake pornografi yang mengalami trauma psikologis berat.
“Ini bukan sekadar kejahatan siber, tapi kejahatan kemanusiaan,” kata Oskar.
Ancaman ekonomi juga nyata, seperti penipuan finansial berbasis deepfake yang meniru suara Chief Executive Officer (CEO) hingga memerintahkan transfer dana, serta potensi penggunaan untuk operasi intelijen asing.
‘’Kelima, ancaman keamanan nasional. Deepfake dapat digunakan untuk operasi intelijen asing, disinformasi strategis, atau bahkan memicu konflik antar negara,’’ imbuhnya.
Fenomena information snacking memperparah keadaan, publik kini sering mengonsumsi potongan informasi tanpa konteks lengkap, sementara algoritma platform memperkuat echo chamber. Hal ini membuat misinformasi cepat menyebar dan sulit dikendalikan.
‘’Ini adalah fenomena information snacking; orang mengkonsumsi informasi dalam potongan-potongan kecil, seringkali tanpa konteks yang lengkap/komprehensif. Ditambah algoritma media sosial yang memperkuat echo chamber, ini jadi resep sempurna untuk misinformasi,’’ terangnya.
Dari sisi solusi, Oskar menekankan kombinasi teknologi dan edukasi. Di tingkat teknis, pengembangan sistem deepfake debunking penting termasuk notifikasi konteks saat pengguna hendak membagikan potongan konten.
“Hati-hati, konten ini belum terverifikasi” atau “Ini potongan dari video yang lebih panjang, lihat konteks lengkapnya,” sebutnya
‘’Misalnya “Hati-hati, konten ini belum terverifikasi” atau “Ini potongan dari video yang lebih panjang, lihat konteks lengkapnya.” Hal ini bisa dilakukan apabila sudah ada platform deepfake debunking-nya,’’ ungkapnya.
Di sisi kebijakan, Oskar menyambut baik inisiatif Komdigi menyusun Roadmap AI sebagai langkah strategis menata tata kelola AI Indonesia jangka panjang.
‘’Saya mendukung penuh inisiasi ini, karena roadmap ini berfungsi sebagai guidance yang akan mengarahkan pengembangan dan pemanfaatan AI di Indonesia,’’ ungkapnya optimis.
Menurut Oskar, roadmap yang komprehensif harus menyeimbangkan inovasi dengan regulasi, etika, dan perlindungan bagi kelompok rentan seperti anak-anak, perempuan, dan penyandang disabilitas.
Berdasarkan praktik terbaik global, Roadmap AI idealnya berfokus pada pilar-pilar utama yakni Tata Kelola/Regulasi dan Etika; Inovasi dan Pembiayaan; Pengembangan Talenta Digital; Infrastruktur dan Tata Kelola Data; serta Riset dan Inovasi Industri.
Oskar menekankan bahwa efektivitas roadmap sangat tergantung pada implementasi dan penegakan.
‘’Efektivitasnya sangat bergantung pada regulasi dan eksekusinya. Roadmap yang baik di atas kertas bisa gagal apabila implementasi atau law enforcement-nya tidak tegas. Namun demikian apabila dilakukan dengan serius dan tegas, saya optimis ini bisa sangat efektif,’’ jelasnya
Jika dilaksanakan dengan baik, dampak positif yang bisa diharapkan meliputi ruang digital yang lebih sehat, meningkatnya kepercayaan publik, daya saing ekonomi digital yang lebih tinggi, serta iklim investasi yang makin kondusif bagi pengembangan AI lokal.
‘’Infrastruktur dan data digunakan secara optimal untuk hal-hal yang bermanfaat dan Inovasi AI dapat berkembang lebih cepat,’’ pungkasnya
