Ilustrasi Grok AI (Dok: Ist).KabarMakassar.com — Pemerintah mengultimatum fitur kecerdasan artifisial Grok AI di platform X setelah temuan penyalahgunaan teknologi untuk memanipulasi foto orang menjadi konten asusila tanpa persetujuan.
Kementerian Komunikasi dan Digital (Komdigi) menyatakan tidak menutup kemungkinan menjatuhkan sanksi hingga pemutusan akses layanan bila pengamanan dan moderasi tidak segera diperbaiki.
Merespon hal itu, Akademisi Universitas Muhammadiyah (Unismuh) Makassar, Andi Amalia Suhra, menilai praktik tersebut sebagai bentuk pelanggaran berat terhadap hak privasi, martabat, dan keamanan individu di ruang digital, serta menuntut kejelasan tanggung jawab hukum para pihak yang terlibat.
Menurut Amalia, manipulasi gambar seksual non-konsensual melalui AI merupakan serangan terhadap hak asasi manusia. Ia menegaskan bahwa privasi tidak semata soal data pribadi, melainkan juga menyangkut kontrol atas citra diri dan kehormatan seseorang.
“Kasus Grok AI ini adalah serangan terhadap hak asasi digital serta merupakan bentuk pelanggaran serius terhadap hak asasi manusia, khususnya hak atas privasi, martabat, dan rasa aman secara digital,” ujarnya dalam keterangan, Kamis (08/01).
Ia menjelaskan bahwa penggunaan AI untuk merekayasa konten seksual terhadap individu nyata telah melampaui batas kebebasan berekspresi.
Menurutnya, manipulasi gambar tanpa izin secara langsung mencederai martabat manusia yang dijamin oleh konstitusi.
“Privasi bukan hanya soal data, tapi juga kontrol atas citra diri. Manipulasi gambar tanpa izin adalah mencederai martabat manusia,” kata Dosen Fakultas Hukum Unismuh Makassar itu.
Sisi hukum positif, ia menilai praktik tersebut dapat dijerat melalui berbagai regulasi yang berlaku di Indonesia. Selain Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) dan Undang-Undang Perlindungan Data Pribadi (UU PDP), ketentuan pidana juga tercantum dalam Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) yang mulai berlaku 2 Januari 2026.
Ia menerangkan bahwa Pasal 172 KUHP mendefinisikan pornografi secara luas, termasuk gambar, animasi, dan konten visual lain yang memuat kecabulan atau eksploitasi seksual. Sementara itu, Pasal 407 ayat (1) KUHP mengatur ancaman pidana penjara enam bulan hingga 10 tahun bagi pihak yang memproduksi atau menyebarluaskan konten pornografi.
“Korban juga dapat mengajukan gugatan perdata ke pengadilan negeri atas dasar perbuatan melawan hukum dan menuntut ganti kerugian, baik materiil maupun immateriil,” jelasnya.
Terkait pihak yang bertanggung jawab, ia menilai pertanggungjawaban hukum tidak hanya berhenti pada pengguna. Menurutnya, pengembang dan platform digital juga dapat dimintai tanggung jawab apabila terbukti lalai menyediakan sistem yang memungkinkan terjadinya tindak pidana.
Amalia menyebut, pengguna dapat dipidana sebagai aktor utama karena memiliki niat jahat, sementara pengembang atau platform dapat dimintai pertanggungjawaban apabila tidak melakukan pengamanan memadai. Pendekatan ini, menurutnya, penting untuk menciptakan efek jera dan tanggung jawab kolektif.
Namun demikian, penegakan hukum atas kejahatan berbasis AI menghadapi tantangan besar, terutama dalam hal yurisdiksi lintas negara. Ia menjelaskan bahwa perbedaan lokasi server, pengembang, dan korban sering kali menghambat proses hukum dan penyidikan digital.
Selain itu, posisi korban masih relatif lemah karena beban pembuktian berada pada pihak yang dirugikan. Ia menilai aparat penegak hukum menghadapi tantangan teknis dalam mengungkap kejahatan siber yang melibatkan anonimitas dan teknologi canggih.
Dosen Fakultas Hukum Unismuh Makassar itu menekankan pentingnya literasi hukum dan digital bagi masyarakat. Menurutnya, masyarakat perlu memahami bahwa ruang digital tidak sepenuhnya aman dan jejak digital bersifat permanen.
“Teknologi berkembang lebih cepat daripada hukum. Jangan menganggap ruang digital sebagai ruang privat sepenuhnya. Manipulasi AI adalah ancaman nyata, dan literasi hukum digital adalah perisai terbaik kita saat ini,” katanya.
Ia berharap kasus Grok AI dapat menjadi momentum bagi pemerintah dan pemangku kepentingan untuk segera merumuskan regulasi khusus tentang kecerdasan artifisial.
“Regulasi AI sangat penting untuk memastikan inovasi teknologi berjalan seiring dengan perlindungan hak asasi dan martabat manusia,” pungkasnya.
