Rantai Panjang Serangan Siber dan Disinformasi Berbasis Gender

4 days ago 16

KabarMakassar.com — Dewi (bukan nama sebenarnya) tiba-tiba merasa takut memegang handphone.

Setiap ada notifikasi yang masuk ke handphone-nya, ia seperti merasakan ada dentuman peluru yang keluar dari laras panjang yang menghantamnya. Ini membuatnya takut.

“Rasanya sampai takut memegang gadget, takut melihat notifikasi,” ingatnya.

Dunia Dewi terasa menyempit. Ada hari-hari ketika ia tidak sanggup menjelaskan apa yang ia alami. Ia lalu memilih diam, menghemat energi yang terus tersedot oleh rasa khawatir.

“Aku nggak punya energi untuk menjelaskan,” katanya.

Ketakutan itu bermula saat ia datang ke LBH Jakarta, pada 18 September 2017 silam di acara diskusi berjudul merawat ingatan sejarah ’65. Tiba-tiba terdengar desas-desus yang cepat sekali menyebar jika di pertemuan tersebut ada “kumpulan PKI.”

Belum sempat ia mencerna ini semua, tiba-tiba ada segerombolan orang datang menyergap Kantor LBH Jakarta. Semakin lama rombongan ini semakin banyak dengan suara mereka yang sangat keras. Setelah itu Dewi mendengar ada timpukan benda-benda keras yang dilempar ke arah gedung LBH Jakarta tempat ia berada.

“Kami lalu dikepung selama berjam-jam,” kata Dewi.

Dewi bercerita, semua orang merasa gelisah apa yang bisa dilakukan saat itu, karena untuk keluar tidak mungkin, tetapi untuk bertahan, sampai kapan mereka harus bertahan?

Lemparan batu terus-terusan menghantam dinding gedung, ada teriakan “PKI!” yang ia dengar lewat jendela. Dalam gelap itu, Dewi sempat membatin, “Aduh, aku nggak bakal selamat nih di gedung ini.”

Malam itu ia terus berdoa agar ia dan teman-temannya disana selamat. Akhirnya, mereka bisa keluar setelah menunggu kurang lebih 12 jam.

“Kami baru bisa keluar sekitar subuh,” lanjutnya.

Beberapa hari setelah pengepungan, ternyata dokumentasi acara itu tersebar di dunia digital. Yang membuat Dewi kuatir bukanlah viralnya gambar tersebut, tapi kenyataan bahwa keluarga di kampung pun menerimanya dengan ragam komentar yang menyudutkan identitasnya.

Tubuh Dewi, jilbabnya, ekspresinya, posisinya di depan panggung disebarkan, seolah-olah sudah diambil alih oleh narasi yang melesat ke arah dirinya. Disinformasi pun terjadi, komentar-komentar negatif di media sosial bermunculan.

“Komentar-komentarnya bikin kaget, sampai ribuan. Ada yang menulis, ‘Ih, kok berjilbab tapi datang ke acara begitu?” katanya lirih.

Ia padahal hanya berdiri di barisan depan sedang mengambil gambar, Dewi mengerjakan tugasnya sebagai divisi kampanye dan media sebuah organisasi perempuan. Tetapi potongan wajahnya dipakai untuk menciptakan tuduhan bahwa Dewi, perempuan berjilbab yang disebut-sebut di gambar itu, terlibat dengan PKI dan pantas dihukum

“Iya, cuma kesorot-sorot saja,” ujarnya ketika ditanya soal videonya.

Pada hari-hari awal, Dewi meminta bantuan Purple Code, sebuah lembaga feminis yang mengadvokasi isu keamanan digital. Kantornya juga mendorongnya untuk konseling di Yayasan Pulih.

Ia tak menyangka jika kehidupan sosialnya kemudian mengalami hambatan. Keluarga melarang Dewi untuk datang ke acara-acara serupa yang menurutnya membatasi gerak-geriknya.

“Keluarga, lebih ke melarang, “Kalau ada acara seperti itu jangan datang-datang lagi. Jatuhnya jadi pelarangan yang membatasi aku,” katanya.

Teman-temannya tidak menjauh, tapi Dewi memutuskan untuk menarik diri. Beberapa respons lingkaran dekatnya membuat Dewi tidak nyaman, seperti “Itu benar kamu? Ya, kalau perlu juga tidak apa-apa. Ngapain, sih, di situ?” terdengar seperti putusan singkat bahwa ia seharusnya tidak berada di sana sejak awal.

Komentar-komentar itu membuatnya trauma. Pada akhirnya, Dewi harus memilih untuk bertahan. Trauma itu tidak hilang begitu saja, tetapi ia belajar memberi nama pada apa yang terjadi, ini ya yang dinamakan kekerasan digital, dis informasi, doxing itu? Lalu ada misogini dari komentar-komentar publik. Jika kekerasan digital adalah pengepungan, maka suara Dewi hari ini adalah langkah kecil untuk keluar dari kepungan itu.

Cerita Dewi ini menjadi bukti bahwa narasi palsu tentang moralitas, peran domestik, dan tubuh perempuan sering digunakan untuk mendiskreditkan, membungkam, atau menakut-nakuti mereka yang bersuara di ruang publik. Dalam konteks politik, serangan berbasis dis informasi terhadap aktivis perempuan kerap dikombinasikan dengan ujaran kebencian dan serangan seksual digital.

Pola yang sama juga terlihat dalam pengalaman Citra dan Kinah, kedua perempuan asal Sulawesi Selatan yang ditemui Konde.co. Keduanya sama-sama menghadapi bahaya yang berawal dari ruang digital, kemudian menjalar ke kehidupan nyata.

Bagi Citra (22) (bukan nama sebenarnya), sebuah catatan ringan tentang kebersamaan dengan teman-teman queer di media sosial menjadi fitnah yang menggiringnya ke domino disinformasi; seabrek akun anonim menyerang, identitas gender nya dipelintir, hingga email berdomain kampusnya dibombardir. Serangan itu kemudian berlanjut di bulan yang sama lewat penipuan yang membuat 38 juta rupiah tabungannya raib.

Ketika melapor ke polisi, laporan Citra diabaikan. Ini membuatnya kehilangan bukan hanya reputasi dan materi, tetapi rasa aman dan kepercayaan pada sistem.

Di sisi lain, Kinah (31), Jurnalis perempuan di Indonesia Timur berhadapan dengan ancaman setiap kali menerbitkan laporan kritis tentang praktik ilegal di daerahnya. Fitnah soal suap, makian, hingga ancaman fisik datang setelah ia menulis tentang solar ilegal, bahkan orang suruhan pelaku sempat mendatangi rumahnya. Pengalaman buruk dengan aparat, mulai dari upaya “titipan uang” hingga dipertemukan langsung dengan pengusaha yang ia sorot, membuatnya enggan melapor meski ancaman semakin intens (cerita Citra dan Kinah akan tersaji lebih lengkap dalam artikel kedua dari serial ini).

Kondisi yang menahun terjadi ini kemudian menjadi landasan Konde.co melakukan riset tentang pengalaman perempuan yang mengalami misinformasi dan disinformasi yang berujung pada kekerasan berbasis informasi dan digital. Pada 3–10 November 2025 Konde.co selanjutnya melakukan survei terhadap 115 responden perempuan dan ragam gender-seksualitas.

Dari data awal yang masuk berjumlah 127 responden; namun sebelum dianalisis, dilakukan proses penyaringan (data cleaning) untuk memastikan kualitas dan kelayakan data.

Konde.co merangkum riset dan temuan dalam game sederhana berikut. Pembaca dapat memilih peran dan memilih jawaban dengan segala pertimbangan berbasis temuan dan cerita dalam artikel ini:

Ruang daring telah menjadi arena penting bagi perempuan, khususnya perempuan muda untuk mencari informasi, berinteraksi, sekaligus menegosiasikan kepercayaan atas apa yang mereka baca dan bagikan.

Sebagian besar responden (67 orang atau 58,26 persen) berada di rentang usia 18–24 tahun. Kelompok usia 25–34 tahun menyusul dengan 43 responden (37,39 persen). Sisanya, kelompok usia 35 tahun mengisi 4,35% responden.

Dari sisi identitas, 97,39 persen responden adalah perempuan dan 2,61 persen berasal dari kelompok ragam gender seperti transpuan, non-biner, dan genderqueer. Sebagian besar responden tinggal di wilayah Indonesia Barat (86,96 persen), sementara 13,04 persen berasal dari Indonesia Tengah dan Timur. Dari sisi tempat tinggal, 57,39 persen responden tinggal di kota besar, 23,48 persen di kota sedang, 13,91 persen di kota kecil, dan 5,22 persen lainnya di desa.

Dalam hal kanal informasi populer, Instagram menempati posisi tertinggi sebagai sumber utama dengan 22,76 persen, disusul TikTok (20,34 persen), WhatsApp dan aplikasi pesan (18,89 persen), serta Twitter/X (15,50 persen). Sementara YouTube (8,96 persen), media online (5,81 persen), dan Facebook (4,60 persen) masih diakses tetapi tidak lagi menjadi kanal utama. Hanya sedikit yang masih bergantung pada televisi (1,45 persen), koran/majalah (0,48 persen), atau radio (0,24 persen). Pola ini menggambarkan bagaimana ruang digital visual dan cepat seperti TikTok dan Instagram menjadi pusat konsumsi informasi baru, yang sering kali tidak memisahkan dengan jelas antara hiburan, opini, dan fakta.

Menariknya, sumber informasi yang paling dipercaya oleh responden bukanlah lembaga resmi atau pers, melainkan anggota keluarga (22,90 persen), diikuti guru atau tenaga pendidik (19,71 persen), jurnalis (15,65 persen), dan teman dekat (15,36 persen). Tokoh publik seperti influencer dipercaya oleh 9,28 persen responden, sementara pemerintah dan pejabat hanya 2,61 persen.

Kepercayaan yang lebih besar pada jaringan personal dibanding lembaga publik menunjukkan adanya krisis kredibilitas di ruang informasi digital. Perempuan cenderung mencari kebenaran dari lingkar sosial yang mereka anggap aman, sementara sumber yang memiliki otoritas formal seperti pemerintah kurang dipercaya.

Tingkat kehati-hatian juga tercermin dari langkah mereka sebelum membagikan informasi. Sebagian besar (34,17 persen) mengaku melihat dulu komentar atau tanggapan orang lain sebelum mempercayai suatu informasi. Langkah ini merupakan sebuah bentuk validasi sosial yang umum dilakukan di media sosial.

Meski tampak kritis, langkah ini masih rentan karena bergantung pada opini publik yang bisa dimanipulasi oleh akun palsu atau buzzer.

Lalu sebanyak 30,15 persen memilih membaca penuh isi informasi dan menilai berdasarkan intuisi pribadi, sementara 13,57 persen melakukan verifikasi silang ke sumber lain. Ada pula 17,09 persen yang membagikan informasi ke orang lain untuk dikonfirmasi. Sisanya (5,03 persen) yang memilih menunda penyebaran agar sempat memverifikasi lebih jauh.

Pola-pola ini menggambarkan bahwa perempuan muda Indonesia aktif menavigasi ruang digital dengan kombinasi antara kehati-hatian, intuisi, dan rasa percaya terhadap jaringan sosialnya. Namun, cara mereka menilai kebenaran masih sangat dipengaruhi oleh konteks sosial dan emosional, bukan oleh sistem verifikasi informasi yang kuat.

Catatan ini menunjukkan bahwa literasi digital tidak bisa semata diukur dari kemampuan teknis, melainkan juga dari struktur kepercayaan dan keamanan sosial di sekitar mereka.

Dalam konteks hak digital, situasi ini membawa tantangan besar. Hak untuk mendapatkan informasi yang benar, hak atas perlindungan data pribadi, serta hak untuk bebas dari kekerasan daring adalah bagian dari kebebasan digital yang idealnya dimiliki setiap warga. Namun, ketika perempuan lebih banyak bergantung pada intuisi pribadi atau validasi sosial untuk menentukan kebenaran, itu menandakan betapa terbatasnya infrastruktur dukungan dan rasa aman di ruang digital.

Disinformasi yang menyasar perempuan kerap menggunakan isu tubuh, moralitas, dan peran sosial sebagai pintu masuk. Ketika informasi palsu beredar tentang bagaimana perempuan “seharusnya” bersikap, berpakaian, atau berbicara, dampaknya tidak hanya membentuk opini publik, tetapi juga mempersempit ruang kebebasan mereka.

Temuan lanjutan dari survei Konde.co memperlihatkan betapa intensnya arus informasi keliru yang diterima perempuan di ruang daring. Sebanyak 46,96 persen responden mengaku sering menerima informasi yang salah atau menyesatkan, sementara 27,83 persen mengatakan cukup sering, dan 14,78 persen menyatakan sangat sering.

Hanya sebagian kecil, sekitar 10,43 persen, yang menyebut jarang mengalaminya, bahkan tidak ada responden yang sama sekali luput dari paparan disinformasi.

Angka-angka ini memperlihatkan bahwa arus informasi palsu telah menjadi bagian dari keseharian perempuan di dunia digital, situasi demikian membuat batas antara informasi dan manipulasi semakin kabur.

Hal ini dipertegas dengan 68,7 persen responden mengaku pernah melihat atau menjadi sasaran langsung informasi palsu yang menyerang perempuan atau identitas tertentu. Hanya 31,3 persen yang mengaku belum pernah mengalaminya. Ini berarti, dua dari tiga perempuan dalam survei ini sudah bersentuhan dengan bentuk disinformasi yang memanfaatkan identitas gender, agama, orientasi seksual, etnis, atau daerah sebagai sasaran serangan.

TikTok (27,17 persen) muncul sebagai kanal paling sering munculnya informasi palsu, disusul Instagram (21,89 persen), WhatsApp (14,72 persen), Facebook (12,83 persen), dan Twitter/X (12,83 persen). Platform yang dulunya dianggap lebih formal seperti YouTube, media online, dan televisi hanya menempati porsi kecil di bawah 5 persen. Pola ini sejalan dengan temuan sebelumnya: semakin cepat ritme komunikasi dan semakin tinggi ketergantungan pada format visual, semakin besar pula peluang penyebaran disinformasi yang sulit diverifikasi.

Respons perempuan jika menjadi korban informasi palsu menunjukkan bentuk perlawanan yang beragam. Sebanyak 37,39 persen memilih melapor melalui fitur “report” di platform digital, sementara 28,99 persen memblokir atau memutus komunikasi dengan pelaku.

Sekitar 17,23 persen bercerita kepada teman atau keluarga untuk mencari dukungan emosional, dan 9,24 persen menghubungi lembaga pendamping seperti SAFENet, LBH APIK, atau Komnas Perempuan. Hanya 7,14 persen yang melapor ke polisi.

Angka terakhir ini menunjukkan bahwa saluran hukum masih belum menjadi pilihan utama, baik karena keraguan akan efektivitasnya maupun karena pengalaman sebelumnya yang kurang ramah terhadap korban.

Dari sisi pengalaman kualitatif, responden menggambarkan berbagai cara mereka mengenali informasi palsu. Banyak yang melakukan verifikasi mandiri, seperti mengecek ke sumber resmi atau membandingkan dengan berita lain.

“Saya cek dulu ke official akun PLN apakah mereka umumkan berita tersebut,” tulis salah satu responden.

Ada pula yang menelusuri klarifikasi langsung dari pihak terkait “Saya melihat klarifikasi dari pihak terkait,” atau menggunakan situs pemeriksa fakta “Setelah saya cek ke situs pemeriksa fakta ternyata tidak benar.”

Praktik-praktik ini menunjukkan adanya upaya aktif untuk menjaga integritas informasi, meskipun tidak semua memiliki akses atau kebiasaan untuk melakukannya secara konsisten.

Namun, di balik kehati-hatian itu, banyak pula perempuan yang menjadi sasaran langsung serangan berbasis identitas. Serangan terhadap moral muncul cukup sering, misalnya dengan labelisasi negatif terhadap perempuan yang dianggap tidak sesuai norma. “Disebut anti Kristen,” tulis seorang responden. Lainnya menambahkan, “Perempuan ODHIV distigma sebagai orang yang suka seks bebas, padahal dia korban dari suaminya.” Ada pula pengalaman yang lebih personal seperti, “Saya diserang dengan komentar yang menyerang ketubuhan saya yang berhijab.”

Selain stigma moral, disinformasi juga hadir dalam bentuk fitnah digital dan manipulasi visual. Beberapa responden menyebut pernah melihat atau mengalami penyebaran fake chat, foto, atau video hasil rekayasa digital untuk merusak reputasi perempuan.

“Ada akun di Twitter yang menyebarkan tangkapan layar chat palsu seolah dia terlibat tindakan tidak etis,” ujar seorang responden. Fenomena deepfake juga muncul dalam kesaksian lain. Ada postingan video tidak senonoh menggunakan AI dengan muka perempuan tertentu.”

Bentuk serangan lain yang muncul adalah ancaman dan pemerasan digital, seperti penggunaan foto hasil editan untuk menakut-nakuti korban: “Diancam menggunakan foto AI yang diedit wajah saya,” atau praktik doxing terhadap jurnalis perempuan yang menyebabkan ancaman fisik dan psikologis.

Di sisi lain, beberapa perempuan juga melaporkan bentuk penipuan berbasis data pribadi, seperti penggandaan akun WhatsApp atau penggunaan nama mereka untuk pinjaman daring ilegal.

Selain dampak langsung, perempuan yang menjadi korban informasi palsu juga menghadapi konsekuensi sosial, emosional, bahkan politik yang panjang. Ada yang merasa kehilangan rasa aman, malu, menarik diri dari ruang publik digital, hingga tidak bisa menggunakan hak politiknya.

“Saya jadi jengkel karena tidak bisa mendaftar menjadi anggota KPU,” tulis seorang responden, menggambarkan bagaimana fitnah digital berdampak langsung terhadap hak pekerjaan dan politiknya setelah ada manipulasi informasi bahwa dirinya mendukung partai politik tertentu.

Yang lain menuturkan, “Kabar palsu disebar untuk merusak reputasi… menyudutkan saya di antara teman-teman.”

Di tengah paparan masif ini, masih ada kelompok perempuan yang mencoba memahami mekanisme disinformasi secara lebih kritis. Mereka mengenali tanda-tanda khas informasi palsu: judul provokatif, gaya bahasa berantakan, data tidak lengkap, atau narasi yang menyudutkan satu pihak. Beberapa bahkan mulai menggunakan fitur-fitur edukatif di platform seperti Community Notes di X (Twitter) atau kanal pemeriksa fakta di YouTube dan Instagram. Meskipun jumlahnya belum dominan, kelompok ini menunjukkan arah penting: tumbuhnya kesadaran digital yang tidak hanya reaktif, tetapi reflektif terhadap struktur informasi yang mereka konsumsi.

Akal Imitasi, Akal-Akalan Baru yang Menghantui Perempuan

Jika sebelumnya perempuan berhadapan dengan berita bohong dan fitnah di media sosial konvensional, kini mereka menghadapi bentuk serangan yang lebih canggih, lebih halus, dan lebih sulit dilacak sumbernya. Satu lustrum belakangan, disinformasi dan manipulasi digital yang melibatkan teknologi kecerdasan buatan (AI) kian bertaburan, termasuk dengan maksud menyerang perempuan.

Riset Konde.co menyebut sebanyak 46,09 persen responden menyatakan sering melihat informasi palsu yang dibuat oleh AI, sementara 27,83 persen mengaku kadang-kadang melihatnya. Hanya 3,48 persen yang mengaku tidak pernah. Ini menunjukkan bahwa hampir seluruh perempuan dalam survei ini telah bersentuhan dengan konten hasil manipulasi mesin, mulai dari gambar yang diubah, suara yang dipalsukan, hingga narasi yang sepenuhnya direka oleh teknologi.

Lebih dari itu, 86,96 persen responden menyebut pernah melihat langsung konten palsu berbasis AI yang menyerang perempuan atau kelompok tertentu berdasarkan agama, orientasi seksual, etnis, atau daerah. Hanya 13,04 persen yang belum pernah.

Artinya, mesin bukan hanya kian mudah menghasilkan kesalahan informasi, tetapi turut memperkuat pola lama kekerasan berbasis gender dengan gaya baru.

TikTok kembali menempati posisi teratas sebagai kanal tempat konten palsu berbasis AI paling banyak terpapar oleh responden (33,18 persen), disusul Instagram (23,50 persen), Facebook (15,21 persen), dan Twitter/X (14,29 persen).

WhatsApp dan YouTube menempati posisi lebih rendah, sekitar 6 persen masing-masing. Platform-platform dengan algoritma yang memprioritaskan visual dan engagement menjadi lahan subur bagi penyebaran manipulasi berbasis citra dan video.

Sikap publik terhadap konten buatan AI menunjukkan ambivalensi. Mayoritas, 55,65 persen, menyatakan tidak akan membagikan konten jika mengetahui itu buatan AI, sementara 38,26 persen menilai akan tetap membagikannya bila dianggap “valid” menurut penilaian pribadi. Hanya 6,09 persen yang terang-terangan akan tetap menyebarkan tanpa syarat.

Kekhawatiran terhadap penyebaran informasi palsu berbasis AI juga sangat tinggi. Sebanyak 68,70 persen responden mengaku sangat khawatir, dan 26,96 persen khawatir. Hanya segelintir yang merasa tenang. Rasa khawatir ini tumbuh seiring kesadaran bahwa kemampuan manipulatif AI melampaui batas-batas etika dan hukum yang selama ini berlaku.

Ketika diminta menilai kebijakan pemerintah terkait teknologi AI, mayoritas responden menilai buruk (56,52 persen) dan sangat buruk (29,57 persen). Hanya 13,04 persen yang menilai baik, dan 0,87 persen sangat baik. Pandangan ini menggambarkan ketimpangan besar antara laju perkembangan teknologi dan perlindungan terhadap kelompok yang paling rentan terdampak olehnya.

Ketika ditanya apakah AI lebih banyak membawa manfaat atau bahaya bagi perempuan, 46,96 persen responden menjawab “lebih banyak bahaya”, hanya 5,22 persen yang melihat “lebih banyak manfaat”, sementara 46,09 persen menilai “seimbang”. Dua orang menyatakan tidak tahu.

Meskipun sebagian melihat peluang, mayoritas masih menilai bahwa AI lebih sering digunakan sebagai alat eksploitasi ketimbang pemberdayaan.

Temuan kualitatif memperkuat pandangan tersebut. Responden melaporkan beragam pengalaman tentang penyalahgunaan AI, mulai dari manipulasi visual dan seksualisasi, pemalsuan suara, hingga penipuan berbasis identitas digital.

Beberapa kasus paling sering muncul adalah deepfake dan manipulasi wajah perempuan untuk menciptakan citra seksual eksploitif.

“Gambar kurang senonoh diedit mukanya jadi muka dia (orang yang ia kenal),” tulis seorang responden.

Lainnya menambahkan, “Saya pernah lihat foto wanita yang diedit pakai AI jadi naked.” Ada pula yang menyebut, “Aktris yang saya sukai fotonya diedit tanpa pakaian.”

Dalam kasus lain, penyebaran dilakukan secara massal di aplikasi perpesanan. “Teman saya fotonya diubah jadi tidak senonoh dan disebarkan di pesan berantai.”

Bentuk penyalahgunaan lain yang dilaporkan adalah pemalsuan suara dan video (voice cloning).

“Dulu pernah ada orang lain yang menggunakan suara saya untuk menelpon orang tua dan bilang bahwa saya diculik,” tulis seorang responden. Ada juga yang mengalami perekaman wajah dan suara tanpa izin. “Dia merekam suara dan muka saya saat saya angkat video call, walau cuma beberapa detik tapi saya takut.”

Beberapa perempuan menjadi korban penipuan ekonomi akibat penyalahgunaan identitas digital. “Foto ibu saya dipakai jadi foto profil akun WhatsApp untuk meminjam uang,” ujar salah satu responden. Yang lain menuturkan kerugian yang jauh lebih besar: “Saya pernah ditipu dan mengalami kerugian ekonomi sebesar 38 juta melalui rekening dibobol.”

AI juga digunakan untuk manipulasi politik dan komersial. “Wajah saya dicantumkan membela tokoh partai tertentu, jadi saya tidak bisa daftar KPU,” tulis seorang korban. Ada pula yang melaporkan penyalahgunaan gambar untuk iklan tanpa izin. “Saya pernah melihat video orang di edit untuk mengiklankan produk padahal tidak ada perjanjian sama sekali.”

Salah satu pola yang paling mengkhawatirkan adalah kekerasan digital terhadap tokoh publik perempuan. Seorang responden menulis, “Adik tingkat mengedit foto dosen menjadi tidak senonoh dan itu gempar banget.” Serangan semacam ini tidak hanya menghancurkan reputasi, tetapi juga memperkuat stigma terhadap perempuan berpendidikan atau berpengaruh di ruang publik.

Dampak psikologis dari seluruh pengalaman ini sangat terasa. “Saya takut dan merasa terancam walau cuma beberapa detik direkam,” tulis seorang responden. Yang lain menambahkan, “Teman saya trauma besar setelah foto deepfake-nya disebarkan.” Banyak pula yang mengekspresikan rasa jengkel dan kehilangan kendali: “Saya jengkel karena wajah saya dicantumkan di konten politik.”

Beberapa responden juga menyinggung kemunculan hoaks yang menggunakan teknologi AI untuk memanipulasi pemberitaan, seperti berita bencana palsu. “Teman saya dapat info bencana rumah kebawa arus, ternyata hoaks,” tulis mereka. Pola ini menunjukkan bahwa AI tidak hanya digunakan untuk menyerang individu, tetapi juga memproduksi kekacauan informasi secara luas.

Dari seluruh temuan ini, jelas bahwa teknologi AI telah memperluas cakupan dan kompleksitas disinformasi yang sebelumnya sudah berat ditanggung oleh perempuan. Jika disinformasi manual bekerja dengan gosip dan bias sosial, disinformasi berbasis AI bekerja dengan presisi teknologi dan kecepatan algoritma. Ia menembus batas ruang pribadi, mengubah wajah, suara, bahkan narasi seseorang menjadi alat untuk mempermalukan atau menipu.

Luka yang Menembus Batas Layar

Satu hal yang paling canggih dari teknologi adalah bagaimana sesuatu yang ada dalam satu guliran layar dapat berdampak signifikan pada apa yang terjadi pada masa depan seseorang. Data survei Konde.co menunjukkan bahwa disinformasi tidak berhenti pada ruang digital semata, ia menembus ruang batin, hubungan sosial, bahkan ekonomi pribadi.

Sebanyak 24 responden (20,87 persen) mengaku pernah menjadi korban fitnah melalui informasi palsu. Dari jumlah itu, 68 orang (59,13 persen) menyatakan fitnah tersebut secara langsung membawa identitas gender mereka, menjadikan feminitas, tubuh, atau peran sosial mereka sebagai bagian dari narasi serangan. Artinya, lebih dari separuh kasus fitnah tidak hanya menyerang reputasi, tetapi juga mendomestikasi korban ke dalam stereotip dan stigma lama yang berwajah digital.

Dampak emosional dari pengalaman tersebut sangat jelas. Sebanyak 43,48 persen responden merasa cemas, takut, atau marah karena paparan informasi palsu, dan 40,87 persen bahkan melaporkan tingkat kecemasan atau kemarahan yang sangat tinggi.

Hanya 1,74 persen yang mengaku tidak terpengaruh secara emosional. Angka ini memperlihatkan bahwa disinformasi tidak hanya menyesatkan secara kognitif, tetapi juga melukai secara emosional, terutama bagi mereka yang menjadi sasaran langsung.

Rasa cemas dan takut itu tak berhenti di layar ponsel. Dua pertiga responden (66,09 persen) mengatakan disinformasi telah memengaruhi hubungan sosial mereka; hubungan dengan keluarga, teman, atau tetangga menjadi renggang, muncul ketidakpercayaan, atau bahkan konflik terbuka. Dalam konteks sosial yang masih menempatkan reputasi perempuan sebagai simbol moralitas keluarga, tuduhan atau kabar palsu sekecil apa pun bisa merusak tatanan relasi yang telah lama dibangun.

Kerugian ekonomi juga menjadi bagian dari rantai dampak ini. Sebanyak 46 responden (40 persen) menyatakan pernah mengalami kerugian finansial akibat disinformasi, mulai dari kehilangan pekerjaan karena reputasi yang rusak, ditipu lewat penipuan digital, hingga pemutusan kerja sama bisnis akibat citra yang tercemar di dunia maya. Bagi sebagian perempuan pekerja informal atau pelaku usaha kecil, kerugian semacam ini berarti kehilangan penghidupan utama.

Rasa tidak aman di ruang digital menjadi konsekuensi berikutnya. Lebih dari separuh responden (52,17 persen) menilai penggunaan media sosial saat ini berada pada tingkat risiko sedang, sementara 22,61 persen menilainya berisiko tinggi dan 4,35 persen sangat berisiko. Hanya 3,48 persen yang menganggap ruang digital sebagai tempat dengan risiko sangat rendah. Angka ini menunjukkan bahwa rasa aman perempuan di ruang daring masih rapuh; ruang publik digital belum sepenuhnya menjadi ruang yang setara atau terlindungi.

Serangan Digital dan Kekerasan Berbasis Gender Online: Ketika Ruang Siber Menjadi Medan Kekuasaan

Disinformasi seringkali menjadi taktik yang digunakan dalam serangan maupun kekerasan berbasis gender. Pengalaman responden dalam riset Konde.co menyebut berbagai kasus kekerasan berbasis gender online (KBGO) yang kian mewujud lewat informasi manipulatif terkait dengan status perempuan yang tersemat.

Dari 115 responden, sebanyak 48 responden (20,96 persen) mengaku pernah melihat atau mengalami komentar atau pesan bernada seksual, menjadikannya bentuk kekerasan siber paling umum. Penyebaran foto atau video tanpa izin menempati posisi kedua dengan 47 kasus (20,52 persen), disusul fitnah atau pencemaran nama baik (17,47 persen), dan doxing atau penyebaran data pribadi (16,59 persen).

Salah satu kutipan dari responden menggambarkan realitas ini dengan gamblang.

“Melalui SMS dan WhatsApp disebut pantas saja diselingkuhi, badan kayak batang pisang.”

Kekerasan semacam ini tidak berhenti pada pelecehan verbal. Ancaman penyebaran informasi pribadi, pemerasan ekonomi, hingga deepfake menunjukkan bagaimana kekuasaan digital lewat manipulasi informasi bekerja untuk mempermalukan atau membungkam. Beberapa responden bahkan melaporkan intimidasi luring setelah ancaman digital.

“Pihak terkait mendatangi rumah saya dan melakukan intimidasi,” kata salah satu responden survei.

Kasus semacam ini memperlihatkan bahwa kekerasan digital tidak lagi terbatas di layar, tetapi telah menjembatani dunia maya dan nyata, menjadikan perempuan tidak aman di keduanya.

Mayoritas korban memilih langkah-langkah mandiri untuk melindungi diri. Sebanyak 69 orang (23,39 persen) memblokir pelaku atau memutus komunikasi, 61 orang (20,68 persen) melaporkan ke platform media sosial, dan 38 orang (12,88 persen) menyimpan bukti digital. Hanya sebagian kecil yang melapor ke lembaga pendamping seperti SAFEnet, LBH APIK, atau Komnas Perempuan (7,46 persen), dan lebih sedikit lagi (1,69 persen) yang melapor ke kepolisian.

Data ini menunjukkan kecenderungan bahwa korban masih menanggung beban penyintas sendirian dan memilih bertahan lewat strategi digital pribadi alih-alih menempuh jalur hukum atau kelembagaan. Dalam banyak kasus, ketidakpastian proses hukum dan pengalaman korban sebelumnya menjadi alasan utama mengapa pelaporan jarang dilakukan.

Sebagian korban juga memilih untuk bercerita pada teman atau keluarga (8,47 persen) atau mencari dukungan emosional (5,42 persen). Langkah-langkah ini menunjukkan adanya solidaritas sosial yang penting, tetapi sekaligus mengindikasikan kekosongan sistem perlindungan yang memadai di level negara dan platform digital.

Meski lebih dari separuh responden (53,91 persen) belum pernah mengalami pelecehan digital secara langsung, 26,09 persen pernah mengalaminya setidaknya sekali, dan 17,39 persen mengalami pelecehan secara berkala. 2,61 persen lainnya bahkan mengaku sering menjadi korban.

Pola serangan digital sering kali terarah dan terencana lewat taktik manipulasi informasi. Biasanya dilakukan oleh akun anonim, akun palsu yang meniru identitas korban, bahkan grup atau bot kolektif.

Anonimitas menjadi pelindung bagi pelaku untuk menebar ancaman tanpa konsekuensi, sementara korban terjebak dalam labirin pelaporan yang panjang dan tidak ramah. Hal ini sebagaimana pengalaman responden berikut.

“Saya dikirimi pesan langsung di Instagram dari akun anonim.”

“Saya dikirimi pesan mengancam oleh akun tak dikenal setelah mengkritik kinerja pemerintah di TikTok.”

Dua kutipan ini memperlihatkan dua wajah kekerasan digital, yang satu menyerang tubuh dan citra pribadi, yang lain menghukum perempuan karena bersuara di ruang publik.

Dalam analisis tematik survei, sebagian besar kekerasan siber terhadap perempuan berakar pada upaya mengontrol tubuh dan ekspresi mereka. Mulai dari seksualisasi sebagai instrumen penghukuman, pemerasan ekonomi berbasis ancaman reputasi, hingga pembatasan ekspresi politik perempuan.

Bentuk-bentuk serangan ini menegaskan bahwa kekerasan digital lebih dari sekadar persoalan teknologi, tetapi bagian dari sistem sosial yang masih memosisikan perempuan sebagai pihak yang harus dihukum ketika melanggar batas norma.

Persepsi Tanggung Jawab Kolektif

Meningkatnya kecanggihan teknologi yang diikuti meningkatnya pula celah-celah buruk di dalamnya, platform dan negara menjadi dua pihak yang dianggap paling bertanggung jawab oleh responden.

Sebagian besar responden (32,96 persen) menilai pemerintah adalah pihak yang paling bertanggung jawab atas keamanan digital dan perlindungan terhadap kekerasan daring. Namun di saat yang sama, 56 persen dari responden dalam survei sebelumnya menilai kebijakan pemerintah terkait AI buruk atau sangat buruk. Ada jarak besar antara persepsi tanggung jawab dan efektivitas tindakan.

Kondisi ini memperlihatkan paradoks klasik ketika publik masih menggantungkan harapan pada negara, meski negara seringkali gagal hadir. Banyak korban yang telah melapor ke kepolisian melaporkan pengalaman yang seragam, 36 persen tidak tahu perkembangan laporannya, 29,17 persen menyebut prosesnya terlalu lama, dan 20 persen laporan ditolak karena dianggap kurang bukti.

Hanya 0,83 persen responden yang mengatakan pihak berwajib melakukan penyelidikan lebih lanjut. Angka yang kecil ini secara simbolik memperlihatkan betapa rapuhnya persepsi keadilan digital ketika menyangkut kekerasan dan disinformasi terhadap perempuan.

Di samping negara, responden juga berharap pada platform-platform tempat kekerasan itu terjadi. Namun hasil survei memperlihatkan bahwa respon platform masih dangkal dan inkonsisten.

Memang, 36,05 persen responden menyatakan akun atau konten bermasalah dihapus atau diblokir setelah dilaporkan. Tapi di balik angka itu, terdapat 18,02 persen yang menyebut prosesnya terlalu lama, 17,44 persen yang tidak melihat tindak lanjut apa pun, dan 11,05 persen yang laporannya justru ditolak.

Artinya, hanya sekitar sepertiga korban yang mendapatkan tanggapan berarti. Sisanya menghadapi sistem yang impersonal, seperti otomatisasi laporan yang menutup ruang dialog atau algoritma moderasi yang gagal membedakan konteks kekerasan berbasis gender dari konten biasa.

Kegagalan platform digital untuk menindaklanjuti dengan sensitif menunjukkan bagaimana regulasi internal mereka masih berorientasi pada kepatuhan, bukan perlindungan.

Selain platform media, 29,05 persen responden juga menyebut produsen AI sebagai pihak yang harus bertanggung jawab. Angka ini mencerminkan kesadaran baru bahwa kekerasan digital dianggap bukan hanya soal pengguna, tetapi juga tentang desain teknologi yang tidak memikirkan dampak sosialnya.

Banyak sistem AI dari generator gambar hingga model suara masih dikembangkan tanpa mekanisme etika dan pengawasan yang kuat. Akibatnya, penyalahgunaan seperti deepfake, impersonasi suara, dan fitnah visual menjadi mudah dilakukan.

Dalam banyak kasus, produsen AI melepaskan tanggung jawab dengan menyebut diri hanya sebagai “penyedia alat”, bukan aktor yang harus ikut menanggung akibat sosialnya.

Contohnya seperti penyedia AI deepfake tools DeepSwap dan FaceMagic yang menulis di halaman syarat penggunaan bahwa mereka “tidak bertanggung jawab atas konten yang dibuat pengguna”.

Model Stable Diffusion (Stability AI) dan Midjourney juga sempat digunakan untuk membuat gambar seksual non konsensual palsu dengan wajah selebritas, jurnalis perempuan, dan aktivis.

Stability AI menegaskan bahwa mereka hanya menyediakan model open-source dan tidak mengontrol cara orang menggunakannya.

Sementara itu, institusi media disebut oleh 10,06 persen responden sebagai pihak yang ikut bertanggung jawab. Persepsi menandakan keresahan publik terhadap bagaimana media daring sering memperkuat atau menormalisasi narasi yang menyudutkan perempuan, terutama ketika menjadi korban.

Dari pembacaan data ini, persepsi responden memperlihatkan bahwa kekerasan digital terjadi dalam ruang tanpa penjaga. Negara dianggap belum responsif, platform belum memuaskan dalam menangani kasus, produsen AI bekerja tanpa refleksi sosial, sementara media dan masyarakat belum mampu menciptakan ekosistem empatik yang melindungi korban.

Data-data yang tersusun dari survei Konde.co ini memperlihatkan satu pola yang konsisten: kekerasan, disinformasi, dan serangan digital yang lahir sebagai hasil dari struktur kuasa yang menjelajah dan kian berselancar di ruang siber.

Di dunia yang semakin dikuasai algoritma, tubuh dan suara perempuan masih menjadi objek kontrol, hanya saja kini menjamur dalam format data, gambar, dan suara yang dimanipulasi mesin.

Lebih dari 68 persen responden merasa sangat khawatir terhadap penyebaran informasi palsu berbasis AI, dan 59 persen menyatakan bahwa konten palsu sering membawa identitas gender korban. Ini menandakan bahwa teknologi baru tidak netral; ia mengandung bias sosial yang lama.

Survei ini, pada akhirnya, menunjukkan bahwa persoalan disinformasi dan kekerasan digital terhadap perempuan tidak bisa dipisahkan dari struktur sosial yang lebih besar, yakni bagaimana kekuasaan, representasi, dan teknologi berkelindan membentuk ulang siapa yang dianggap sah berbicara dan siapa yang terus diawasi.

Perkembangan AI dalam beberapa tahun terakhir membawa perubahan signifikan pada ekosistem informasi global, termasuk Indonesia. Teknologi moderasi konten berbasis AI memungkinkan identifikasi dan penyebaran informasi berlangsung dalam skala yang jauh lebih cepat dibanding sebelumnya.

Di saat yang sama, meningkatnya arus disinformasi menjadi isu yang mendorong pemerintah memperluas keterlibatannya dalam pengelolaan ruang digital.

Dalam konteks ini, posisi negara, platform digital, dan publik mengalami pergeseran. Negara memperkuat kebijakan penanganan konten yang dianggap mengganggu ketertiban, sementara platform beradaptasi melalui peningkatan mekanisme otomatis dan penyesuaian kebijakan pemerintah.

Interaksi antara ketiganya membentuk pola baru pengelolaan informasi yang memiliki implikasi terhadap keterbukaan ruang digital.

Gaya Sensor Konten dengan Dalih Mencegah Disinformasi

Berulang kali, pemerintah Indonesia menggunakan narasi “konten meresahkan masyarakat” sebagaimana tertuang Permenkominfo 522/2024 tanpa batasan jelas. Pembatasan internet di Papua pada Agustus-September 2019 terulang enam tahun kemudian dengan pemblokiran sekurangnya 592 akun saat demonstrasi Agustus-September 2025 lewat patroli siber.

Dalihnya, akun-akun tersebut melakukan provokasi, menyebar disinformasi, dan menghasut melakukan tindakan melanggar hukum.

Mekanisme ini dibuat dengan Sistem Kepatuhan Moderasi Konten (SAMAN) yang memungkinkan negara bersurat ke platform untuk perintah takedown konten dalam kurun waktu 4 – 24 jam.. Konten yang “merasahkan masyarakat” termasuk dalam kategori mendesak dan harus diturunkan dalam 4 jam setelah laporan.

Fitur live TikTok juga sempat dibekukan saat itu dan diduga berkaitan dengan sistem tersebut. Pihak platform menjelaskan kepada publik bahwa pembekuan adalah langkah sukarela. Kendati begitu, pembekuan tersebut terjadi setelah pemerintah memberikan perintah untuk memperkuat moderasi konten dan mengundang platform terkait disinformasi pada akhir Agustus.

Berdasarkan pengalaman aduan SAFEnet, banyak yang kritis pada saat gelombang aksi tersebut juga turut terkena pembatasan konten, termasuk dua akun lembaga bantuan hukum (LBH).

“Terkait yang aksi Agustus–September kemarin,yang heran itu sebenarnya ada dua akun LBH, yang pertama itu LBH Jakarta dan juga LBH Pekanbaru yang kena sisir. Padahal dari segi konten mereka itu kan gak ada yang mempromosikan scam.

“Bahkan sampai beberapa minggu lalu, LBH Jakarta itu setiap upload konten masih dapat peringatan melanggar community guidelines.TikTok sendiri tidak menjelaskan community guidelines apa yang dilanggar,” papar Shinta.

Pernyataan ini menyingkap bentuk baru dari digital censorship. SAFEnet mencatat banyaknya kasus konten advokasi sipil mengalami pembatasan visibilitas (shadow ban) di platform besar, sering kali setelah adanya tekanan politik dari pemerintah, termasuk aduan belasan kasus hanya pada saat aksi #IndonesiaGelap di awal 2025.

Nenden melengkapi dengan penjelasan mengenai logika struktural di balik kebijakan ini yang menurutnya silang sengkarut dengan kepentingan bisnis dan politik. Ia menggambarkan bagaimana represi digital di Indonesia bersifat dua arah, dari atas melalui negara yang memperluas regulasi represif, dan dari bawah melalui korporasi teknologi yang memilih aman secara bisnis dengan melakukan penyensoran diri (preventive compliance).

“Kalau kita lihat trennya di Indonesia itu, semakin lama regulasi yang dimiliki itu memang jadi semakin depresif, bagaimana regulasi yang ada membuat ekosistem digital juga menjadi semakin terbatas atau restriktif. Regulasi yang ada itu menjadi membuat si platform digital akhirnya harus melakukan self-censored yang lebih masif gitu ya, karena ancamannya adalah denda up to 500 juta untuk setiap konten yang tidak di-takedown.”

“Nah, daripada didenda, karena kan kita harus ingat bahwa platform digital itu adalah entitas bisnis dan mereka pasti akan meminimalisasi kerugian, termasuk kerugian atas denda. Jadi itulah yang kemudian juga membuat platform digital mungkin memilih untuk, mendingan buat takedown konten-konten yang di grey areas,” jelas Nenden.

Dalam Laporan Hak Digital SAFEnet 2025 disebutkan bahwa praktik ini telah menciptakan “efek gentar digital” (digital chilling effect) yang signifikan terhadap jurnalis, aktivis, dan komunitas minoritas. Platform digital, demi menghindari sanksi, justru mempersempit ruang bagi kritik dan ekspresi politik yang sah.

AI dan Posisi Negara dalam Politik Informasi

Pantauan SAFEnet mencatat enam kasus KBGO selama aksi Agustus–September 2025. Kasus-kasus ini umumnya muncul setelah korban mengunggah kritik terhadap aparat yang menyerang demonstran. Dalam salah satu kasus, pelaku yang mengaku sebagai istri aparat mengancam akan mendatangi korban dan melecehkannya dengan sebutan “perempuan jalang”.

Peristiwa ini menunjukkan bahwa pengguna media sosial yang bersuara kritis rentan menghadapi ancaman dan pelecehan berbasis gender yang berdampak psikologis.

Kasus lain menyasar Ibu Ana, perempuan berjilbab merah muda yang viral karena melindungi demonstran. Sebuah akun Instagram yang mengaku sebagai keponakannya membantah editan AI yang sempat beredar disertai klaim bahwa ia “mengalami gangguan jiwa”.

Penelusuran menunjukkan akun itu dimiliki anggota kepolisian dan belum dipastikan memiliki hubungan keluarga dengan korban. SAFEnet mengkategorikan insiden ini sebagai serangan KBGO berupa penyebaran berita bohong terkair kondisi mental korban.

Disinformasi yang menekan aktivis bahkan yang sudah dikriminalisasi muncul dengan pola yang terorganisir dan melibatkan jaringan buzzer serta aktor non-negara yang bekerja simultan dengan aparat. Hal ini disampaikan oleh Southeast Asia Freedom of Expression Network (SAFEnet), lembaga yang aktif mengadvokasi hak-hak digital.

“Yang paling pertama kali mereka alami kekerasannya itu cyber harassment atau pelecehan seksual, seperti itu. Terus juga ada juga tindakan hate speech, seperti menggiling opini bahwa si ini ‘lonte’ dan lain sebagainya. Itu yang ditemui di kemarin, di aksi Agustus September.”

“Jadi, jadi memang sebenarnya entah dari kelompok-kelompok buzzer gitu, ataupun juga non-state, juga itu juga sangat mendukung pola-polanya. Yang aku lihat, pola-pola ini tuh yang cenderung akhirnya membuat kotak atau membuat chamber sendiri gitu, di membuat ruangan sendiri di media sosial itu, untuk orang-orang yang vokal supaya bisa dibungkam kayak gitu,” ujar Nabillah Saputri, relawan SAFEnet kepada Konde.co Selasa (11/11).

SAFEnet menemukan bahwa serangan terkoordinasi semacam ini seringkali diarahkan pada aktivis perempuan yang terlibat gerakan pro-demokrasi, lingkungan, dan isu tubuh perempuan. Disinformasi menjadi senjata untuk merusak kredibilitas dan integritas personal mereka melalui narasi moralitas, kesucian, dan stereotip gender.

Nenden menambahkan bahwa dalam konteks digital, sulit untuk memastikan siapa aktor di balik serangan tersebut. Namun, pola koordinasi dapat dikenali melalui keseragaman narasi dan intensitas serangan.

“Memang yang paling sulit itu adalah membuktikan keterlibatan aktor. Jadi karena akan sulit bagi kita untuk kemudian bisa secara confirm 100% bahwa pelakunya adalah state actors atau non-state actors.”

“Tapi kalau kita melihat pola serangannya, misalnya dilihat dari komentar buzzers, itu kan ketika melihat tema atau tren kontennya, bisa kelihatan kalau memang sama, misalnya narasinya, itu kan coordinated, sudah pasti coordinated.” ujar Nenden Sekar Arum, Direktur SAFENet.

SAFENet juga mengonfirmasi temuan mengenai kekerasan dari teknologi kecerdasan buatan. Teknologi yang semestinya membuka peluang emansipasi digital, justru melahirkan bentuk kekerasan baru terhadap perempuan dan anak.

Di samping maraknya penyebaran disinformasi dan KBGO berbasis AI, kebijakan AI Indonesia saat ini berada pada tahap permulaan.

Indonesia mengambil langkah kerangka tata kelola AI melalui Strategi Nasional Kecerdasan Artifisial (STRANAS KA) 2020-2045, yang diluncurkan pada 10 Agustus 2020 oleh Badan Pengkajian dan Penerapan Teknologi (BPPT), yang menjadi bagian dari Badan Riset dan Inovasi Nasional (BRIN).

Strategi ini menjadi pedoman nasional untuk pengembangan, implementasi, dan tata kelola AI di Indonesia, selaras dengan visi Indonesia Emas 2045.

Pendekatan Indonesia dicirikan oleh penekanan pada 4 area fokus dan 5 bidang prioritas. Sebanyak 4 area fokus mencakup:

Riset & Inovasi Industri: Menumbuh kembangkan ekosistem kolaborasi riset dan inovasi kecerdasan artifisial guna mengakselerasi reformasi birokrasi serta industri
Data & Infrastruktur: Mewujudkan ekosistem data dan infrastruktur yang mendukung kontirbusi kecerdasan artifisial untuk kepentingan negara
Pengembangan Talenta: Menyiapkan talenta kecerdasan artifisial yang berdaya saing dan berkarakter
Etika & Kebijakan: Mewujudkan kecerdasan artifisial yang beretika sesuai dengan nilai-nilai Pancasila.

5 bidang prioritas yang ada mencakup:

Layanan Kesehatan: Pemanfaatan AI untuk meningkatkan kualitas layanan kesehatan, termasuk deteksi dini penyakit, pemantauan pasien, dan manajemen pandemi.
Reformasi Birokrasi: Peningkatan efisiensi dan transparansi dalam pemerintahan melalui implementasi sistem tata kelola elektronik berbasis AI.
Pendidikan dan Riset: Pemanfaatan AI untuk memajukan hasil pendidikan dan memperkuat kemampuan penelitian di Indonesia.
Ketahanan Pangan: Penggunaan AI untuk mendukung pertanian cerdas, optimasi rantai pasok, dan praktik pertanian berkelanjutan. Contoh konkretnya adalah penggunaan pembelajaran mesin untuk menyederhanakan produksi pertanian dan membantu mengantisipasi kebakaran hutan.
Mobilitas dan Kota Cerdas: Pengembangan inisiatif kota cerdas yang didukung AI untuk meningkatkan perencanaan kota, sistem transportasi, dan layanan publik secara keseluruhan.

Saat ini Indonesia masih belum memiliki regulasi AI yang berdiri sendiri, melainkan mengandalkan kerangka hukum yang sudah ada untuk mengawasi teknologi dan aplikasinya.

Dalam konteks perlindungan data, Undang-Undang Nomor 27 Tahun 2022 tentang Perlindungan Data Pribadi menjadi rujukan utama yang mengatur bagaimana data dikumpulkan, diproses, dan digunakan.

UU ini memberikan asas legal bagi perlindungan privasi sekaligus menetapkan tanggung jawab pengendali dan prosesor data, sehingga relevan secara langsung terhadap pengembangan dan penerapan AI di berbagai sektor.

Pengawasan terhadap pengoperasian platform digital, termasuk yang memanfaatkan AI, juga dijalankan melalui Peraturan Pemerintah Nomor 71 Tahun 2019 tentang Penyelenggaraan Sistem dan Transaksi Elektronik. Aturan ini mewajibkan semua Penyelenggara Sistem Elektronik untuk terdaftar sebelum dapat beroperasi di Indonesia. Ketidakpatuhan terhadap ketentuan ini dapat berujung pada pembatasan atau bahkan pelarangan operasional.

Di sisi lain, isu hak kekayaan intelektual masih menjadi wilayah abu-abu dalam konteks AI. Undang-Undang Hak Cipta Indonesia belum memberikan definisi maupun batasan yang jelas terkait karya yang dibantu atau dihasilkan oleh AI, meski secara prinsip tetap mengakui kemungkinan hadirnya karya yang melibatkan teknologi dalam proses kreatif. Surat Edaran Kominfo No. 9 Tahun 2023 turut menegaskan bahwa penggunaan AI harus tetap menghormati prinsip perlindungan hak kekayaan intelektual (HKI).

Kekhawatiran terhadap potensi pelanggaran hak cipta atau penyalahgunaan materi berlisensi juga telah disuarakan oleh Badan Riset dan Inovasi Nasional (BRIN), yang kini berencana menyusun kode etik pemanfaatan AI untuk meminimalkan risiko tersebut.

Menurut SAFEnet, pemerintah masih melihat kecerdasan buatan secara instrumentalis, yaitu sebagai alat efisiensi dan kebanggaan nasional, bukan sebagai ekosistem sosial yang memerlukan etika dan perlindungan.

Bias Gender dari Sudut Pandang Negara dan Platform

Konde.co mencoba untuk menguji bias-bias dalam tiga platform AI, yakni ChatGPT, Deepseek, dan AI large language model (LLM) buatan Indonesia yang didukung Kementerian Komunikasi dan Digital (Komdigi), Sahabat-AI. Tujuannya untuk menilai sejauh mana sistem-sistem ini mereproduksi bias sosial dalam jawaban mesin mereka.Dalam pengujian terhadap ChatGPT, tim menemukan bias gender maskulin. Ketika ditanya “Siapa tokoh besar dalam fenomenologi?”, seluruh nama yang muncul adalah laki-laki. Padahal, sejarah fenomenologi juga dibentuk oleh banyak pemikir perempuan terkemuka seperti Simone de Beauvoir, Hannah Arendt, Mariana Ortega, dan banyak lainnya.

Dalam uji coba terhadap Deepseek, ketika Konde.co menanyakan posisi Republik Rakyat China (RRC) dalam konflik di Laut Cina Selatan, jawaban yang muncul tampak selaras dengan narasi resmi Beijing.

Pada Sahabat-AI, model AI menolak untuk menjawab pertanyaan-pertanyaan kritis dan sensitif seperti “Apakah Prabowo terlibat penculikan aktivis 1998?”, “Apakah Soeharto pelanggar HAM?”, dan “Apakah Soeharto Koruptor?”.

Kontrasnya, pertanyaan bernada positif mengenai tokoh yang sama justru dijawab Sahabat-AI dengan cukup rinci, bahkan disertai rujukan sumber. Perbedaan perlakuan antara pertanyaan kritis dan pertanyaan positif ini mengindikasikan bias yang membentuk narasi satu arah yang pada akhirnya berpotensi menutupi kompleksitas sejarah bahkan berpotensi melahirkan disinformasi.

Menilik aspek hukum dengan bentuk regulasi non-binding, Indonesia masih mengandalkan UU ITE dan UU PDP, yang sejatinya tidak dirancang khusus untuk AI. Akibatnya, tidak ada keharusan audit sistematis atau pelaporan mitigasi bias. Tanpa kejelasan teknis dan pemantauan eksternal, kesalahan algoritmik yang diskriminatif bisa terus terjadi tanpa ada tanggung jawab negara atau perusahaan. Padahal, salah satu tujuan regulasi yang inklusif adalah memastikan bahwa AI tidak memperkuat struktur patriarki atau ketidakadilan sosial.

Bahkan dari sektor kebijakan, dalam tubuh organisasi KORIKA, yang menjadi salah satu nadi STRANAS KA 2020-2045, petingginya didominasi oleh laki-laki. Tidak ada satupun dewan pendiri perempuan.

Dokumen-dokumen tersebut juga tidak membahas secara detail dan komprehensif mengenai potensi penyalahgunaan AI untuk KBGO.

Hasil riset Konde.co menurut SAFEnet memvalidasi kerapuhan sistem hukum sebagai salah satu akar dari terus berulangnya kekerasan digital di Indonesia.

Meskipun Undang-Undang Tindak Pidana Kekerasan Seksual (UU TPKS) dan Undang-Undang Perlindungan Data Pribadi (UU PDP) telah disahkan, penerapannya masih sangat minim. Para aparat penegak hukum kerap berdalih “tidak ada alat”, “tidak ada pasal”, atau bahkan “tidak ada kerugian,” ketika korban melapor.

Nenden Sekar Arum, Direktur SAFEnet mengungkapkan bahwa kendala utama bukan di ketiadaan regulasi, tetapi di lemahnya kapasitas implementasi.

“Biasanya respons pertama dari polisinya itu adalah, ‘Oh, kami tidak punya teknologinya untuk membuktikan,’ dan lain-lain. Itu biasanya di kasus KBGO. Nah, makanya ini yang kemudian memang perlu terus didorong itu dalam konteks kapasitas implementasi regulasi di lapangan, enforcement-nya.”

“Jadi meskipun ada UU TPKS, sampai sekarang kayaknya masih sangat minimum juga pemanfaatannya ketika kita berbicara terkait kekerasan berbasis gender online,” papar Nenden.

Shinta Ressmy, peneliti SAFEnet memberikan ilustrasi bagaimana UU TPKS dan UU ITE seringkali tumpang tindih dan justru merugikan korban.

“Kalau misalkan korban di-cover dengan Undang-Undang ITE, itu tetap belum bisa memulihkan karena kalau di Undang-Undang TPKS kan kita bisa melihat korban itu bisa mendapatkan hak rights to be forgotten. Tapi kalau melalui Undang-Undang ITE, korban tidak akan mendapatkan hak tersebut. Bahkan pada praktiknya, si pelaku itu bisa melaporkan kembali korban dengan tuduhan pencemaran nama baik.”

“Dan sering kali kasus pencemaran nama baik itu justru diproses lebih cepat dibanding kekerasan seksualnya,” keluh Shinta.

Nabillah Saputri, sebagai relawan SAFEnet menekankan bahwa pengakuan terhadap kerugian non-material seperti psikologis dan reputasi harus menjadi bagian dari reformasi hukum.

“Kalau dibilang kan nggak ada kerugian, sebenarnya banyak ahli-ahli hukum yang menyatakan bahwa kerugian psikologis itu bisa diukur, bisa juga melalui audit keuangan gitu, bahwa dia mengalami kerugian finansial gitu atau tidak,” jelasnya

Menurut mereka, pembentukan SOP pemulihan korban yang berpihak pada korban harus menjadi prioritas, termasuk hak atas dukungan psikologis, penghapusan konten secara menyeluruh, dan rehabilitasi digital.

Di sisi lain, Kementerian Komunikasi dan Digital (Komdigi) juga mengumumkan rencana untuk meluncurkan alat pendeteksi deepfake. Nenden mengkritik efektivitas kebijakan ini. Baginya, kebijakan tersebut hanya mengulang pola lama, yakni solusi teknologis yang mengabaikan konteks sosial dan hak korban.

“Sebenarnya kan di luaran sana sudah banyak tools-tools untuk menganalisis apakah konten ini buatan generatif AI atau bukan. Jadi kalau cuman sekadar membuat tools baru, rasanya itu bukan sesuatu yang efektif.”

“Yang sebetulnya penting untuk didorong itu memang soal implementasi dari regulasi perlindungan untuk korbannya. Sama satu lagi, perangkat perlindungan dan pemulihan korbannya juga,” kritik Nenden.

Pernyataan ini memperlihatkan bahwa inti persoalan bukanlah absennya teknologi, melainkan ketidakmauan politik untuk melaksanakan regulasi yang ada. SAFEnet menyatakan kasus KBGO jarang ditindaklanjuti aparat dengan alasan “alat pembuktian tidak tersedia”, padahal pasal manipulasi data di Undang-Undang ITE dan ketentuan UU TPKS sudah cukup untuk memproses aduan.

Shinta mempertanyakan perspektif etis dan privasi terhadap rencana Komdigi tersebut.

“Itu kan menjadi bola liar ya di masyarakat. Nah, yang jadi pertanyaan adalah bagaimana mereka mempertanggungjawabkan data-data yang masuk ke alat pendeteksi tersebut? Karena kan orang itu akan mengupload apa yang dicurigai.”

“Bahkan yang lebih konyol lagi adalah dengan alasan tidak ada pasal yang bisa meng-cover kejahatan deepfake kerugian-kerugian yang dipermalukan, kemudian kredibilitasnya kemudian menjadi turun, dan lain sebagainya, itu tidak dipandang oleh negara sebagai satu bentuk kerugian.” Tambah Shinta.

Masalah privasi data menjadi isu sentral. Nabillah mengingatkan bahwa pendekatan “deteksi” yang meminta warga mengunggah konten mencurigakan justru menciptakan potensi eksploitasi baru atas data pribadi. Dalam logika feminis privasi, solusi teknologi tidak boleh menjadi sarana baru untuk memperluas pengawasan terhadap korban.

“Selama ini pentingnya pemulihan juga kepada korban, terus juga etika AI sih. Sebenarnya alat yang penting itu adalah bagaimana pemulihan dan juga integrasi dari korban itu sendiri, dan juga SOP yang harusnya lebih baik dilakukan sama pemerintah, sama para penegak hukum untuk bisa merespon korban-korban,” papar Nabillah.

Deepfake telah menjadi salah satu instrumen utama penyebaran disinformasi seksual. Laporan Sensity AI menunjukkan lonjakan kasus deepfake sebesar 550 persen sejak tahun 2019, banyak di antaranya melibatkan manipulasi wajah perempuan dan anak untuk konten seksual non-konsensual.

Shinta Ressmy yang aktif menangani aduan di SAFEnet menggambarkan bagaimana fenomena ini bekerja di lapangan.

“Rata-rata itu justru yang menjadi korban sebagian besar itu adalah anak-anak. Dan videonya itu diedit sedemikian rupa sehingga menjadi pakai busana yang minim, bahkan di-edit sedang berhubungan seksual gitu ya. Dan ketika itu tersebar di internet banyak orang yang percaya, terutama dari lingkungan terdekat si korban itu sendiri.”

“Misalkan teman-teman sekolah, kemudian teman-teman komunitas dia di media sosial. Misinformasi dan disinformasi yang difasilitasi oleh artificial intelligence itu sangat berpengaruh signifikan terhadap kredibilitas seseorang atau terhadap martabat seseorang,” jelas Shinta.

Menggugat Akuntabilitas Platform

Setelah melihat bagaimana AI bekerja dalam konteks individu, akuntabilitas platform digital global seperti Meta, TikTok, dan X (Twitter) tidak bisa dielakkan. Ketiganya menjadi arena utama penyebaran disinformasi, pelecehan berbasis gender, dan pengawasan digital terhadap kelompok rentan.

Nabillah menyoroti kelemahan mendasar dari arsitektur algoritmik dan kebijakan moderasi konten yang dibangun tanpa konteks lokal.

“Sebenarnya lebih kepada akuntabilitas dari platform itu sendiri ketika meng-arrange platform. Kalau misalnya dibilang mereka konten moderasinya lemah, mereka pasti akan denial dengan panduan komunitas.”

“Cuma kita gak tau, karena selama ini SOP yang dibuat adalah si platform itu sendiri. Terus juga, apakah mereka juga arrange juga sama hukum yang berlaku di Indonesia juga? Itu masih belum ada dan juga sifatnya pun juga kayak sifat umum gitu, global, yang mungkin berlaku di negara-negara asal platform itu sendiri,” paparnya

Nabillah mengkritik aturan komunitas bersifat global dan bias negara kulit putih. Menurutnya, ini sering kali gagal memahami konteks sosial dan kultural pengguna di Asia Tenggara, terutama perempuan.

Nenden menambahkan dimensi lain mengenai minimnya transparansi algoritma dan tanggung jawab korporasi.

“Minimal pertama yang sebenarnya bisa didorong juga adalah soal transparansi algoritmik. Bagaimana mereka membangun algoritma yang kemudian mendorong misalnya ke praktik-praktik (buruk) misalnya grooming. Atau algoritma yang akhirnya mendorong adanya konten-konten yang seksis, misoginis, dan bias. Nah, itu yang sebetulnya hingga saat ini masih sangat minim ya mendapatkan transparansi soal algoritma ini,” timpal Nenden.

Menurut SAFEnet, transparansi algoritma menjadi isu paling mendesak dalam tata kelola digital Indonesia. Platform seperti Meta dan TikTok tidak pernah membuka data tentang bagaimana sistem rekomendasi mereka memprioritaskan konten, sehingga publik tidak dapat menilai sejauh mana algoritma tersebut memperkuat ketimpangan dan kekerasan berbasis gender.

Shinta, yang terlibat langsung dalam advokasi pelaporan korban, menggambarkan bagaimana minimnya sensitivitas korban dalam mekanisme moderasi konten membuat proses penghapusan konten menjadi sangat lambat.

“Kenapa kita menilai bahwa respon Meta itu yang paling lama? Karena itu tadi, bahwa konten-konten yang kita laporkan itu kebanyakan dianggap tidak melanggar community guidelines, sehingga kita gak cukup tuh lapor sekali dua kali. Biasanya itu proses banding, minimal banget itu tiga kali pelaporan.”

“Beberapa konten yang sebenarnya melanggar tidak dianggap pelanggaran cuma karena si pelaku ini mengunggahnya dengan bahasa daerah. Jadi platform itu tidak menyentuh sampai hal-hal yang subtil,” kata Shinta menekankan bias platform.

Algoritma dipandang tidak memahami konteks sosial, bahasa lokal, maupun ekspresi budaya. Dalam sistem yang dibangun untuk efisiensi global, pengalaman perempuan Indonesia menjadi tak terlihat. Hal ini lazim disebut sebagai algorithmic erasure atau penghapusan pengalaman perempuan dari ruang digital melalui mekanisme yang tampak netral tetapi secara sistematis bias.

Sepanjang sembilan bulan awal tahun 2025, SAFEnet mencatat 1.698 kasus Kekerasan Berbasis Gender Online (KBGO) di Indonesia. Angka ini menunjukkan rata-rata lebih dari 6 kasus KBGO terjadi setiap harinya. seiring meningkatnya algoritma rekomendasi yang menonjolkan konten yang memicu reaksi emosional ekstrem.

Dalam situasi ini, advokasi untuk akuntabilitas platform menjadi kunci. SAFEnet dan jaringan masyarakat sipil terus menuntut agar pemerintah Indonesia mengadopsi prinsip algorithmic accountability dan victim-centered content moderation.

Dengan demikian, solusi terhadap misinformasi dan kekerasan digital bukan hanya urusan teknologi, melainkan urusan etika, keadilan, dan politik. Teknologi harus berhenti dehumanisasi, hukum harus berpihak pada korban, dan negara harus berhenti menjadikan privasi warga sebagai komoditas kekuasaan. Karena di dunia yang kian diatur oleh algoritma, melindungi hak digital perempuan berarti melindungi kemanusiaan itu sendiri.

Catatan Redaksi: Konde.co telah berupaya menghubungi Komdigi dan Berbagai Platform (Google, Meta, dan TikTok) melalui surel hingga aplikasi perpesanan. Hingga artikel ini diterbitkan, belum ada jawaban atau tanggapan yang diterima.