BACAMALANG.COM-Pelecehan seksual secara digital atau dikenal sebagai Kekerasan Berbasis Gender Online (KBGO) benar-benar nyata, salah satunya melalui penyalahgunaan teknologi generative.
Berangkat dari fenomena tersebut, tim peneliti mahasiswa dari Universitas Brawijaya (UB) berhasil membongkar mekanisme pelecehan seksual digital berbasis kecerdasan buatan (AI) di platform media sosial X.
Melalui riset sosial humaniora, tim yang terdiri dari lima mahasiswa ini menelisik fenomena Technology-Facilitated Sexual Violence (TFSV) yang memanfaatkan celah ketiadaan filter etika pada chatbot generatif. Riset ini lahir dari keresahan tim terhadap manipulasi narasi dan objektifikasi tubuh yang menyasar kelompok rentan secara non-konsensual, yang ironisnya, eksploitasi identitas digital ini kerap dibungkus rapi atas nama humor teknologi.
Wahyu Najwan lqbal, ketua tim peneliti dari Program Studi Ilmu Komunikasi FISIP UB menyampaikan, riset ini menghasilkan Policy Brief berperspektif gender serta video edukasi interaktif Curated Visual Storytelling.
“Ini sebagai langkah nyata menyelamatkan ekosistem siber nasional. Di sisi lain, kami juga telah melakukan sinkronisasi kebijakan melalui diskusi kreatif bersama Balai Pelatihan Sumber Daya Manusia (BLSDM) Komdigi Surabaya agar rekomendasi ini benar-benal aplikatif,” jelsnya belum lama ini,
Sementara anggota tim dari Program Studi Sosiologi, Fairuz Mumtazah, menambahkan, bahwa akar permasalahan yang diangkat dalam penelitian ini.
“Di balik keseruan publik berinteraksi dengan AI generatif, terdapat krisis etika ketika oknum mendelegasikan perintah spesifik untuk memproduksi narasi pelecehan seksual secara terbuka. Integrasi fitur interaktif AI dengan basis data real-time yang tanpa filter telah membuka celah eksploitasi secara sistematis dan masif,” ujar Fairuz.
Tim peneliti mahasiswa dari Universitas Brawijaya (UB). (ist)
Pendekatan teknis dilakukan untuk membuktikan fasilitasi agresi digital secara empiris, yang dipaparkan anggota tim dari Program Studi Teknik Informatika FILKOM UB, Fajar Okta Ramadan, melalui temuan kritis dari ekstraksi data yang dilakukan.
“Dari hasil observasi digital sistematis pada platform X, kami menyaring 390 unit interaksi bersih hingga mencapai titik saturasi data dengan tetap mematuhi etika riset siber KERIS-P melalui anonimisasi identitas. Melalui pra pemrosesan skrip Python dan pemetaan Social Network Analysis via Gephi, data membuktikan bahwa interaksi agresi terpusat pada sistem Grok AI sebagai penerima mention terbanyak. Kami juga menemukan klaster akun pelaku yang bertindak sebagai aktor jembatan atau penggerak utama dalam mengarahkan perintah pelecehan ke dalam sistem tersebut,” urai Fajar.
Selain pemetaan arsitektur jaringan, analisis mendalam terhadap relasi kuasa dan wacana pengguna turut dibedah secara tervalidasi. Safinatun Naja Handayani, anggota tim dari Program Studi Psikologi, menjelaskan temuan di balik narasi tersebut.
“Validitas analisis kualitatif kami uji berlapis secara double coding independen hingga mencapai tingkat reliabilitas nyaris sempurna dengan metrik kappa 0.974. Dari Analisis Wacana Kritis (AWK), terbukti bahwa pelaku menggunakan AI untuk melunturkan rasa bersalah. Melalui mekanisme moral disengagement tipe euphemistic labeling, pelaku membungkus agresi seksual ke dalam ‘candaan AI’, padahal secara gramatikal mereka secara aktif mereduksi subjek menjadi sekadar komoditas visual,” papar Safin.
Penelitian strategis ini tidak sekadar memetakan masalah, tetapi juga merumuskan solusi konkret. Sebagai langkah nyata, tim menyusun policy brief berjudul “SAFE AI: Intervensi Kebijakan Moderasi Platform Interaktif Guna Mencegah Objektifikasi Seksual Generatif di Ruang Digital” yang ditujukan kepada Kementerian Komunikasi dan Digital (Komdigi) serta pengembang teknologi global.
Anggota lain dari Program Studi Sosiologi, Rama Caesario Anugrah, bertugas menjamin kepatuhan etika riset siber (KERIS-UB), dalam pengembangan riset yang memperoleh pendaan melalui Program Kreativitas Mahasiswa Riset Sosial Humaniora (PKM-RSH) 2026. Riset ini di bawah bimbingan langsung dosen Sosiologi, Ayu Kusumastuti, S.Sos., M.Sc., Ph.D. dan dosen Psikologi, Prof. Cleoputri Al Yusainy, S.Psi., M.Psi., Ph.D..
“Kami berharap masyarakat dapat bertransformasi menjadi pengguna media sosial yang lebih bijak, kritis, serta beretika melalui temuan empiris dan kampanye edukasi Curated Visual Storytelling yang digencarkan. Di sisi lain, Kementerian Komunikasi dan Digital serta pengembang teknologi AI global didorong untuk segera merumuskan standar moderasi konten yang responsif gender guna mewujudkan ruang digital yang berkeadilan bagi semua,” pungkas Wahyu Najwan lqbal .
Pewarta/Editor: Nedi Putra AW
