BincangMuslimah.Com – Linimasa platform X saya penuh dengan postingan-postingan bermuatan seksual. Tentu, awalnya saya terkejut karena secara setting, saya membatasi konten-konten yang bermuatan seksual. Usut punya usut, ternyata postingan-postingan yang masuk ke dalam linimasa X saya merupakan akun-akun yang “megutip” postingan dari pengguna lain. Mereka lalu meminta sebuah chatbot X untuk mengganti busana orang dalam foto tersebut menjadi pakaian yang minim.
Saya berhenti sejenak. Saya sadari, konten-konten bermuatan seksual tersebut tidak hanya berada pada negara area Indonesia saja. Bahkan, sudah menembus hampir seluruh wilayah di dunia. Tak butuh waktu lama, dalam tiga hari tren mengubah foto seseorang tanpa izin menjadi foto bermuatan seksual telah menyebar dan memenuhi linimasa. Sejauh mana tren-tren ini sudah merugikan banyak pengguna?
Kenalan dengan Grok, Chatbot X, Biang KBGO di Media Sosial X
Tren ini bermula dari Grok. Sebuah chatbot berbasis AI atau kecerdasan buatan milik Platform X. Seluruh pengguna X dapat berinteraksi dengan Grok dan dapat meminta Grok untuk menghasilkan tulisan, informasi, gambar, atau hal lainnya sesuai dengan permintaan pengguna. Alih-alih memanfaatkan secara positif, justru para oknum memanfaatkan Grok untuk mengedit foto dalam akun X seseorang tanpa izin untuk gambar yang bermuatan seksual.
Korbannya rata-rata adalah pengguna berjenis kelamin perempuan. Tentu, lagi-lagi perempuan yang selalu menjadi korban. Dan pelakunya tidak semua pengguna laki-laki, tetapi selalu saja pengguna laki-laki. Para pengguna X berjenis kelamin laki-laki yang merupakan oknum di balik kekerasan berbasis gender online (KBGO) seringkali membalas (reply) atau mengutip (quote) sebuah postingan yang di sana terdapat foto perempuan kemudian meminta Grok mengubah tampilan menjadi bermuatan seksual.
Sedihnya, aku melihat perempuan dengan senyum dan hijabnya harus melihat fotonya diedit tanpa izin oleh oknum kurang ajar. Mereka mengubah tampilan dengan bermuatan seksual. parahnya, bahkan korbannya bukan perempuan remaja atau dewasa lagi. Melainkan juga telah menyasar kepada anak-anak. Tren tersebut telah berjalan dalam kurang lebih tiga hari terakhir. Namun, cakupannya sudah sangat meluas dan mendapat banyak kecaman.
Pemilik Platform Justru Mendukung Adanya KBGO
Yang lebih mengesalkan ketika aku mengetahui bahwa Elon Musk, pemilik X, justu mendukung adanya konten-konten seperti ini. Pernah seorang akun anonim membuat foto Elon Musk menjadi bermuatan seksual justru mendapat respon secara lucu, becanda, dan jenaka oleh Elon Musk. Ia kerap kali melemparkan-melemparkan candaan seksis pada fot-foto yang telah digenrate bermuatan seksual.
Dari sinilah sebetulnya aku menyadari bahwa suatu platform sebetulnya hanya memikirkan profit (keuntungan) untuk diri sendiri daripada kesejahteraan dan keamanan penggunanya. Meskipun kecaman telah datang dari banyaknya negara, namun semakin hari semakin muak melihat Elon Musk tetap tertawa dengan tren-tren yang merugikan pengguna terutama perempuan.
Teknologi kecerdasan buatan yang seharusnya menjadi alat untuk membantu pekerjaan menjadi lebih mudah dan ringan, justru malah disalahartikan untuk merundung dan merendahkan orang-orang. Terlebih, sikap pemilik yang tidak segera menindak fenomena ini semakin membuatku sadar bahwa platform X bukanlah platform yang aman untuk bermedia sosial.
Ancaman Kekerasan Berbasis Gender Online
Secara ilmiah, fenomena ini dapat merujuk sebagai bentuk Kekerasan Berbasis Gender Online (KBGO) oleh kecerdasan buatan. KBGO merujuk pada segala bentuk kekerasan, pelecehan, dan eksploitasi yang terjadi di ruang digital dan secara tidak proporsional menargetkan individu berdasarkan gendernya, terutama perempuan.
Bentuk-bentuk KBGO meliputi pelecehan seksual daring, penyebaran konten intim tanpa persetujuan, doxing, ancaman seksual, hingga manipulasi visual berbasis teknologi seperti deepfake dan AI-generated images.
Penggunaan kecerdasan buatan untuk mengubah foto perempuan tanpa izin menjadi konten bermuatan seksual merupakan bentuk kekerasan simbolik dan visual. Tubuh perempuan kerap direduksi menjadi objek konsumsi. Teknologi AI berperan sebagai alat yang mempercepat dan memperluas praktik objektifikasi tersebut.
Dampak KBGO tidak dapat dipandang remeh. Korban kekerasan digital mengalami tekanan psikologis yang signifikan, seperti kecemasan, depresi, rasa takut, dan penarikan diri dari ruang publik digital.
Perempuan memilih untuk mengunci akun, menghapus unggahan, bahkan meninggalkan media sosial sepenuhnya. KBGO berdampak langsung pada pembatasan partisipasi perempuan di ruang publik, sekaligus memperlebar ketimpangan gender dalam akses dan kebebasan berekspresi.
Maraknya KBGO berbasis AI adalah indikator kegagalan platform digital dalam menerapkan prinsip etika dan tanggung jawab teknologi (responsible AI). Platform memiliki kuasa besar dalam menentukan batasan fitur serta mekanisme pengawasan konten. KBGO berbasis kecerdasan buatan harus dipahami sebagai persoalan struktural dan sistemik.
Apa yang Harus Dilakukan?
Dalam menghadapi ancaman kekerasan berbasis gender online, langkah awal yang penting adalah menjaga keamanan akun digital sejak dini. Setiap pengguna sebaiknya mengganti kata sandi media sosial, email, dan perangkat pribadi dengan yang kuat dan berbeda, serta mengaktifkan verifikasi dua langkah. Pengaturan privasi di media sosial dan aplikasi pesan juga perlu diperiksa secara rutin. Hal ini agar informasi pribadi seperti lokasi, nomor telepon, dan alamat rumah tidak dapat diakses oleh publik.
Pengguna perlu berani memblokir dan melaporkan akun yang bersikap tidak pantas, melecehkan, atau menimbulkan rasa tidak aman. Pemanfaatan fitur pelaporan di platform media sosial untuk mencegah penyebaran konten berbahaya lebih luas. Selain itu, penting untuk menyimpan bukti digital seperti tangkapan layar komentar, pesan, atau unggahan bermasalah. Dokumentasi tersebut dapat berguna jika suatu saat membutuhkan bantuan atau pendampingan.
Untuk mengurangi risiko, memisahkan akun pribadi dan akun publik dapat menjadi langkah yang bijak. Penggunaan akun pribadi untuk berinteraksi dengan orang terdekat, sementara akun publik untuk aktivitas berbagi informasi secara umum. Jika situasi di media sosial terasa melelahkan atau mengganggu, mengambil jeda sementara dari penggunaan media sosial juga merupakan bentuk perlindungan diri yang sehat.
Keterlibatan Negara dalam Penanganan dan Pencegahan KBGO
Di Indonesia, tersedia pula lembaga pendamping seperti Komnas Perempuan, SAFEnet, dan layanan SAPA 129 yang dapat dihubungi untuk mendapatkan informasi, pendampingan, dan perlindungan.
Namun yang perlu kita ingat, tidak hanya perempuan saja yang harus melakukan langkah-langkah preventif untuk menghindari ancaman KBGO. Laki-laki sebagai subyek dan oknum yang seringkali menjadi pelaku untuk berhenti membuat konten mengedit foto orang lain tanpa izin dan harus menciptakan ruang aman untuk siapapun.
Selain itu, negara juga perlu hadir untuk menindak tegas fenomena KBGO ini. Terlebih, hampir seluruh pengguna dari berbagai negara mengalami ancaman yang serupa. Perusahaan chatbot berbasis kecerdasan buatan pun perlu membuat sistem digital yang ramah dan tidak merugikan pengguna.
Mari bijak menggunakan media sosial dan selalu cipatakan ruang digital yang aman untuk seluruh pengguna digital.
