Kritik terhadap Penggunaan Kecerdasan Buatan di Platform X
Platform X kembali menjadi sorotan setelah muncul gelombang kritik terhadap penggunaan kecerdasan buatan (AI) yang digunakan untuk memanipulasi foto. Kali ini, fokusnya jatuh pada Grok, chatbot AI yang terintegrasi langsung dengan media sosial tersebut. Banyak laporan menyebutkan bahwa Grok digunakan untuk mengedit foto perempuan agar tampak berpakaian seksual tanpa persetujuan dari pemilik gambar.
Fenomena ini menimbulkan kemarahan publik dan memicu langkah tegas dari X dalam mengatur fitur pembuatan dan pengeditan gambar. Dalam pernyataan resmi yang dikeluarkan pada 15 Januari 2026, X menegaskan komitmennya untuk menjaga keamanan pengguna. Perusahaan menyatakan tidak akan mentoleransi eksploitasi seksual anak, penyebaran konten intim tanpa izin, atau materi seksual yang tidak diinginkan.
Langkah Tegas untuk Mencegah Penyalahgunaan
X menekankan bahwa penanganan pelanggaran seperti Child Sexual Abuse Material (CSAM) dan non-consensual nudity adalah prioritas utama. Hal ini mencakup tindakan tegas terhadap akun yang melanggar aturan serta pelaporan ke aparat penegak hukum jika diperlukan.
Salah satu langkah paling signifikan adalah perubahan aturan pada akun Grok. Kini, sistem telah dilengkapi pembatasan teknologi yang mencegah pengeditan gambar orang nyata agar terlihat mengenakan pakaian terbuka seperti bikini atau busana minim lainnya. Aturan ini berlaku secara menyeluruh, termasuk bagi pengguna berbayar.
Selain itu, X juga membatasi akses pembuatan dan pengeditan gambar hanya untuk pelanggan berbayar. Menurut perusahaan, kebijakan ini diterapkan sebagai lapisan pengamanan tambahan agar setiap potensi penyalahgunaan dapat ditelusuri dan dipertanggungjawabkan secara hukum.
Pemblokiran Berbasis Wilayah
X juga memberlakukan pemblokiran berbasis wilayah (geoblocking). Di negara atau yurisdiksi tertentu yang melarang pembuatan gambar orang nyata dengan pakaian dalam, bikini, atau atribut serupa, fitur tersebut kini sepenuhnya dinonaktifkan. Kebijakan ini berlaku baik pada Grok di akun resmi maupun Grok yang terintegrasi langsung dalam platform X.
Kontroversi Viral Mengenai Etika AI
Kronologi viral Grok edit foto menjadi bikini memperkuat diskusi tentang etika AI. Di Indonesia, isu ini semakin hangat setelah beredar tangkapan layar yang menunjukkan bagaimana Grok digunakan untuk mengubah foto perempuan berpakaian sopan menjadi seolah mengenakan pakaian terbuka. Bahkan, ada kasus di mana foto perempuan berhijab diedit sehingga tampak tidak berhijab, lalu disebarluaskan tanpa izin.
Praktik ini menuai kecaman luas karena dianggap sebagai bentuk kekerasan berbasis gender online (KBGO) yang difasilitasi oleh teknologi. Seorang pengguna X dengan akun @nd** secara terbuka mengkritik tren ini. Ia menyatakan bahwa banyak orang meminta AI Grok mengedit foto perempuan menjadi berpakaian seksi. Jika korban merasa terganggu, hal ini sudah dianggap sebagai kekerasan berbasis gender berbantuan teknologi.
Tanggapan dari X
Menanggapi situasi ini, X menegaskan bahwa perubahan fitur Grok tidak mengubah kewajiban utama pengguna untuk mematuhi X Rules. Semua prompt AI dan konten hasil generasi—baik dibuat oleh pengguna gratis maupun berbayar—harus sesuai dengan kebijakan platform.
Tim keselamatan X disebut bekerja tanpa henti untuk menambah perlindungan, menghapus konten bermasalah secepat mungkin, menjatuhkan sanksi permanen pada akun pelanggar, serta berkoordinasi dengan pemerintah dan aparat hukum setempat.
X juga mengakui bahwa perkembangan AI generatif berlangsung sangat cepat dan membawa tantangan besar, tidak hanya bagi satu platform, tetapi bagi seluruh industri teknologi. Karena itu, perusahaan menyatakan tengah menjalin kerja sama dengan pengguna, mitra, regulator, dan platform lain untuk merespons persoalan etika dan penyalahgunaan teknologi secara lebih sigap.
Tinggalkan Balasan