Pemerintah India Minta X Perbaiki Fitur Kecerdasan Buatan Grok
Pemerintah India telah meminta platform media sosial X untuk segera mengambil langkah perbaikan terhadap fitur kecerdasan buatan (AI) yang diberi nama Grok. Langkah ini diambil setelah munculnya konten yang dinilai tidak senonoh dan berpotensi melanggar norma kesusilaan.
Menurut laporan TechCrunch pada Jumat (2/1), Kementerian Teknologi Informasi India memberikan instruksi kepada X untuk melakukan tindakan korektif terhadap fitur tersebut. Termasuk dalam perintah tersebut adalah pembatasan terhadap pembuatan konten yang mengandung ketelanjangan, seksualisasi, atau materi lain yang melanggar hukum.
Kementerian memberikan waktu 72 jam kepada X untuk menyampaikan laporan tentang tindakan yang telah dilakukan. Laporan tersebut harus menjelaskan langkah-langkah pencegahan terhadap penayangan atau penyebaran konten yang dinilai cabul, pornografis, vulgar, tidak senonoh, seksual eksplisit, pedofilik, atau dilarang menurut hukum. Dalam perintahnya, Kementerian juga memperingatkan bahwa kegagalan mematuhi ketentuan tersebut dapat membahayakan perlindungan safe harbor X, yaitu kekebalan hukum dari tanggung jawab atas konten yang dibuat oleh pengguna.
Isu Konten yang Mengkhawatirkan
Keputusan pemerintah India diambil setelah munculnya kekhawatiran dari para pengguna. Beberapa pengguna membagikan contoh penggunaan Grok untuk mengubah gambar individu, terutama perempuan, agar tampak mengenakan bikini. Hal ini menimbulkan kekhawatiran besar di kalangan masyarakat.
Anggota parlemen India, Priyanka Chaturvedi, bahkan menyampaikan pengaduan resmi terkait masalah ini. Selain itu, ada laporan yang menyoroti kasus penggunaan Grok untuk menghasilkan gambar seksual yang melibatkan anak-anak. Menurut pernyataan X sebelumnya, insiden ini terjadi akibat kelonggaran pengamanan. Gambar-gambar tersebut kemudian dihapus, tetapi gambar perempuan yang dimanipulasi menggunakan Grok masih dapat diakses di X hingga berita ini disiarkan.
Imbauan Lebih Luas dari Pemerintah India
Sebelum mengeluarkan perintah terbaru, Kementerian Teknologi Informasi India juga mengeluarkan imbauan yang lebih luas kepada platform-platform media sosial. Dalam imbauan tersebut, kementerian mengingatkan bahwa kepatuhan terhadap hukum setempat terkait konten cabul dan seksual eksplisit merupakan prasyarat untuk mempertahankan kekebalan hukum atas materi yang dibuat oleh pengguna.
Imbauan tersebut juga mendesak perusahaan penyedia platform untuk memperkuat pengamanan internal dan memperingatkan bahwa kegagalan melakukannya dapat memicu tindakan hukum berdasarkan undang-undang teknologi informasi dan hukum pidana India. Ditegaskan kembali bahwa ketidakpatuhan terhadap persyaratan di atas akan dipandang serius dan dapat berujung pada konsekuensi hukum yang tegas terhadap platform, pejabat yang bertanggung jawab, serta pengguna di platform yang melanggar hukum, tanpa pemberitahuan lebih lanjut.
Tantangan bagi Platform Global
India, sebagai salah satu pasar digital terbesar di dunia, menjadi ajang pengujian penting untuk melihat seberapa jauh pemerintah akan meminta pertanggungjawaban platform terkait konten yang dihasilkan AI. Pengetatan penegakan aturan di India berpotensi menimbulkan efek berantai pada perusahaan teknologi global yang beroperasi di berbagai yurisdiksi.
Sementara itu, platform X terus menggugat sejumlah aspek dalam regulasi konten India di pengadilan karena menilai kewenangan pemerintah dalam menghapus konten berisiko melampaui batas. Meskipun demikian, platform selama ini telah mematuhi sebagian besar arahan pemblokiran. Saat ini, baik X maupun xAI belum merespons permintaan untuk menanggapi instruksi pemerintah India terkait perbaikan Grok.
Tinggalkan Balasan