Ofcom telah meluncurkan penyelidikan terhadap X milik Elon Musk karena kekhawatiran bahwa alat AI-nya, Grok, digunakan untuk membuat gambar-gambar yang berbau seksual.
Dalam sebuah pernyataan, badan pengawas Inggris mengatakan bahwa telah ada “laporan yang sangat mengkhawatirkan” tentang penggunaan chatbot untuk membuat dan membagikan gambar orang tanpa busana, serta “gambar anak-anak yang berbau seksual”.
Jika terbukti melanggar hukum, Ofcom berpotensi menjatuhkan denda kepada X hingga 10% dari pendapatan globalnya atau £18 juta, mana pun yang lebih besar.
X merujuk BBC ke pernyataan yang diposting oleh akun Keamanan mereka pada awal Januari: “Siapa pun yang menggunakan atau mendorong Grok untuk membuat konten ilegal akan menanggung konsekuensi yang sama seperti jika mereka mengunggah konten ilegal.”
Elon Musk kemudian mengatakan bahwa pemerintah Inggris menginginkan “alasan apa pun untuk melakukan sensor” sebagai tanggapan terhadap sebuah unggahan yang mempertanyakan mengapa platform AI lain tidak diperhatikan.
BBC telah melihat beberapa contoh gambar yang diedit secara digital di X, di mana perempuan ditelanjangi dan diposisikan secara seksual tanpa persetujuan mereka. Seorang perempuan mengatakan lebih dari 100 gambar seksual telah dibuat tentang dirinya .
Jika X tidak mematuhi, Ofcom dapat meminta perintah pengadilan untuk memaksa penyedia layanan internet memblokir akses ke situs tersebut di Inggris sepenuhnya.
Menteri Teknologi Liz Kendall mengatakan kepada BBC bahwa ia menyambut baik penyelidikan badan tersebut dan mendesak agar penyelidikan tersebut diselesaikan sesegera mungkin.
“Sangat penting bagi Ofcom untuk menyelesaikan investigasi ini dengan cepat karena publik – dan yang terpenting para korban – tidak akan menerima penundaan apa pun,” katanya.
Pendahulu Kendall, Peter Kyle, mengatakan kepada BBC Breakfast bahwa sangat “mengerikan” bahwa Grok “belum diuji dengan semestinya”.
“Fakta bahwa kemarin saya bertemu dengan seorang wanita Yahudi yang mendapati gambar dirinya mengenakan bikini di luar Auschwitz dihasilkan oleh AI dan diunggah ke internet membuat saya merasa mual,” katanya.
Anggota parlemen lain yang telah menyampaikan kekhawatiran termasuk politisi Irlandia Utara, Cara Hunter, yang mengatakan bahwa dia telah memutuskan untuk meninggalkan platform tersebut .
Sementara itu, Downing Street mengatakan pemerintah tetap fokus pada “melindungi anak-anak” tetapi akan terus “meninjau” kehadirannya di X.
“Saya rasa kita sudah menjelaskan bahwa semua opsi masih terbuka,” kata juru bicara resmi Perdana Menteri.
Dr. Daisy Dixon, yang sebelumnya mengatakan kepada BBC bahwa ia merasa “dipermalukan” setelah beberapa kali orang menggunakan Grok untuk menelanjanginya, mengatakan bahwa ia menyambut baik penyelidikan tersebut.
“Bagi Musk dan yang lainnya untuk menyebut ini sebagai dalih sensor hanya mengalihkan perhatian dari masalah sebenarnya – kekerasan sistematis terhadap perempuan dan anak perempuan,” katanya.
“Jika para pembela X benar-benar peduli tentang misogini dan pornografi anak, mereka akan meminta Musk untuk segera mematuhi dan berhenti mengelak dengan itikad buruk.”
‘Prioritas tertinggi‘
Ofcom kini akan memeriksa apakah X telah gagal menghapus konten ilegal dengan cepat ketika mengetahuinya, dan mengambil “langkah-langkah yang tepat” untuk mencegah orang-orang di Inggris melihatnya.
Disebutkan bahwa konten ilegal tersebut termasuk “gambar intim tanpa persetujuan” dan gambar seksual anak.
Selain itu, hal ini juga akan memeriksa apakah X telah menggunakan langkah-langkah “penjaminan usia yang sangat efektif” untuk mencegah anak-anak melihat gambar-gambar pornografi.
Keputusan ini diambil menyusul reaksi negatif global terhadap fitur pembuatan gambar Grok, di mana Malaysia dan Indonesia untuk sementara memblokir akses ke alat tersebut selama akhir pekan.
Seorang juru bicara Ofcom tidak memberikan indikasi berapa lama investigasi akan berlangsung, tetapi mengatakan bahwa itu akan menjadi “masalah prioritas tertinggi”.
“Platform harus melindungi masyarakat di Inggris dari konten yang ilegal di Inggris,” kata mereka.
“Kami tidak akan ragu untuk menyelidiki jika kami mencurigai perusahaan lalai dalam menjalankan tugasnya, terutama jika ada risiko membahayakan anak-anak.”
Lorna Woods, profesor hukum internet di Universitas Essex, mengatakan kepada BBC bahwa “sulit untuk memprediksi” seberapa cepat investigasi akan berjalan.
“Ofcom memiliki kebebasan untuk menentukan seberapa cepat – atau lambat – mereka melakukan investigasi,” katanya.
Dia mengatakan bahwa regulator dapat mengajukan perintah penghentian bisnis – perintah pengadilan untuk memblokir akses ke X di Inggris – segera, bukan sebagai upaya terakhir, tetapi hanya dalam “keadaan langka” sebagai respons terhadap masalah yang sedang berlangsung.
Clare McGlynn, seorang profesor hukum di Universitas Durham, mengatakan bahwa perdebatan seputar apakah X mungkin diblokir di Inggris adalah sebuah “pengalihan perhatian”.
“Perempuan dan anak perempuan membutuhkan tindakan dan perubahan di lapangan agar Grok tidak memproduksi gambar intim ilegal dan perempuan dapat menghapus gambar mereka yang diambil tanpa persetujuan,” katanya.
Leave a Reply