RADARSITUBONDO.ID - Platform media sosial X akhirnya mengambil tindakan terhadap penyalahgunaan chatbot AI-nya, Grok. Mulai Jumta (9/1) waktu AS, fitur pembuatan dan pengeditan gambar Grok kini hanya bisa digunakan oleh pengguna berlangganan X Premium.
Langkah ini adalah sebagai tanggapan xAI terhadap kritik dari berbagai kalangan, termasuk pengguna dan pemerintah di sejumlah negara, setelah adanya penyalahgunaan fitur tersebut untuk menciptakan konten pornografi dan deepfake yang menjadi sumber kekhawatiran.
Baca Juga: Melampaui Jumbo dan KKN, Film Agak Laen 2 Jadi Film Terlaris di Indonesia
Sejak akhir Desember 2025, fitur pengeditan gambar Grok telah disalahgunakan untuk memodifikasi foto yang diunggah oleh pengguna, termasuk gambar anak-anak, menjadi konten seksual yang eksplisit. Tindakan ini mengundang kecaman yang kuat dari sejumlah negara seperti Malaysia, India, Inggris, dan Prancis.
Saat ini, jika pengguna gratis mencoba menggunakan fitur tersebut dengan menyebut @Grok di timeline, chatbot akan memberikan pesan bahwa ada batasan.
Mereka akan menerima notifikasi yang menyebutkan bahwa pembuatan dan pengeditan gambar hanya untuk pelanggan yang membayar, bersamaan dengan invitation untuk berlangganan X Premium.
Baca Juga: Penyebarannya yang Cepat, Seberapa Berbahaya Superflu?
Namun, pembatasan ini tidak sepenuhnya ketat. Pengguna yang mengakses tab Grok secara langsung di aplikasi atau situs web X, serta melalui aplikasi Grok yang terpisah, masih bisa menggunakan fitur pembuatan gambar tanpa membayar. Hal ini menimbulkan pertanyaan terkait seberapa efektif kebijakan yang diterapkan.
Kementerian Komunikasi dan Digital Indonesia sedang menyelidiki Grok AI karena dianggap belum memiliki sistem yang efektif untuk mencegah deepfake pornografi.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, bahkan memperingatkan akan adanya sanksi administratif hingga pemutusan akses jika pelanggaran terus berlanjut.
Baca Juga: Chaos Ekonomi Iran: Mata Uang Tumbang, Inflasi Melonjak, Protes Meletus
Sebelumnya, Elon Musk juga memberikan pernyataan tegas dengan mengatakan bahwa pengguna yang membuat konten ilegal menggunakan Grok akan menghadapi konsekuensi berat, mulai dari penghapusan konten, pemblokiran akun secara permanen, hingga kolaborasi dengan penegak hukum.
Kebijakan pembatasan ini mendapatkan berbagai reaksi. Beberapa pihak berpendapat bahwa langkah ini hanya memindahkan akses ke layanan berbayar tanpa menyelesaikan permasalahan mendasar.
Sementara itu, yang lain menganggapnya sebagai langkah awal untuk mengatasi penyalahgunaan AI yang menjadi semakin mengkhawatirkan.
Editor : Ali Sodiqin