(Doc-Tirtoid)
Jakarta, bukaberita.co.id – Maraknya penyalahgunaan chatbot kecerdasan buatan Grok di platform media sosial X memicu kegaduhan di kalangan warganet. Teknologi AI tersebut diduga digunakan untuk memanipulasi foto menjadi konten asusila.
Sejumlah pengguna diketahui meminta Grok untuk mengedit foto perempuan secara digital hingga tampak mengenakan pakaian vulgar, termasuk bikini. Praktik ini menimbulkan kekhawatiran serius terkait keamanan dan etika penggunaan teknologi kecerdasan buatan.
Lebih jauh, laporan Reuters mengungkap adanya beberapa kasus di mana Grok menghasilkan citra seksual yang melibatkan anak-anak. Temuan ini memperbesar sorotan terhadap lemahnya pengamanan dan pengawasan pada sistem AI tersebut.
Terkait hal itu, perusahaan AI milik Elon Musk hanya menanggapi singkat dengan pernyataan: “Kebohongan Media Tradisional.”
Kasus ini turut menarik perhatian sejumlah otoritas internasional. Otoritas Eropa, Pemerintah India, dan Malaysia disebut tengah menyelidiki platform X. Sementara itu, di Inggris, Ofcom selaku media watchdog telah meminta klarifikasi dan informasi dari X.
Di dalam negeri, Kementerian Komunikasi dan Digital (Komdigi) menilai penyalahgunaan Grok AI sebagai pelanggaran berat terhadap privasi. Hasil penelusuran awal menunjukkan Grok belum memiliki pengaturan yang jelas dan memadai untuk mencegah pembuatan serta penyebaran konten asusila berbasis foto nyata warga negara Indonesia.
“Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” kata Dirjen Pengawasan Ruang Digital Komdigi Alexander Sabar dalam keterangannya, Rabu (7/1).
Ia menegaskan bahwa manipulasi digital tersebut tidak sekadar persoalan moral, melainkan juga bentuk perampasan kendali individu atas identitas visualnya, yang dapat berdampak pada kondisi psikologis, sosial, hingga reputasi korban.
Saat ini, Komdigi sedang berkoordinasi dengan Penyelenggara Sistem Elektronik (PSE) guna memastikan tersedianya mekanisme perlindungan yang efektif, termasuk penguatan moderasi konten, pencegahan deepfake asusila, serta penanganan cepat laporan pelanggaran privasi.
“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegasnya.
Komdigi juga membuka kemungkinan pemblokiran Grok AI dan platform X apabila tidak menunjukkan kepatuhan dan kerja sama terhadap regulasi yang berlaku.
