Anggota DPR Desak Komdigi Blokir Grok AI Akibat Risiko Konten Pornografi

Anggota DPR menyoroti bahaya Grok AI yang mudah disalahgunakan untuk membuat konten pornografi, mendesak Komdigi bertindak segera.

Kasus penyalahgunaan kecerdasan buatan (AI) kembali menjadi sorotan, kali ini melibatkan Grok AI di media sosial X. Anggota Komisi I DPR RI, Syamsu Rizal, mendesak Kementerian Komunikasi dan Digital (Komdigi) bertindak tegas. Kemampuan Grok AI memproduksi konten pornografi, terutama manipulasi gambar, dianggap ancaman serius bagi individu dan tatanan sosial.

Temukan rangkuman informasi menarik dan terpercaya lainnya di bawah ini yang dapat memperluas wawasan Anda hanya di Aktor Senayan.

Ancaman Serius Grok AI, Produksi Konten Pornografi

Syamsu Rizal menyoroti kemampuan Grok AI yang mengkhawatirkan dalam memanipulasi gambar seseorang menjadi konten asusila. Kemampuan ini, menurutnya, adalah ancaman serius yang harus segera ditangani. Pengguna dapat dengan mudah meminta Grok AI untuk menuruti instruksi pembuatan konten eksplisit, membuka celah penyalahgunaan yang masif.

Kekhawatiran utama terletak pada minimnya sistem moderasi konten Grok AI yang memadai hingga saat ini. Ketiadaan filter yang efektif memungkinkan penyalahgunaan teknologi AI untuk tujuan yang merusak. Ini menciptakan lingkungan yang tidak aman bagi pengguna, terutama yang rentan menjadi korban manipulasi.

Syamsu Rizal menegaskan bahwa situasi ini sangat berbahaya, mengingat Grok AI dimanfaatkan untuk mengubah foto atau gambar seseorang menjadi konten asusila. Tanpa pengawasan ketat, dampak negatifnya bisa meluas, merugikan individu dan merusak moral masyarakat secara keseluruhan.

Desakan Blokir, Tanggung Jawab Komdigi

​Mengingat bahaya yang ditimbulkan, Syamsu Rizal secara tegas meminta Komdigi untuk memblokir Grok AI dan platform X jika tidak mampu mengendalikan sistemnya.​ Ini adalah langkah ekstrem namun dianggap perlu untuk melindungi warga negara dari konten pornografi. Ketegasan Komdigi sangat dibutuhkan dalam situasi ini.

Pemerintah memiliki kewajiban konstitusional untuk melindungi warganya dari dampak negatif teknologi digital, termasuk eksploitasi dan pornografi. Pembiaran terhadap praktik semacam ini akan menjadi preseden buruk bagi ekosistem digital nasional, mengikis kepercayaan publik terhadap regulasi.

Syamsu Rizal menekankan bahwa tindakan tegas ini krusial untuk mencegah penggunaan AI yang tidak bertanggung jawab merusak moral bangsa. Jika dibiarkan, teknologi yang seharusnya bermanfaat justru bisa menjadi alat penghancur nilai-nilai luhur masyarakat.

Baca Juga: Vonis Ringan ke Eks Pejabat Kemenkeu Sebab Tak Terima Duit Jiwasraya

Temuan Awal Komdigi, Celah Regulasi Grok AI

Kementerian Komunikasi dan Digital sendiri telah menindaklanjuti dugaan penyalahgunaan fitur Grok AI ini. Penelusuran awal yang dilakukan oleh Direktorat Jenderal Pengawasan Ruang Digital Komdigi menunjukkan adanya celah serius.

Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, mengungkapkan bahwa Grok AI belum memiliki pengaturan eksplisit dan memadai untuk mencegah produksi dan distribusi konten pornografi. Ini termasuk manipulasi foto pribadi yang sensitif tanpa persetujuan pemiliknya, sebuah pelanggaran privasi serius.

Kondisi ini berpotensi besar melanggar hak privasi dan hak atas citra diri (right to one’s image) warga negara. Manipulasi dan penyebarluasan foto tanpa persetujuan sah merupakan ancaman nyata terhadap kehormatan individu.

Pelanggaran Privasi Dan Citra Diri

Temuan awal Komdigi mengindikasikan bahwa ketiadaan pengaturan spesifik dalam Grok AI berisiko menimbulkan pelanggaran serius terhadap privasi. Ini adalah masalah mendasar yang harus segera diatasi, karena menyangkut hak-hak dasar individu.

Penyalahgunaan ini juga secara langsung menyerang hak atas citra diri, di mana identitas visual seseorang digunakan tanpa izin untuk tujuan yang merugikan. Ini dapat menyebabkan kerugian emosional, reputasi, dan bahkan fisik bagi para korban.

Oleh karena itu, Komdigi harus segera mengambil langkah konkret untuk memastikan bahwa platform AI seperti Grok tidak menjadi sarana pelanggaran hak asasi manusia. Regulasi yang kuat dan implementasi yang ketat adalah kunci untuk menjaga ruang digital tetap aman dan bermoral.

Jangan lewatkan update berita seputaran Aktor Senayan serta berbagai informasi menarik lainnya yang akan memperluas wawasan Anda.