PIFA, Tekno - Kementerian Komunikasi dan Digital (Komdigi) memanggil platform media sosial X untuk meminta klarifikasi terkait fitur kecerdasan artifisial (AI) Grok yang menuai sorotan publik.

Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengatakan pihak X dalam pertemuan tersebut menyatakan komitmennya untuk mematuhi seluruh ketentuan hukum yang berlaku di Indonesia serta meningkatkan perlindungan terhadap perempuan dan anak-anak di platformnya.

“X menegaskan akan memastikan fitur AI Grok tidak dapat digunakan untuk menghasilkan konten bermuatan pornografi, serta akan melakukan penindakan terhadap akun-akun yang terbukti melanggar kebijakan dan peraturan perundang-undangan,” ujar Alexander kepada ANTARA di Jakarta, Selasa.

Komdigi, lanjut Alexander, akan terus melakukan pengawasan dan evaluasi terhadap komitmen yang disampaikan oleh platform X guna memastikan perlindungan ruang digital berjalan secara nyata dan berkelanjutan.

Ia juga menegaskan langkah-langkah yang diambil Komdigi dalam menangani platform yang membuat dan menyebarkan konten pornografi berbasis AI. Menurutnya, setiap Penyelenggara Sistem Elektronik (PSE) wajib mematuhi seluruh ketentuan peraturan perundang-undangan yang berlaku di Indonesia.

Ketentuan tersebut meliputi kewajiban pendaftaran PSE, kepatuhan terhadap kebijakan moderasi konten, serta kewajiban merespons secara cepat perintah pemutusan akses terhadap konten yang dilarang.

“Apabila ditemukan pelanggaran atau ketidakpatuhan, Komdigi memiliki kewenangan untuk menjatuhkan sanksi administratif hingga pemutusan akses layanan,” tegas Alexander.

Lebih lanjut, Alexander menyampaikan bahwa Komdigi secara aktif melakukan pengawasan dan berkoordinasi dengan aparat penegak hukum untuk memastikan teknologi AI tidak disalahgunakan.

“Apabila penyedia layanan maupun pengguna terbukti memproduksi dan/atau menyebarkan konten pornografi, dapat dikenakan sanksi administratif dan/atau pidana sesuai dengan ketentuan hukum yang berlaku,” ujarnya.

Sebelumnya, Kementerian Komunikasi dan Digital telah melakukan pemutusan akses sementara terhadap aplikasi chatbot berbasis AI Grok sebagai langkah menjaga ruang digital yang aman dan beretika. Kebijakan tersebut diambil menyusul maraknya praktik deepfake bermuatan seksual tanpa persetujuan, yang dinilai sebagai pelanggaran serius terhadap hak asasi manusia dan martabat warga negara.

“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” kata Menteri Komunikasi dan Digital, Meutya Hafid.

Seperti diketahui, fitur Grok menuai kritik dari berbagai kalangan internasional karena memungkinkan pengguna membuat gambar bermuatan pornografi, sehingga memicu kekhawatiran akan penyalahgunaan teknologi AI di ruang digital.