Regalia News – Bareskrim Polri tengah mengkaji kemungkinan pemidanaan terhadap penyalahgunaan kecerdasan buatan (AI), termasuk Grok, yang digunakan untuk membuat konten pornografi dan asusila di media sosial.
Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Pol Himawan Bayu Aji, mengatakan praktik penyalahgunaan AI belakangan marak terjadi, terutama dalam manipulasi konten digital. Namun, belum seluruhnya ada sanksi hukum yang tegas bagi pelaku.
“Sepanjang penggunaan AI tersebut dapat diklasifikasikan sebagai manipulasi data elektronik, maka perbuatannya dapat dikenakan pidana,” ujar Himawan di Mabes Polri, Jakarta, Rabu (7/1/2026).
Himawan menekankan, perkembangan AI merupakan konsekuensi dari kemajuan teknologi, tetapi pemanfaatannya tidak boleh disalahgunakan untuk aktivitas yang berpotensi menimbulkan kerugian moral bagi masyarakat.
“Perkembangan teknologi saat ini mengarah pada artificial intelligence, termasuk deepfake. Dalam praktiknya, teknologi ini kerap disalahgunakan untuk membuat konten negatif, palsu, dan manipulasi visual,” tambahnya.
Penyalahgunaan AI ini biasanya berupa manipulasi foto atau gambar individu sehingga menampilkan konten pornografi atau asusila tanpa persetujuan pihak terkait.
Bareskrim mencatat, di platform media sosial X, Grok AI digunakan secara masif oleh sejumlah akun untuk mengubah visual menjadi vulgar.
Atas dasar itu, pihak kepolisian sedang melakukan pendalaman dari sisi hukum dan menyiapkan strategi penanganan.
Penanganan penyalahgunaan AI menjadi salah satu fokus Direktorat Tindak Pidana Siber, mengingat potensi kerugian yang ditimbulkan tidak hanya bersifat pribadi tetapi juga berdampak pada moral masyarakat.
Bareskrim berharap melalui kajian hukum ini, penggunaan AI dapat diarahkan pada hal-hal yang positif dan aman, sekaligus menutup celah penyalahgunaan yang meresahkan masyarakat.
Sumber : Humas Polri