Jakarta, 18 Juni 2025 – Di tengah peringatan Hari Internasional untuk Melawan Ujaran Kebencian (Hate Speech) oleh Perserikatan Bangsa-Bangsa (PBB), muncul kekhawatiran baru: kecerdasan buatan (AI) yang diandalkan untuk memoderasi konten di media sosial ternyata masih memiliki celah besar. Sekretaris Jenderal PBB, Antonio Guterres, memperingatkan bahwa platform digital justru memperkuat penyebaran kebencian yang sebelumnya terbatas di dunia nyata.
Menurut data survei Ipsos dan UNESCO tahun 2023, lebih dari dua pertiga pengguna internet global pernah menemukan ujaran kebencian secara daring. Kelompok yang paling sering menjadi sasaran adalah komunitas LGBTQI (33 persen), minoritas etnis dan ras (28 persen), serta perempuan (18 persen).
Namun, ironisnya, upaya menekan konten negatif ini justru menurun di beberapa platform besar. Meta, induk perusahaan Facebook dan Instagram, mencatat penurunan drastis jumlah konten kebencian yang dihapus. Pada kuartal keempat 2025, Instagram hanya menghapus 1,3 juta unggahan, bandingkan dengan 7,4 juta pada periode yang sama tahun sebelumnya. Facebook juga merosot dari 5,8 juta menjadi 1,3 juta unggahan. Perusahaan beralih dari deteksi proaktif ke sistem pelaporan manual oleh pengguna.
Di sisi lain, TikTok mengklaim berhasil menghapus 96,3 persen konten ujaran kebencian bahkan sebelum dilaporkan. Perbedaan ini memicu pertanyaan tentang efektivitas algoritma masing-masing platform.
Sebuah studi Universitas Pennsylvania pada 2025 menguji tujuh sistem moderasi AI, termasuk milik OpenAI, Google, dan DeepSeek. Hasilnya mengejutkan: terdapat inkonsistensi besar dalam cara AI mengidentifikasi ujaran kebencian, terutama terhadap kelompok minoritas. Artinya, AI belum bisa menggantikan penilaian manusia secara adil dan akurat.
Analisis: Kegagalan AI ini berdampak langsung pada kebebasan berekspresi dan keamanan digital. Jika sistem terlalu ketat, bisa membungkam suara kritis. Namun jika terlalu longgar, platform menjadi sarang radikalisme dan perundungan. Masyarakat perlu lebih melek literasi digital, sementara regulator harus mendorong transparansi algoritma agar tidak ada pihak yang dirugikan.