Peta menunjukkan pelajar Korea Selatan membuat deepfake pelecehan anak

Sebuah peta yang menunjukkan ruang obrolan Telegram besar yang digunakan oleh anak-anak dan remaja di Korea Selatan untuk membuat dan berbagi gambar-gambar pelecehan seksual terhadap anak-anak palsu menyusul berita bahwa pendiri Telegram Pavel Durov ditangkap karena gagal memoderasi gambar-gambar pelecehan anak di aplikasi. Itu menjadi viral di Internet .

Telegram adalah layanan perpesanan yang memungkinkan ruang obrolan dan saluran menampung ratusan ribu pengguna. Media deepfake adalah gambar dan video yang diubah melalui kecerdasan buatan.

Menurut situs tim Korea Datastack, masalahnya tersebar luas. Kelompok tersebut membuat peta interaktif negara yang menunjukkan sekolah-sekolah yang dihadiri oleh peserta ruang obrolan. Peta mencakup perguruan tinggi dan universitas, sekolah menengah atas, sekolah menengah pertama, dan sekolah dasar.

Peta ini muncul setelah banyaknya laporan tentang meluasnya popularitas ruang obrolan semacam itu di Korea Selatan.

Menurut Koreaboo, beberapa korban gambar deepfake menjadi sasaran layanan pesan Korea Selatan KakaoTalk, dan anggota ruang obrolan mencuri foto profil mereka dan menggunakannya untuk membuat gambar deepfake yang eksplisit. Menurut situs tersebut, lebih dari 500 sekolah memiliki siswa yang berpartisipasi dalam kelompok tersebut.

.

Setelah media Korea Selatan secara luas melaporkan adanya gambar-gambar seksual eksplisit perempuan dan anak-anak di ruang obrolan Telegram negara tersebut, Presiden Korea Selatan Yoon Seok-yeol mengatakan penyebaran gambar-gambar tersebut merupakan “tindakan kriminal yang jelas.”

Kini, pemerintah Korea Selatan telah meminta Telegram untuk mengekang pembuatan dan distribusi gambar-gambar tersebut. Namun, tidak jelas apakah aplikasi tersebut akan berpartisipasi, mengingat Telegram terkenal dengan keengganannya. Pemerintah juga telah menyiapkan hotline 24 jam untuk korban deepfake. Selain itu, polisi Korea Selatan akan “aktif” menyelidiki siapa yang membuat dan menyebarkan gambar-gambar tersebut.

Sejak peta deepfake dibuat pada hari Senin, peta tersebut telah menjadi viral di X dan Reddit, dengan banyak orang berbagi reaksi pesimistis mereka terhadap berita bahwa anak-anak sekolah terpengaruh oleh ruang obrolan vulgar.

“Jika ini bukan bencana internasional, lalu apa yang terjadi?” kata salah satu pengguna X tentang semua titik panas di peta.

“Skalanya gila dan saya sangat bersimpati kepada para korban,” tulis salah satu pengguna Reddit sambil mengomentari peta tersebut. “Saya berharap para wanita ini mendapatkan keadilan dan pria Korea dimintai pertanggungjawaban.”

Ada juga yang mengatakan bahwa peta tersebut hanyalah salah satu contoh betapa umum gambar deepfake yang berisi pelecehan seksual terhadap anak-anak terjadi di seluruh dunia. Laporan tahun 2024 tentang penggunaan kecerdasan buatan dalam produksi media oleh Internet Watch Foundation yang berbasis di Inggris menemukan bahwa pembuatan gambar dan video deepfake “semakin meningkat”.

“Saya jamin hal seperti ini sudah terjadi di mana-mana,” kata salah satu pengguna Reddit.

Budaya internet memang berantakan, tapi kami akan menguraikannya untuk Anda melalui email harian. Mendaftarlah untuk buletin web_crawlr Daily Dot di sini. Anda bisa mendapatkan konten terbaik (dan terburuk) di web yang dikirimkan langsung ke kotak masuk Anda.