ANDALPOST.COM – CEO Discord, Jason Citron, pada Kamis (22/06/2023), mengungkapkan bahwa dirinya kaget akan adanya laporan eksploitasi anak pada platform populernya itu. Ia mengatakan bahwa Discord akan menganggapnya “sangat serius”.
Komentarnya, di Tech Summit Bloomberg, San Francisco, muncul sehari setelah NBC News menerbitkan penyelidikan atas masalah tersebut.
“Sebagai orang tua, ini mengerikan,” ujar Citron menanggapi pertanyaan dari jurnalis Bloomberg Emily Chang. “Kami menanggapi hal ini dengan sangat serius.”
Citron mencatat bahwa Discord telah mempekerjakan tim keselamatan anak khusus yang bertugas mencoba mencegah eksploitasi di platform. Hal itu dilakukan “dengan cara yang menghormati privasi semua orang yang tidak melakukan hal-hal tersebut”.
Penyelidikan mengungkapkan bahwa sejak pembuatan platform pada tahun 2015, setidaknya 35 penuntutan penculikan, perawatan, atau eksploitasi anak melibatkan komunikasi melalui Discord.
Sementara, 165 penuntutan materi pelecehan seksual anak melibatkan platform tersebut.
Selain itu, NBC News juga mengidentifikasi ratusan server Discord aktif yang mempromosikan eksploitasi anak.
“Apa yang kami lihat hanyalah puncak gunung es,” kata Stephen Sauer, direktur tipline di Pusat Perlindungan Anak Kanada.
Seperti banyak perusahaan media sosial, Discord memindai gambar dan video yang diunggah dan membandingkannya dengan basis data materi pelecehan seksual anak yang diketahui.
Tetapi, sebagian besar moderasi lainnya diserahkan kepada komunitas itu sendiri.
Discord dengan jelas menyatakan bahwa mereka tidak secara proaktif memindai sebagian besar pesan yang diposting di komunitasnya.
Usaha untuk Mengurangi
Citron mengatakan kecerdasan buatan dapat membantu menyelesaikan beberapa masalah seputar eksploitasi anak.
“Salah satu tantangan yang menurut saya dimiliki oleh semua orang di industri kami adalah bahwa kami memiliki begitu banyak hal yang terjadi dalam skala besar di platform dan sangat sulit untuk mengidentifikasi berbagai hal,” ungkapnya.
John Redgrave, wakil presiden kepercayaan dan keamanan di Discord, mengatakan bahwa media sosial tersebut bekerja sama dengan THORN.
THORN merupakan sebuah perusahaan yang dikhususkan untuk membangun solusi teknologi untuk mendeteksi dan mencegah eksploitasi anak.
Perusahaan itu menciptakan sebuah model yang dapat mengidentifikasi pola grooming atau manipulasi seksual pada anak.
Namun, AI juga telah dikritik karena berpotensi memperparah masalah keselamatan anak.
Bulan ini, FBI memperingatkan bahwa orang dewasa menggunakan AI untuk menghasilkan gambar anak-anak yang dimanipulasi untuk tujuan sextortion.
Mereka memeras anak di bawah umur dengan gambar tersebut untuk mendapatkan lebih banyak konten seksual atau uang.
Simak selengkapnya di halaman berikutnya.
