Twitter, TikTok, dan Google akan dipaksa untuk menjawab pertanyaan tentang bagaimana mereka menangani pelecehan seksual anak dan upaya pemerasan di platform mereka setelah Komisaris eSafety Australia mengeluarkan pemberitahuan hukum kepada perusahaan tersebut.
Perusahaan teknologi, serta platform game Twitch dan Discord, memiliki waktu 35 hari untuk menjawab pertanyaan komisaris atau menanggung risiko denda hingga $687.000 per hari.
Klaim hukum datang enam bulan setelah pemberitahuan serupa dikeluarkan untuk Apple, Meta, Microsoft, Snap, dan Omegle yang menunjukkan bahwa beberapa platform teknologi gagal menerapkan langkah-langkah keamanan yang diketahui untuk mendeteksi konten yang kasar dan melindungi pengguna.
Komisioner eSafety Julie Inman Grant mengatakan dia sangat prihatin dengan perlakuan materi ilegal di Twitter setelah pengurangan besar-besaran tim keselamatan dan keamanan Australia.
“Kembali pada bulan November, CEO Twitter Elon Musk men-tweet bahwa memerangi eksploitasi anak adalah prioritas #1, tetapi kami belum melihat detail tentang bagaimana Twitter memenuhi komitmen itu,” kata Inman Grant.
“Kami juga telah melihat perampingan ekstensif pekerja kepercayaan dan keselamatan utama di seluruh perusahaan – orang-orang yang tugasnya menjaga keamanan anak-anak – dan kami ingin tahu bagaimana Twitter akan menangani masalah ini di masa mendatang.”
Platform teknologi perlu menjawab pertanyaan tentang bagaimana mereka mengidentifikasi dan menghapus konten pelecehan seksual anak, termasuk streaming langsung, dari platform mereka, bagaimana algoritme dapat memperluas jangkauan mereka, dan bagaimana perusahaan menangani upaya pemerasan seksual terhadap anak-anak.
Upaya ini biasanya melibatkan penipuan pengguna di bawah umur untuk memberikan gambar intim dan kemudian memerasnya.
“Penciptaan, penyebaran, dan tontonan pelecehan seksual anak secara online menyebabkan trauma yang tak terhitung dan menghancurkan kehidupan. Itu juga ilegal,” kata Inman Grant.
“Sangat penting bagi perusahaan teknologi untuk mengambil semua langkah yang wajar untuk menghapus materi ini dari platform dan layanan mereka.”
setelah promosi buletin
Insiden pelecehan seksual anak di platform digital tersebar luas, dengan 29,1 juta laporan ke Pusat Nasional untuk Anak Hilang dan Tereksploitasi AS pada tahun 2021, termasuk 875.783 dari Google, 154.618 dari TikTok, dan 86.666 dari Twitter.
Dalam sebuah pernyataan bulan ini, Twitter melaporkan bahwa mereka telah menangguhkan 404.000 akun eksploitasi seksual anak dari platformnya pada bulan Januari, yang digambarkan sebagai “peningkatan penangguhan CSE sebesar 112% sejak November 2022.”
“Kami tidak hanya menemukan lebih banyak aktor jahat lebih cepat, kami juga membangun pertahanan baru yang secara proaktif mengurangi kemungkinan ditemukannya tweet yang berisi jenis konten ini,” kata pernyataan itu.
Perusahaan teknologi juga telah diminta untuk menyusun kode etik yang dapat diterapkan untuk menangani materi ilegal secara online, dengan Komisaris eSafety diharapkan menyetujui atau menolak kode tersebut pada bulan Maret.