Karyawan Snap sangat menyadari masalah keselamatan anak di aplikasi ini, menurut laporan pengaduan yang baru dibuka

“Pada bulan November 2022, karyawan Snap mendiskusikan 10.000 laporan pengguna tentang pemerasan seks setiap bulannya, dan pada saat yang sama mengakui bahwa laporan-laporan ini 'kemungkinan mewakili sebagian kecil dari pelanggaran ini' mengingat rasa malu dan hambatan lain dalam pelaporan,” kata versi gugatan yang baru dibuka. diajukan oleh jaksa agung New Mexico terhadap Snap. Versi pengajuan yang tidak banyak disunting ini, yang pertama kali kami lihat sebulan yang lalu, menambahkan rincian baru tentang apa yang diduga diketahui oleh karyawan Snap tentang ruang lingkup masalah pemerasan seks yang dituduh difasilitasi di platformnya.

Dalam satu kasus yang dituduhkan, karyawan merujuk pada sebuah kasus dengan 75 laporan yang menentang kasus tersebut “menyebutkan tindakan telanjang, anak di bawah umur, dan pemerasan, namun akun tersebut masih aktif.” Dan pada tahun 2022, penelitian internal Snap diduga menemukan bahwa lebih dari sepertiga remaja perempuan dan 30 persen remaja laki-laki di aplikasinya telah terpapar “kontak yang tidak diinginkan di platformnya.” kata keluhan itu.

Rincian baru ini menggambarkan sebuah perusahaan yang sadar akan dugaan kekurangannya dalam melindungi anak-anak dalam layanannya, namun tidak cukup fokus untuk memperbaikinya. “Mantan karyawan kepercayaan dan keselamatan Snap mengeluh bahwa 'mereka memiliki sedikit kontak dengan manajemen tingkat atas, dibandingkan dengan pekerjaan mereka di perusahaan media sosial lainnya, dan ada penolakan dalam upaya menambahkan mekanisme keselamatan dalam aplikasi karena [Snap CEO] Evan Spiegel memprioritaskan desain,'” kata pengaduan tersebut.

Dalam sebuah pernyataan yang diposting di ruang redaksinya, Snap mengatakan aplikasinya dirancang “sebagai tempat untuk berkomunikasi dengan teman-teman dekat, dengan pagar pengaman bawaan, dan telah membuat pilihan desain yang disengaja untuk mempersulit orang asing menemukan anak di bawah umur di layanan kami. Kami terus mengembangkan mekanisme dan kebijakan keamanan kami, mulai dari memanfaatkan teknologi canggih untuk mendeteksi dan memblokir aktivitas tertentu, melarang pertemanan dengan akun yang mencurigakan, bekerja sama dengan penegak hukum dan lembaga pemerintah, dan masih banyak lagi.”

Berdasarkan pengaduan tersebut, karyawan Snap menyebarkan laporan eksternal pada tahun 2021 yang mencakup contoh dugaan predator yang berhubungan dengan anak-anak berusia delapan tahun melalui Snapchat dan memperoleh materi pelecehan seksual terhadap anak. Namun mereka khawatir tindakan untuk menangkap perilaku semacam ini akan terlalu membebani privasi pengguna dan “menimbulkan biaya admin yang tidak proporsional,” demikian klaim pengaduan tersebut.

Karyawan juga diduga mengidentifikasi risiko dengan fitur Snapchat tertentu, seperti Quick Add, yang menyarankan pengguna lain untuk terhubung. “Kami perlu menemukan pendekatan baru yang membatasi pengguna kami yang paling rentan (anak di bawah umur) dan mempersulit pengguna predator untuk menemukan mereka melalui penambahan cepat, pencarian, dll.,” tulis seorang eksekutif, menurut pengaduan tersebut. “Kami yakin kami dapat mencapai hal ini tanpa secara berarti menurunkan pengalaman produk bagi para pengguna ini jika kami menerapkan strategi baru dalam pembuatan/batasan inventaris dan teknik lain untuk secara lebih efektif memisahkan anak di bawah umur dari orang-orang di luar jaringan mereka.” Snap kemudian membuat fitur Tambah Cepat hanya akan muncul untuk akun anak berusia 13 hingga 17 tahun ketika mereka memiliki “sejumlah teman yang sama dengan orang tersebut.” Namun secara internal, menurut pengaduan tersebut, para karyawan menyadari bahwa pendekatan tersebut masih memiliki kekurangan yang signifikan.

Keluhan yang tidak tersegel ini juga mencakup rincian lebih lanjut tentang bagaimana Snap diduga memfasilitasi penjualan senjata ilegal. Dalam satu presentasi yang tidak bertanggal, perusahaan tersebut mengakui bahwa platformnya melihat “50 postingan terkait penjualan senjata ilegal per hari dan 9.000 penayangan per hari dari senjata yang dipasarkan ini.” Dan bahkan ketika konten dilaporkan, “[r]konten yang dilaporkan biasanya dilihat ratusan kali sebelum dilaporkan.”

Hal ini juga mencakup komunikasi internal yang mengakui kecanduan Snapstreaks, di mana pengguna diberi tahu berapa hari mereka terus berkomunikasi dengan pengguna lain. “Wow, kita seharusnya memiliki lebih banyak fitur yang membuat ketagihan seperti ini,” salah satu karyawan diduga menulis, menurut email pada bulan Januari 2017. “Kebanyakan orang yang melakukan pukulan adalah demografi inti kami,” tulis yang lain. Presentasi pada bulan Oktober 2019 diduga menyatakan bahwa “Garis-garis membuat kita tidak mungkin mencabut kabel bahkan untuk sehari.”