Los sistemas de la unidad Meta para fomentar comunidades han guiado a los usuarios hacia contenido sexual infantil; la empresa dice que está mejorando los controles internos

Pero lo que separa este caso de la mayoría es que los propios algoritmos de Instagram estaban promocionando contenido pedófilo a otros pedófilos, mientras que los propios pedófilos usaban emojis codificados, como una imagen de un mapa o una rebanada de pizza de queso.

Instagram conecta a los pedófilos y los guía a los vendedores de contenido a través de sistemas de recomendación que se destacan en vincular a aquellos que comparten intereses de nicho, encontraron el Journal y los investigadores académicos.

Las cuentas pedófilas en Instagram mezclan descaro con esfuerzos superficiales para ocultar su actividad, encontraron los investigadores. Ciertos emojis funcionan como una especie de código, como la imagen de un mapa, abreviatura de “persona atraída por menores”, o una de “pizza de queso”, que comparte sus iniciales con “pornografía infantil”, según Levine de UMass. Muchos se declaran “amantes de las pequeñas cosas de la vida”. –WSJ

Según los investigadores, Instagram permitía a los pedófilos buscar contenido con hashtags explícitos como #pedowhore y #preteensex, que luego se usaban para conectarlos a cuentas que publicitaban material sexual infantil para la venta de usuarios con nombres como “pequeña zorra”. para ti.”

Los vendedores de pornografía infantil a menudo transmiten la supuesta edad del niño, diciendo que están “en el capítulo 14” o “31 años”, con un emoji de una flecha invertida.

Meta afirma haber eliminado 27 redes de pedófilos en los últimos dos años y dice que planea más eliminaciones. 

“Que un equipo de tres académicos con acceso limitado pudiera encontrar una red tan grande debería activar las alarmas en Meta”, dijo Alex Stamos, jefe del Observatorio de Internet de Stanford y director de seguridad de Meta hasta 2018, y agregó que la compañía tiene mucho más. herramientas más efectivas para ‘mapear’ su red de pedófilos que los forasteros.

“Espero que la empresa reinvierta en investigadores humanos”, agregó.

Los investigadores que investigaron la red establecieron cuentas de prueba dentro de la red de pedófilos, que se inundaron de inmediato con recomendaciones “sugeridas para usted” de contenido sexual infantil, así como cuentas vinculadas a sitios comerciales fuera de la plataforma.

Los creadores y compradores de contenido sexual para menores de edad son solo una esquina de un ecosistema más grande dedicado al contenido infantil sexualizado. Otras cuentas en la comunidad de pedófilos en Instagram agregan memes a favor de la pedofilia o discuten su acceso a los niños. Los empleados actuales y anteriores de Meta que han trabajado en iniciativas de seguridad infantil de Instagram estiman que la cantidad de cuentas que existen principalmente para seguir dicho contenido es de cientos de miles, si no millones. -WSJ

“Instagram es una vía de acceso a lugares en Internet donde hay abuso sexual infantil más explícito”, según Brian Levine, director de UMass Rescue Lab. Levine fue autor de un informe de 2022 para el Instituto Nacional de Justicia del Departamento de Justicia sobre la explotación infantil en Internet.

Además, Meta representó el 85% de los informes de pornografía infantil presentados ante el Centro Nacional para Niños Desaparecidos y Explotados , según el informe. Dicho esto, “Meta ha luchado con estos esfuerzos más que otras plataformas debido tanto a la aplicación débil como a las características de diseño que promueven el descubrimiento de contenido de material legal e ilícito, descubrió Stanford”.

“El problema de Instagram se reduce a las funciones de descubrimiento de contenido, las formas en que se recomiendan los temas y cuánto depende la plataforma de la búsqueda y los enlaces entre cuentas”, dijo David Thiel, tecnólogo jefe del Observatorio de Internet de Stanford. “Tienes que poner barandillas en su lugar para que algo que requiere un crecimiento intensivo siga siendo nominalmente seguro, e Instagram no lo ha hecho”.

Sarah Adams, (foto de arriba) una madre canadiense de dos hijos, ha creado una audiencia de Instagram que analiza la explotación infantil y los peligros de compartir demasiado en las redes sociales . Dado su enfoque, los seguidores de Adams a veces le envían cosas inquietantes que han encontrado en la plataforma. En febrero, dijo, uno le envió un mensaje con una cuenta marcada con el término “niños incestuosos”. 

Adams dijo que accedió a la cuenta, una colección de memes a favor del incesto con más de 10,000 seguidores , solo durante los pocos segundos que tardó en informar a Instagram, y luego trató de olvidarse de eso. Pero en el transcurso de los siguientes días, comenzó a escuchar de padres horrorizados. Cuando miraron el perfil de Instagram de Adams, dijo que se les estaba recomendando “niños pequeños incestuosos” como resultado del contacto de Adams con la cuenta.

Un portavoz de Meta dijo que los “niños incestuosos” violaron sus reglas y que Instagram se había equivocado al aplicarlas. La compañía dijo que planea abordar recomendaciones tan inapropiadas como parte de su grupo de trabajo de seguridad infantil recién formado. -WSJ

Meta reconoció al Journal que había recibido una avalancha de informes de explotación sexual infantil y no actuó en consecuencia , culpando a una falla de software que impidió que se procesara una parte sustancial de los informes de los usuarios.

Y aunque Meta permite que los pedófilos corran desenfrenados en sus plataformas, ZeroHedge aún está prohibido.