O algoritmo do Instagram rotineiramente fornece vídeos sexualmente carregados com criadores de conteúdo sexual seminus para usuários adolescentes de até 13 anos, de acordo com os resultados alarmantes de uma análise de sete meses publicada na quinta-feira.
O Wall Street Journal e um pesquisador da Northeastern University investigaram os filtros do aplicativo liderado por Mark Zuckerberg criando contas se passando por crianças fictícias de 13 anos e rolando o feed de vídeos Reels do Instagram – que supostamente começou a exibir conteúdo sugerido quase imediatamente.
No início, os vídeos picantes incluíam mulheres dançando sugestivamente ou exibindo seus seios, disse o relatório.
À medida que as contas assistiam a esses vídeos enquanto ignoravam outros, o conteúdo se tornou mais gráfico – com vídeos com profissionais do sexo online que prometiam enviar imagens nuas aos espectadores aparecendo em “menos de 20 minutos”, de acordo com o Journal.
Em um conjunto de testes realizados em junho, o jornal disse que o Instagram começou a mostrar “vídeo após vídeo sobre sexo anal” para uma criança fictícia de 13 anos que já assistiu a vídeos sobre mulheres no feed do Reels.
Em outros casos, o algoritmo recomendado exibiu vídeos de mulheres acariciando seus corpos, imitando atos sexuais ou até mesmo piscando seus órgãos genitais para a câmera, disse o jornal.
Os vídeos picantes ocasionalmente apareciam junto a anúncios de grandes marcas corporativas, disse o relatório.
A Meta rebateu as conclusões do relatório, com o porta-voz Andy Stone afirmando que “foi um experimento artificial que não corresponde à realidade de como os adolescentes usam o Instagram”.
“Como parte de nosso trabalho de longa duração sobre questões juvenis, estabelecemos um esforço para reduzir ainda mais o volume de conteúdo sensível que os adolescentes podem ver no Instagram e reduzimos significativamente esses números nos últimos meses”, acrescentou Stone.
O Post entrou em contato para comentar.
A análise foi conduzida pelo jornal durante um período de sete meses, de janeiro a junho, de acordo com o relatório. A professora de ciência da computação da Northeastern University, Laura Edelson, também replicou os resultados do teste.
As contas de teste não seguiram nenhuma outra conta ou curtiram nenhuma postagem. Para testar a rapidez com que o Instagram aumentou as recomendações ilícitas, os testadores rolaram pelo Reels assistindo aos vídeos com carga sexual enquanto pulavam outros.
O jornal disse que realizou testes semelhantes no Snapchat e no TikTok, nenhum dos quais recomendou conteúdo sexualmente gráfico para as contas de teste em condições semelhantes.
Enquanto isso, atuais e ex-funcionários da Meta disseram ao veículo que testes internos descobriram problemas com conteúdo impróprio sendo veiculado a usuários menores de idade já em 2021.
Em um relatório interno de 2022, a Meta descobriu que usuários adolescentes visualizaram três vezes mais postagens com nudez do que adultos.
A Meta disse repetidamente que está tomando medidas para garantir que os usuários adolescentes tenham “experiências apropriadas para a idade” em seus aplicativos.
O jornal descobriu o conteúdo ilícito: até mesmo a Meta lançou controles de conteúdo mais rígidos em janeiro, com o objetivo de evitar que usuários adolescentes fossem expostos a conteúdo impróprio.
Como parte dessas novas restrições, usuários menores de 16 anos devem ser impedidos de ver conteúdo sexualmente explícito em seus feeds.
O relatório condenatório marca mais uma dor de cabeça para a Meta, que atualmente enfrenta um amplo processo federal de dezenas de estados que alegam que os aplicativos da empresa alimentaram uma crise de saúde mental juvenil.
A Meta também está sendo processada pelo estado do Novo México em um processo separado alegando que a empresa falhou em proteger usuários menores de idade de predadores sexuais ativos em seus aplicativos.
Como o Post relatou, um documento desse processo revelou que executivos do Walmart e do Tinder Match Group, controladora do Tinder, confrontaram a Meta depois de descobrir que seus anúncios estavam sendo veiculados ao lado de conteúdo que sexualizava usuários menores de idade.
Em janeiro, o CEO da Meta, Mark Zuckerberg, emitiu um pedido de desculpas impressionante às famílias das vítimas de abuso sexual infantil online durante uma audiência de alto nível no Capitólio.
“Ninguém deve passar pelas coisas que suas famílias sofreram”, disse Zuckerberg na época. “E é por isso que investimos tanto e vamos continuar fazendo esforços em toda a indústria para garantir que ninguém tenha que passar pelas coisas que suas famílias tiveram que sofrer.”
