Algoritmos do TikTok e YouTube falham na proteção de jovens contra conteúdos perigosos

Uma análise realizada pelo Centro de Combate ao Ódio Digital (CCDH) revelou que as políticas do TikTok e do YouTube são ineficazes na contenção de conteúdos que promovem distúrbios alimentares e automutilação. Os algoritmos dessas plataformas estão a falhar em proteger os utilizadores mais jovens, com resultados alarmantes.

Conforme o estudo, o TikTok tem a capacidade de enviar conteúdos perturbadores a adolescentes em poucos minutos depois de se inscreverem. Um jovem de 13 anos, por exemplo, pode ser exposto a conteúdos relacionados com suicídio em apenas 2,6 minutos e a temas sobre transtornos alimentares em 8 minutos. Para contas identificadas como vulneráveis, a situação é ainda mais grave, com esses utilizadores a receberem conteúdos de automutilação até 12 vezes mais frequentemente em comparação a utilizadores comuns.

O CCDH também critica o algoritmo do TikTok, descrevendo-o como um sistema que procura atrair os utilizadores de qualquer forma possível. Embora a plataforma tenha eliminado mais de meio milhão de conteúdos ligados à hashtag "#SkinnyTok", a medida não é suficiente para corrigir as falhas do algoritmo que perpetua a difusão de mensagens nocivas.

A hashtag "SkinnyTok" tem um histórico preocupante, com mais de meio milhão de publicações que promovem a perda de peso e incentivam a culpa em relação à imagem corporal, levando as autoridades europeias a manifestar preocupações sobre os efeitos negativos dessa tendência na saúde mental dos jovens.

No YouTube, a situação é igualmente alarmante, com um em cada três vídeos recomendados para um jovem de 13 anos a abordar a temática dos transtornos alimentares, e quase dois terços desses vídeos centrados em distúrbios alimentares ou perda de peso.

Apesar das iniciativas da União Europeia, que implementou a lei dos serviços digitais para proteger os menores, a Comissão Europeia tem solicitado orientação sobre os sistemas de recomendação das plataformas e o impacto destes nos utilizadores mais jovens.

Recentemente, o TikTok declarou ter removido 98% do conteúdo nocivo à saúde mental, após uma análise do jornal The Guardian ter mostrado que mais da metade dos vídeos com mais visualizações na área da saúde mental continha informações incorretas. A plataforma também afirmou estar em colaboração com a Organização Mundial de Saúde (OMS) para fornecer conteúdos precisos e direcionar os utilizadores para fontes fiáveis.