Google sob escrutínio após ferramenta de IA incentivar conteúdo discriminatório no TikTok

Recentemente, a Google lançou a sua ferramenta de vídeo Veo 3, o que resultou na criação de múltiplas contas no TikTok a partilhar vídeos gerados por Inteligência Artificial (IA) que incluem estereótipos racistas e antissemitas. Um relatório da MediaMatters expõe estas preocupações, destacando que a maioria dos conteúdos de ódio gerados pela IA é direcionada a indivíduos negros, representando-os como suspeitos em crimes e perpetuando imagens degradantes associadas a racismo histórico.

O relatório afirma: "Desde que a IA generativa foi introduzida, tem sido utilizada para criar conteúdos que incitam ao ódio e ao racismo. O realismo do Veo 3 torna esta ferramenta especialmente atrativa para aqueles com intenções de disseminar estereótipos nocivos." Apesar das diretrizes do TikTok que proíbem discursos de ódio e a promoção de ideologias discriminatórias, este tipo de conteúdo continua a proliferar.

O TikTok menciona que emprega tecnologias de moderação, bem como intervenções humanas, para identificar violações às suas normas. Contudo, a vastidão da informação disponível dificulta uma moderação eficaz e rápida.

Além disso, a Google possui uma política que proíbe o uso dos seus serviços para fins de discurso de ódio e assédio, embora o relatório sugira que as diretrizes sobre a IA apresentam ambiguidade. "O TikTok parece não conseguir lidar com o fluxo ininterrupto de vídeos, enquanto as medidas de proteção da Google parecem não ser suficientes para bloquear a criação deste tipo de conteúdo nocivo," observou o documento.

O relatório também ressalta que, enquanto muitos debates sobre IA concentram-se na credibilidade do conteúdo gerado, as mensagens de ódio não necessitam de parecer verídicas para reforçar crenças racistas na audiência.

Lançado a 20 de maio, o Veo 3, uma ferramenta de IA generativa que converte texto em vídeo, está agora disponível ao público e permite vídeos que duram até oito segundos. A Google planeia integrar este gerador de vídeo na plataforma YouTube Shorts.

A MediaMatters é uma organização sem fins lucrativos dedicada à pesquisa na área da informação online, com o objetivo de analisar e mitigar a desinformação.