Vídeos com conteúdos discriminatórios e supostamente gerados por IA estão sendo distribuídos no TikTok, violando as políticas de uso do app e alcançando milhões de visualizações, conforme denúncia feita pela organização sem fins lucrativos Media Matters na última terça-feira (1º). Esses materiais também aparecem em outras plataformas.
De acordo com o relatório, esses materiais foram criados com o Veo 3 do Google, que estreou recentemente chamando a atenção pela capacidade de gerar vídeos realistas. Eles têm até oito segundos de duração, o limite da ferramenta, e em alguns casos trazem a marca d’água do modelo de inteligência artificial.
- Leia também: Esse homem não existe: testamos o Veo 3, nova IA de vídeos realistas do Google, e os resultados impressionam
O que é mostrado nesses vídeos?
A investigação encontrou diversos vídeos virais gerados por IA no TikTok que têm como alvo as pessoas negras, principalmente. Elas são retratadas como criminosas, pais ausentes e macacos, em conteúdos que reforçam uma série de estereótipos racistas.
- Em uma das gravações, macacos aparecem praticando ações ilícitas e são rotulados como os “suspeitos de sempre”, enquanto em outro um carro dirigido por um primata é perseguido pela polícia até se acidentar;
- Um vídeo que está entre os mais acessados associa macacos às melancias, um símbolo de racismo nos Estados Unidos e que é usado de forma pejorativa contra a população negra;
- Asiáticos e judeus também são retratados nesses vídeos feitos pela IA do Google;
- Há conteúdos mostrando pessoas aparentemente do sul da Ásia apontadas como sujas, preparando comida com os pés e se alimentando em meio a ratos;
- Em outro, judeus ortodoxos aparecem descendo uma colina à procura de um pedaço de ouro;
- Os materiais retratam, ainda, campos de concentração nazista e a Ku Klux Klan perseguindo um negro;
- Além disso, há vídeos falsos direcionados a imigrantes, especialmente os falantes de espanhol, e contra os manifestantes que os defendem;
- Várias gravações geradas no Veo 3 sugerindo que os manifestantes fossem atropelados também acumulam centenas de milhares de visualizações.
Como ressalta o Media Matters, esses materiais violam as regras de uso do TikTok, que proíbem a divulgação de discursos de ódio e comportamento odioso. As políticas do app mencionam, ainda, que o algoritmo não recomenda materiais com estereótipos negativos sobre uma pessoa ou grupo com atributo protegido.
O Google também possui normas para bloquear “solicitações e resultados prejudiciais” em relação ao uso do Veo 3 para a geração de clipes. No entanto, as regras não estão sendo seguidas pelas plataformas, como destaca a publicação, com a IA sendo usada livremente para gerar esses materiais.
Vídeos também aparecem no YouTube e no Instagram
Alguns dos vídeos encontrados pela investigação foram vistos em outras plataformas. Parte deles está no YouTube, de acordo com o The Verge, embora tenham uma menor quantidade de visualizações, e outros foram encontrados pela Wired no Instagram, com milhões de views.
Em resposta ao The Verge, a porta-voz do TikTok, Ariane de Selliers, disse que a rede social reforçou a aplicação dos termos de uso contra discursos de ódio. Ela afirma que algumas das contas identificadas como autoras dos vídeos foram banidas do app.
- Fique por dentro: O outro lado da IA: como se proteger dos perigos das Deepfakes
O Google foi procurado pela publicação, mas não se pronunciou a respeito do uso do Veo 3 para a geração dos vídeos racistas. A Meta também foi questionada sobre a disseminação desses conteúdos no Instagram, mas até o momento não respondeu.
Continue no TecMundo para conferir as últimas notícias de tecnologia e interaja com a gente nas redes sociais.
Fonte: TecMundo
