A IA geracional está ressuscitando o terrível legado de fanáticos, incluindo o ex-ditador alemão Adolf Hitler, à medida que os usuários do TikTok usam as ferramentas de IA do aplicativo para reviver discursos xenófobos de líderes falecidos há muito tempo.
Este fenômeno foi documentado recentemente em dois relatórios diferentes, um deles elaborado por um grupo de vigilância sem fins lucrativos A mídia é importante para a América e outro em uma investigação de Instituto de Diálogo Estratégico e SITE Intelligence Group, publicado por Correio de Washington. Os dois expuseram uma pequena rede de contas que criam e distribuem versões traduzidas e dubladas por IA dos discursos de Hitler.
Por que os adolescentes contam seus segredos a estranhos na Internet
De acordo com a pesquisa da Media Matters, as gravações de áudio geradas por IA obtiveram milhões de visualizações, incluindo vídeos zombando do líder ou aqueles que transformaram o áudio em um meme. Outras contas pareciam estar sinceramente empenhadas na criação e partilha destes vídeos, por vezes contendo conteúdo francamente anti-semita. Vídeos populares que utilizam o áudio em questão, muitas vezes estilizados com som lento e “reverberante”, datam de abril de 2024, e vários deles foram traduzidos incorretamente. Depois que o relatório foi publicado, o TikTok excluiu a conta de um uploader conhecido e começou a redirecionar as pesquisas relacionadas para “Fatos sobre o Holocausto” um site que documenta o massacre de milhões de judeus civis, pessoas com deficiência, presos políticos, pessoas LGBTQ+ e pessoas de origem cigana por Hitler.
O Correio de Washington relataram que grupos fascistas conhecidos elogiaram o uso da inteligência artificial para espalhar propaganda preconceituosa, citando um aumento no número de jovens da “pílula vermelha” envolvidos em discursos de ódio e em comunidades de direita online. Especialistas disseram à publicação que temem que as ferramentas de moderação da plataforma, incluindo aquelas nos sites Meta e X, não sejam capazes de acompanhar a propagação alimentada por IA.
As melhores histórias para misturar
Ambos os relatórios notaram uma abundância de sentimentos positivos nas seções de comentários dos vídeos, com alguns usuários elogiando abertamente a figura histórica e sua política, e notaram que muitos dos vídeos não exibem apitos óbvios de supremacia branca, levantando preocupações de que os usuários radicalizaram inconscientemente devido ao seu conteúdo.
Tentativas semelhantes de reescrever o legado de figuras históricas foram feitas no TikTok no ano passado, estimuladas pela inteligência artificial. Em junho A vazou por engano uma versão interna de uma nova ferramenta de avatar digital de IA que permitia aos usuários gerar anúncios usando as imagens dos criadores levou à disseminação de vários vídeos gerados por IA retratando avatares recitando várias retóricas da supremacia branca, incluindo trechos Minha luta e “Carta à América”, de Osama bin Laden. Em 2023, vídeos do TikTok recitando a mesma declaração de Bin Ladenàs vezes associado a sentimentos de supremacia branca, causou pânico em várias aplicaçõesenquanto os utilizadores recontextualizaram o discurso como um tratado anti-imperial à luz do cerco israelita aos palestinianos em Gaza e do apoio dos EUA à nação.
No geral, grupos de vigilância documentaram casos repetidos de intervenientes nacionais e estrangeiros que espalham desinformação na aplicação utilizando ferramentas geradoras de inteligência artificial, incluindo falsificações digitais sintéticas (ou “deepfakes”) de líderes políticos. Contas pró-nazistas de supremacia branca também proliferam na plataforma, trabalhando com redes em sites como o Telegram para impulsionar seu conteúdo dentro de algoritmos de mídia social.
De acordo com A Relatório de julho do Instituto para o Diálogo Estratégico, existem “centenas” de contas pró-nazistas no TikTok, que acumulam coletivamente milhões de visualizações. A organização diz que a empresa não agiu com rapidez suficiente para impedir a propagação.
