EUA - Os jacarés do TikTok não são o que parecem.

Eles aparecem em postagens espalhadas pelo serviço de vídeo, alterados por Photoshop em casas inundadas por furacões, misturados a híbridos de chita e pitbull ou aguardando uma luta com um avatar de Tom Cruise digitalmente projetado.

E eles são inofensivos, como grande parte da mídia manipulada no TikTok, garantindo algumas risadas e curtidas antes de voltar a um fluxo implacável de conteúdo. Mas sua existência preocupa as pessoas que estudam a desinformação, porque as mesmas técnicas estão sendo aplicadas a postagens que semeiam a divisão política, propagam teorias da conspiração e ameaçam os princípios centrais da democracia antes das eleições de meio de mandato.

“Esse tipo de manipulação está se tornando cada vez mais difundido”, disse Henry Ajder, especialista em mídia manipulada e sintética. “Quando esse volume de conteúdo pode ser criado tão rapidamente e em tal escala, isso muda completamente o cenário.”

O material editado ou sintetizado também aparece em outras plataformas online, como o Facebook, que tem quase 3 bilhões de usuários ativos mensais. Mas especialistas disseram que é especialmente difícil fiscalizar o TikTok, que incentiva seus estimados 1,6 bilhão de usuários ativos a colocar sua própria marca no conteúdo de outra pessoa, e onde a realidade, a sátira e o engano completo às vezes se misturam nos vídeos em movimento rápido e ocasionalmente transmitidos ao vivo.

A disseminação de mídia manipulada potencialmente prejudicial é difícil de quantificar, mas os pesquisadores dizem que estão vendo mais exemplos surgirem à medida que as tecnologias que tornam isso possível ficam mais acessíveis. Com o tempo, dizem os especialistas, eles temem que as manipulações se tornem mais comuns e difíceis de detectar.

Nas últimas semanas, os usuários do TikTok compartilharam uma captura de tela falsa de uma história inexistente da CNN, alegando que as mudanças climáticas são sazonais. Um vídeo foi editado para sugerir que a secretária de imprensa da Casa Branca, Karine Jean-Pierre, ignorou uma pergunta do repórter da Fox News, Peter Doocy. Outro vídeo, de 2021, ressurgiu neste outono com o áudio alterado para que a vice-presidente Kamala Harris parecesse dizer que praticamente todas as pessoas hospitalizadas com COVID-19 foram vacinadas. (Ela havia dito “não vacinadas”.)

Os usuários do TikTok adotaram até as postagens alteradas mais absurdas, como as do mês passado que retratavam o presidente Joe Biden cantando “Baby Shark” em vez do hino nacional ou que sugeriam que uma criança na Casa Branca disse um palavrão para a primeira-dama, Jill Biden.

Mas, mais do que qualquer postagem, o perigo da mídia manipulada está no risco de prejudicar ainda mais a capacidade de muitos usuários de mídia social dependerem de conceitos como verdade e prova. Os deep fakes, que geralmente são criados ao enxertar um rosto digital no corpo de outra pessoa, estão sendo usados como acusação e desculpa por aqueles que esperam desacreditar a realidade e se esquivar da responsabilidade – um fenômeno conhecido como dividendo do mentiroso.

Os teóricos da conspiração postaram vídeos oficiais da Casa Branca do presidente no TikTok e ofereceram teorias desmentidas de que é um deep fake. O consultor político Roger Stone afirmou no Telegram em setembro que as imagens que o mostravam pedindo violência antes das eleições de 2020, que a CNN transmitiu, eram “vídeos deep fake fraudulentos”. Os advogados de pelo menos uma pessoa acusada no motim de 6 de janeiro no Capitólio dos EUA em 2021 tentaram lançar dúvidas sobre as evidências em vídeo do dia citando a tecnologia de criação de deep fake “amplamente disponível e insidiosa”.

“Quando entramos nesse tipo de mundo, onde as coisas estão sendo manipuladas ou podem ser manipuladas, podemos simplesmente descartar fatos inconvenientes”, disse Hany Farid, professor de ciência da computação da Universidade da Califórnia, Berkeley, que faz parte do conselho de conteúdo do TikTok.

As empresas de tecnologia passaram anos tentando novas ferramentas para detectar manipulações como deep fakes. Durante a temporada eleitoral de 2020, o TikTok, o Facebook, o Twitter e o YouTube prometeram remover ou rotular conteúdo manipulado nocivo.

Uma lei da Califórnia de 2019 tornou ilegal criar ou compartilhar deep fakes enganosos de políticos dentro de 60 dias de uma eleição, inspirada em parte por vídeos daquele ano que foram distorcidos para fazer a presidente Nancy Pelosi parecer bêbada.

O TikTok disse em comunicado que removeu vídeos, encontrados pelo The New York Times, que violavam suas políticas, que proíbem falsificações digitais “que enganam os usuários ao distorcer a verdade dos eventos e causar danos significativos ao assunto do vídeo, outras pessoas ou sociedade”.

“O TikTok é um lugar para conteúdo autêntico e divertido, e é por isso que proibimos e removemos desinformação prejudicial, incluindo mídia sintética ou manipulada, projetada para enganar nossa comunidade”, disse Ben Rathe, porta-voz do TikTok.

Mas especialistas em desinformação disseram que exemplos individuais são difíceis de moderar e quase fora de questão. A exposição prolongada à mídia manipulada pode intensificar a polarização e reduzir a capacidade e a vontade dos espectadores de distinguir a verdade da ficção.

A desinformação tornou-se um problema na plataforma antes das eleições de meio de mandato. Nos últimos dias, pesquisadores do SumOfUs, um grupo de defesa da responsabilidade corporativa, testaram o algoritmo do TikTok criando uma conta e pesquisando e assistindo a 20 vídeos amplamente vistos que semearam dúvidas sobre o sistema eleitoral.

Em uma hora, o algoritmo passou de fornecer conteúdo neutro para promover mais desinformação eleitoral, conteúdo polarizador, radicalismo de extrema direita, teorias da conspiração do QAnon e narrativas falsas sobre a COVID-19, descobriram os pesquisadores.

O TikTok disse que removeu o conteúdo, citado pelo relatório, que violava suas diretrizes e que atualizaria seu sistema para capturar os termos de pesquisa usados para encontrar os vídeos.

“Plataformas como o TikTok em particular, mas realmente todos esses feeds de mídia social, existem para você passar pelas coisas rapidamente – eles são projetados para ser essa enxurrada de conteúdo, e essa é uma receita para eliminar nuances”, disse Halsey Burgund , um tecnólogo criativo em residência no MIT Open Documentary Lab. “Os vestígios dessas reações emocionais muito rápidas ficam dentro de nossos cérebros e se acumulam, e é meio aterrorizante.”

Em 2019, Burgund trabalhou em um projeto de documentário com a artista multimídia e jornalista Francesca Panetta que projetou um deep fake de Richard Nixon anunciando o fracasso da missão Apollo 11 de 1969. (A expedição real desembarcou os primeiros humanos na lua.) O projeto, “In Event of Moon Disaster”, ganhou um Emmy no ano passado.

A maioria dos exemplos de conteúdo manipulado atualmente nas mídias sociais são de má qualidade e obviamente fabricados. Mas as tecnologias que podem alterar e sintetizar com muito mais sutileza são cada vez mais acessíveis e muitas vezes fáceis de aprender, disseram especialistas.

“Nas mãos certas, é bastante criativo e há muito potencial”, disse Burgund. “Nas mãos erradas, é muito ruim.”

No mês passado, várias postagens do TikTok com vídeos manipulados de Jill Biden promovendo iniciativas da Casa Branca relativas ao câncer no campo do Philadelphia Eagles foram visualizadas dezenas de milhares de vezes. Nas imagens da primeira-dama cantando ao lado de pacientes com câncer e sobreviventes, o som da multidão foi substituído por vaias e protestos altos, que os verificadores de fatos rastrearam a conteúdo mais antigo do YouTube e do TikTok.

O ex-presidente Donald Trump é um tema popular para paródia no TikTok e em outras plataformas. No TikTok, que oferece ferramentas para os usuários adicionarem áudio extra ou “fazerem dueto” com outros usuários e “costurar” em seu conteúdo, imitações de Trump apareceram em conversas com Harry Potter ou atuando como Marilyn Monroe.

“O TikTok foi literalmente projetado para que a mídia possa ser combinada – esta é uma plataforma inteira projetada para manipulação e remixagem”, disse Panetta, colega de equipe de Burgund. “Como é a verificação de fatos em uma plataforma como essa?”

Muitos usuários do TikTok usam rótulos e hashtags para divulgar que estão experimentando filtros e edições. Às vezes, a manipulação é mencionada na seção de comentários. Mas esses esforços são frequentemente ignorados na rolagem rápida do TikTok.

No ano passado, o FBI alertou que “atores maliciosos quase certamente irão alavancar conteúdo sintético para operações cibernéticas e de influência estrangeira” até este outono. Este ano a manipulação da mídia já foi armada no exterior na invasão russa da Ucrânia e na eleição presidencial brasileira.

“Não teríamos como combater cada conteúdo individual, porque parece que estamos jogando um jogo perdido e há batalhas muito maiores para lutar”, disse Claire Wardle, co-diretora do Information Futures Lab da Brown University. “Mas essas coisas são realmente perigosas, mesmo que um verificador de fatos ou uma pesquisa reversa de imagens seja capaz de desmenti-las em dois segundos. Está fundamentalmente alimentando esse constante gotejamento de coisas que reforçam sua visão de mundo.” / TRADUÇÃO DE LÍVIA BUELONI GONÇALVES

Tiffany Hsu / ESTADÃO