Na era dos deepfakes, nem toda imagem vale mais que mil palavras

Ainda que o termo fake news às vezes seja usado para descrever qualquer notícia enviesada ou que tenha erros factuais, é preciso lembrar que a produção e propagação de mentiras na internet pode ser uma atividade bastante lucrativa. Ao contrário das imprecisões do noticiário, que muitas vezes ocorrem por algum descuido dos jornalistas, as invenções difundidas pelas fake news são propositais e muito bem calculadas.

Os deepfakes representam essa diferença muito bem. Por se tratar de um conteúdo audiovisual gerado por inteligência artificial (IA), nenhum profissional da imprensa poderia usá-lo  — salvo em alguma ilustração pontual. Quem forja uma declaração em um deepfake demonstra uma intenção bastante clara de induzir as pessoas ao erro.

A linguagem da notícia frequentemente usa imagens e declarações de entrevistados para trazer fatos e análises de especialistas. Como o deepfake adultera vídeos e gravações sonoras, falsificando seu conteúdo, ele é capaz de simular os elementos da notícia e produzir uma fake news bastante convincente.

Endosso falso

Treinando a inteligência artificial com imagens e gravações de uma pessoa famosa, é possível adulterar vídeos para modificar o que está sendo dito. Se uma pessoa famosa endossar algum produto ou causa, o deepfake pode facilmente direcionar a fala para outro tipo de mercadoria.

O golpista também pode editar o vídeo para incluir elementos visuais que corroborem com a narrativa, mas a peça-chave é um diálogo fictício em que o convidado e apresentador exaltam a qualidade da mercadoria ou serviço. 

A ideia é insinuar que houve uma indicação espontânea do produto durante o programa noticioso.

Um exemplo disso ocorreu com um apresentador de um dos podcasts mais famosos do mundo, que teve sua imagem e seu podcast usados de forma ilegítima em peças publicitárias para promover suplementos alimentares.

Declaração forjada

Com notícias amparadas em deepfakes, golpistas podem tentar influenciar os movimentos da bolsa de valores de forma positiva ou negativa.

Com a inteligência artificial, é possível usar a imagem e a voz dos diretores da empresa para anunciar projetos, lucros ou prejuízos que não existem. A disseminação desse tipo de notícia, dependendo das circunstâncias, pode influenciar os investidores por um breve momento.

Em 2022, um perfil falso de uma empresa farmacêutica anunciou que um medicamento seria oferecido de graça e, no dia seguinte, a ação da companhia registrou uma queda de quase 5%. Embora a declaração tenha sido dada sem deepfakes e não seja possível dizer que a queda foi provocada pela publicação, a conta tinha um status privilegiado na rede social e confundiu algumas pessoas. A farmacêutica teve de se manifestar para desmentir a informação.

Uma variação desse golpe mistura o tema do endosso falso e utiliza empresários para promover oportunidades de investimento, principalmente em criptomoedas. Os vídeos são divulgados em transmissões ao vivo e propagandas em redes sociais, simulando uma palestra ou entrevista. Quem envia o dinheiro solicitado jamais recebe qualquer retorno.

Assassinato de reputação

Deepfakes também podem ser usados para assassinar a reputação de uma pessoa, seja ao colocá-la em situações vexatórias ou falsificando declarações polêmicas. As imagens podem ser combinadas com elementos visuais típicos de telejornais, conferindo a elas uma credibilidade indevida.

Muitas redes sociais não permitem ataques diretos à imagem de uma pessoa. Desse modo, esses conteúdos geralmente tendem a circular apenas entre grupos de usuários ou em publicações temporárias. Cada um de nós precisa tomar cuidado para não compartilhar um conteúdo falso sobre outras pessoas  — especialmente quando a pessoa não é famosa, pois também é comum que o conteúdo falso seja usado para constranger pessoas próximas, como um colega de trabalho ou familiar.

Tanto os deepfakes como as notícias falsas já fazem parte da internet e representam um risco para sociedade e para cada um de nós como indivíduos. Por mais que uma imagem pareça real, é fundamental considerar a possibilidade de algo foi inventado, principalmente quando desconhecemos a fonte ou quando se trata de alguma alegação extraordinária. Na era dos deepfakes, nem toda imagem vale mais que mil palavras.

Produção: Equipe de Conteúdo da Perallis Security