Como a inteligência artificial pode impulsionar o crime cibernético

Uma inteligência artificial (IA) nem sempre está relacionada a um programa que tenta se comportar como um ser humano. As "inteligências" criadas a partir do "aprendizado de máquina" e da aprendizagem profunda (deep learning) podem ser capazes de fazer coisas boas e que seriam complexas demais para um ser humano, mas também falham de forma desastrosa — e até engraçada — em alguns quesitos.

É por isso que o potencial dessa tecnologia ainda surpreende, seja de forma positiva ou negativa. É só depois de treinar uma IA para um fim específico que vamos descobrir se ela será capaz de se sobressair naquela tarefa. 

Apesar disso, já podemos ter uma ideia de como criminosos digitais podem empregar a inteligência artificial em golpes na internet, inclusive para aprimorar a engenharia social.

Deepfakes e conversas com IA

Quando o assunto é imitar alguém, as IAs em geral se saem muito bem. Vozes, rostos e até estilos artísticos podem ser copiados por uma IA. Inclusive, é por isso que temos o deepfake, ou seja, o conteúdo falso impulsionado pelo deep learning.

Em 2022, autoridades dos Estados Unidos alertaram que criminosos estavam usando deepfakes de vozes de executivos para marcar reuniões virtuais com funcionários de empresas. Nessas reuniões, os criminosos solicitavam a realização de pagamentos e transferências fraudulentas.

Já em 2024, a polícia de Hong Kong informou que um funcionário de uma empresa transferiu US$ 25 milhões para criminosos. Segundo o relato da polícia, o valor foi solicitado em uma videoconferência — o que significa que a fraude evoluiu da voz para o vídeo em dois anos.

Nem todas as fraudes desta categoria envolvem cifras milionárias. Na verdade, qualquer usuário de internet pode acabar conversando com um robô (chatbot). Há muitas fraudes em que o golpista tenta convencer a vítima a baixar um software perigoso ou a transferir dinheiro, seja para aproveitar uma "oportunidade", ajudar um parente ou evitar uma situação constrangedora — o famoso estelionato.

Os robôs podem conduzir essas conversas de forma quase autônoma, aumentando o número de vítimas abordadas.

Phishing personalizado

Assim como robôs conduzem conversas com humanos, as IAs podem ser usadas para enviar mensagens personalizadas para cada vítima de um phishing. Tradicionalmente, todas as vítimas de uma campanha de phishing recebiam a mesma mensagem.

No entanto, até mensagens de phishing em larga escala podem ser personalizadas pela IA. Cada interação ou publicação em rede social de uma vítima pode ser analisada de forma automática, elencando interesses, identificando sua profissão e até mapeando a rede de amizades.

Com esses dados, a IA pode criar mensagens únicas para cada alvo, ampliando a disseminação dos famosos "spear phishings" — mensagens fraudulentas dedicadas especificamente àquele destinatário.

O que a IA muda para se defender das fraudes?

Conhecer as categorias de fraudes e como elas funcionam nos ajuda a ter uma boa ideia de como os criminosos agem. Contudo, o mais importante é lembrar que essas fraudes com IAs são possíveis quando estivermos diante de uma situação suspeita.

Antes da IA e dos deepfakes, fraudes personalizadas e com imagens e vozes falsas eram raras. Infelizmente, não se pode mais baixar a guarda nessas situações. Uma videoconferência por si só — principalmente com quem você nunca conversou — não necessariamente prova que há legitimidade em um pedido.

Ainda assim, uma fraude tende a nos dar alguns indícios de que algo é suspeito, principalmente porque os criminosos precisam nos convencer a tomar atitudes inesperadas. Seja ao acessar um link que não conhecemos ou ao transferir o dinheiro de um pagamento que não estava planejado, a fraude muitas vezes nos desvia da rotina.

Na dúvida, é preciso procurar algo que confirme a veracidade do contato. Pesquisar na web sobre a existência de fraudes parecidas pode ajudar, mas você não deve afastar uma suspeita apenas por não encontrar outra fraude idêntica. Afinal, a originalidade é uma das características da fraude com IA.

Esse conhecimento deve fazer com que você desconfie de mensagens ou solicitações que antes pareceriam legítimas. A sua intuição — especialmente quando algo envolver pessoas que você conhece bem – pode ser a melhor arma para se defender desses golpes.

Produção: Equipe de Conteúdo da Perallis Security