A inteligência artificial do Google está sendo explorada por criminosos para aplicar golpes sofisticados, conforme revelou um caso investigado pelo The Washington Post.
O Google implementou recentemente sua tecnologia de inteligência artificial nos resultados de busca, oferecendo resumos automáticos das informações solicitadas pelos usuários. O problema é que a novidade já é explorada por cibercriminosos que encontraram formas de manipular o sistema para aplicar golpes sofisticados.
Alex Rivlin, corretor imobiliário experiente em tecnologia de Las Vegas, foi vítima de uma nova modalidade de fraude que utiliza os resumos de IA da plataforma de busca, o que mostra que (literalmente) qualquer um pode cair nesse tipo de golpe.
Vamos mostrar como que o problema está afetando de forma ampla aos usuários, e o que você precisa saber para se proteger dos golpes utilizando os resumos de IA do Google.
Como o golpe está operando na IA
Rivlin buscava o número de atendimento ao cliente da Royal Caribbean para reservar transporte durante um cruzeiro europeu. Ao realizar a pesquisa no Google, a IA apresentou diretamente um número de telefone que parecia oficial, mas na realidade pertencia a golpistas.
O criminoso que atendeu a ligação demonstrou conhecimento detalhado sobre os serviços da empresa, negociou tarifas e até ofereceu descontos, resultando em uma transação fraudulenta de 768 dólares.
A fraude foi descoberta apenas no dia seguinte, quando cobranças suspeitas apareceram no cartão de crédito da vítima com o nome de uma empresa diferente da Royal Caribbean.
Embora Rivlin tenha conseguido cancelar o cartão e recuperar o dinheiro através do banco, o caso evidencia a sofisticação crescente desses crimes.
A evolução tecnológica dos golpes
Tradicionalmente, os golpistas dependiam de anúncios pagos para aparecer nos primeiros resultados de busca. Agora, aproveitam-se da IA generativa, que coleta informações disponíveis na internet sem verificar sua autenticidade.
Quando números falsos são repetidos em múltiplos sites e fóruns, a IA pode interpretá-los como fonte confiável e apresentá-los diretamente aos usuários.
Os golpistas criaram uma estratégia em três frentes para contaminar os resumos de IA do Google:
- Criação de redes de sites fraudulentos
- Desenvolvimento de páginas web com informações maliciosas específicas
- Publicação de conteúdo falso em fóruns e plataformas abertas
- Disseminação coordenada de dados incorretos para indexação
- Exploração de vulnerabilidades de sistemas
- Aproveitamento de “alucinações” da IA (informações inventadas)
- Amplificação de dados incorretos já existentes na web
- Manipulação do processo de coleta e síntese de informações
- Outros tipos de fraudes identificadas
- Recomendações de sites infectados com malware
- URLs falsas de empresas legítimas
- Números de atendimento ao cliente fraudulentos
- Informações de suporte técnico manipuladas
A investigação revelou que o mesmo número fraudulento do caso do Rivlin estava sendo associado a diversas companhias de cruzeiro, incluindo a Disney, indicando uma operação criminosa de grande escala.
Ou seja, o caso de Rivlin era apenas a ponta do iceberg de um problema crescente que afeta múltiplas empresas do setor.
Essa modalidade de golpe não é um caso isolado. Estudos anteriores já indicavam que quando se solicita a uma IA a URL de uma empresa, existe possibilidade de erro, criando oportunidades para phishing.
Os criminosos expandem suas táticas para outras plataformas, incluindo listas de reprodução do Spotify e documentos PDF fraudulentos, que também são apresentados como resultados “válidos”, tanto nas buscas diretas do Google como nas respostas geradas por inteligência artificial.
Aqui, fica evidente como os criminosos adaptaram rapidamente suas estratégias para explorar novas tecnologias. Com a IA integrada nos resultados de busca entregando resultados automáticos, os usuários estão mais propensos a cair nos golpes, pelo simples ato de tomar decisões banais e cotidianas na escolha dos resultados identificados.
Nem preciso dizer que é preciso o reforço da verificação independente por parte das plataformas sobre a qualidade dos resultados apresentados pela inteligência artificial, além da disseminação da cultura de maior ceticismo saudável por parte do usuário.
O senso crítico elevado é um dos principais recursos para reforço da segurança digital individual.
A (débil) resposta das big techs
O Google declarou ao The Washington Post que seus resumos de IA e resultados de pesquisa geralmente são eficazes (na maioria dos casos) para direcionar usuários a informações oficiais, afirmando que exemplos fraudulentos específicos foram removidos após identificação.
Mas os especialistas em tecnologia consideram essas medidas insuficientes. Lily Ray, vice-presidente de estratégia de SEO da empresa de marketing digital Amsive, reforça que permitir que resumos de IA forneçam números de telefone “abre uma nova oportunidade para os fraudadores, e eles claramente já estão se aproveitando”.
Em termos práticos, o cenário mostra que estamos diante de um “jogo de gato e rato”, com os cibercriminosos constantemente desenvolvendo novas técnicas para burlar os sistemas de segurança do Google e de outros motores de busca.
Outros especialistas em segurança enfatizam que o Google possui bancos de dados de informações comerciais verificadas que poderiam ser priorizados, em vez de depender exclusivamente de conteúdo web mais amplo e vulnerável.
As recomendações de segurança (como se proteger)
De novo: confiar cegamente nas informações apresentadas pela IA é o mesmo que colocar a sua segurança digital em risco iminente.
A confiança depositada nos resultados dos resumos de IA, por aparecerem como primeira opção, é apenas uma variante mais sofisticada do mesmo problema histórico dos links patrocinados, onde usuários assumem que os primeiros resultados são sempre os mais confiáveis.
A recomendação fundamental é verificar sempre as informações buscadas, especialmente números de telefone, diretamente na fonte oficial – seja no website da empresa ou em seus aplicativos oficiais.
Além do senso comum e do “pense algumas vezes antes de aceitar o primeiro resultado ou resposta como válida”, existem outras estratégias de proteção para evitar os golpes através das respostas por IA do Google.
Verificação independente
Nunca aceite informações de IA como verdade absoluta. Use os resumos apenas como ponto de partida para investigações mais aprofundadas. Sempre confirme dados críticos através de fontes oficiais e canais verificados.
Análise crítica dos detalhes das respostas
Observe cuidadosamente:
- Nomes de empresas (verificar grafias e similaridades suspeitas)
- URLs de websites (confirmar domínios oficiais)
- Números de telefone (validar através de canais oficiais)
- Informações de cobrança (verificar nomes de contas e dados bancários)
O máximo de cautela nas transações financeiras
Tenha especial atenção quando as informações da IA envolverem:
- Gastos financeiros
- Downloads de aplicativos
- Fornecimento de dados pessoais
- Contratação de serviços
Por fim, um recado final para os brasileiros.
Embora a disseminação dos resumos fraudulentos de IA do Google ainda esteja em fase inicial no Brasil, é fundamental que os usuários brasileiros se preparem para esses tipos de golpes.
A prevenção através da educação digital e do ceticismo saudável em relação às informações automatizadas é essencial para a segurança online.
Vai ser difícil ver o Google retirando a tecnologia de IA dos resultados de buscas, mas a empresa precisa se preparar e criar novos vetores de ataque para cibercriminosos.
A melhor defesa continua sendo a combinação de conhecimento, verificação independente e cautela ao lidar com informações sensíveis encontradas através de qualquer fonte automatizada.