Um homem em Xangai, na China, perdeu mais de US$ 27.000 (cerca de R$ 150 mil) após ser enganado para um relacionamento online com uma namorada falsa gerada por inteligência artificial, informou a mídia estatal chinesa na quarta-feira.

Uma pessoa falsa criada com IA
Os criminosos usaram vídeos e fotos falsos para convencê-lo de que ela precisava de fundos para abrir um negócio e ajudar um parente a pagar despesas médicas.

Eles até criaram registros médicos e uma carteira de identidade fictícia para dar credibilidade ao seu esquema. Na verdade, esses golpes deepfake geralmente criam personas fictícias que são convincentes para 70% das pessoas, de acordo com a empresa de segurança Kaspersky.

A operação foi realizada por uma “equipe de golpistas que enviaram vídeos e fotos criados por IA ou combinando múltiplas imagens”, disse a CCTV, citando uma investigação policial. A vítima “nunca conheceu” sua suposta namorada pessoalmente, observou o canal.

Um vídeo transmitido pela CCTV mostra fotos de uma mulher em diferentes situações, como posando com uma paleta de tinta ou em uma rua da cidade.

O surgimento de ferramentas de inteligência artificial capazes de gerar imagens, vídeos e textos convincentes está dando origem a golpes cada vez mais sofisticados ao redor do mundo, pois é possível simular imagens, vídeos e até chamadas de áudio e vídeo com extremo realismo.

No início deste mês, a gigante de mídia social dos EUA Meta pediu aos usuários da internet que tenham cuidado com relacionamentos online, observando que os golpes que usam IA generativa estão aumentando.

E no ano passado, a World, a plataforma de criptomoedas de Sam Altman (o CEO da OpenAI), apresentou uma ferramenta de verificação de “humanidade” que aponta nessa direção: um sistema que valida que do outro lado de um chat há uma pessoa real e não uma IA golpista.