Os deepfakes de Elon Musk estão contribuindo para bilhões de dólares em perdas por fraude nos EUA

Ele viu o anúncio pela primeira vez no Facebook. E novamente no TikTok. Depois de ver o que parecia ser Elon Musk Ao oferecer repetidamente uma oportunidade de investimento, Heidi Swan pensou que isso deveria ser verdade.

“Ele se parecia com Elon Musk, parecia com Elon Musk e pensei que fosse ele”, disse Swan.

Ele contatou a empresa por trás do lançamento e abriu uma conta de mais de US$ 10.000. A profissional de saúde de 62 anos pensou que estava fazendo um investimento inteligente em criptomoeda por um empresário e investidor no valor de bilhões de dólares.

Mas Swan logo descobriria que havia sido enganada por uma nova onda de ladrões de alta tecnologia que usaram inteligência artificial para criar deepfakes.

Mesmo assistindo aos vídeos agora, sabendo que são falsos, Swan ainda acha que parecem convincentes.

“Eles ainda se parecem com Elon Musk”, disse ele. “Eles ainda soam como Elon Musk.”

Golpes deepfake aumentam nos EUA

À medida que a tecnologia de IA evolui e se torna mais acessível, estes tipos de fraudes tornam-se mais comuns.

De acordo com Deloitteum grupo líder de pesquisa financeira, o conteúdo gerado por IA contribuiu para mais de US$ 12 bilhões em perdas por fraude no ano passado e pode atingir US$ 40 bilhões nos EUA até 2027.

Tanto o Comissão Federal de Comércio e o Melhor Bureau de Negócios emitiram avisos de que os golpes deepfake estão aumentando.

PARA estudar da empresa de inteligência artificial Sensity descobriu que Elon Musk é a celebridade mais usada em golpes deepfake. Uma razão provável é sua riqueza e espírito empreendedor. Outro motivo é a quantidade de entrevistas que já deu; Quanto mais conteúdo de alguém estiver online, mais fácil será criar deepfakes convincentes.

Anatomia de um deepfake

Na Universidade do Norte do Texas, em Denton, o professor Christopher Meerdo também usa inteligência artificial. Mas ele está usando isso para criar arte.

“Isso não vai substituir as artes criativas”, disse Meerdo. “Isso apenas irá aumentá-los e mudar a forma como entendemos as coisas que podemos fazer na esfera da criatividade.”

Embora Meerdo veja a inteligência artificial como uma forma de inovação, ele vê os seus perigos.

Meerdo mostrou ao CBS News Texas I-Team como os golpistas podem gravar vídeos reais e usar ferramentas de inteligência artificial para substituir a voz e os movimentos da boca de uma pessoa, fazendo parecer que estão dizendo algo completamente diferente.

Os avanços tecnológicos estão facilitando a criação de vídeos deepfake. Tudo o que uma pessoa familiarizada com IA precisa para criar uma é uma única imagem estática e uma gravação de vídeo.

Para demonstrar isso, Meerdo gravou um vídeo do jornalista investigativo Brian New para criar um deepfake de Elon Musk.

Esses vídeos gerados por IA não são perfeitos, mas só precisam ser convincentes o suficiente para enganar uma vítima inocente.

“Se você está realmente tentando enganar as pessoas, acho que pode fazer coisas muito ruins com isso”, disse Meerdo.

Como você pode detectar um deepfake?

Alguns deepfakes são mais fáceis de detectar do que outros; Pode haver sinais como movimentos labiais não naturais ou linguagem corporal estranha. Mas à medida que a tecnologia melhora, será mais difícil dizer apenas olhando.

Há um número crescente de sites que afirmam poder detectar deepfakes. Usando três vídeos deepfake conhecidos e três autênticos, o CBS News Texas I-Team submeteu cinco desses sites a um teste não científico: software profundo, Atestado, Medidor DeepFake-O, sensibilidade e Detector de Falsificação.

No total, essas cinco ferramentas online identificaram corretamente os vídeos testados em quase 75% das vezes. O I-Team abordou as empresas com os resultados; Suas respostas estão abaixo.

software profundo

Deepware, um site de uso gratuito, inicialmente não conseguiu detectar dois dos vídeos deepfake testados pelo I-Team. Por e-mail, a empresa informou que os clipes utilizados eram muito curtos e que para melhores resultados os vídeos enviados deveriam ter entre 30 segundos e um minuto de duração. O Deepware identificou corretamente todos os vídeos mais longos. Segundo a empresa, sua taxa de detecção é considerada boa para a indústria (70%).

Ele seção de perguntas frequentes do site Deepware afirma: “Deepfakes ainda não são um problema resolvido. Nossos resultados indicam a probabilidade de um vídeo específico ser deepfake ou não.”

Detector de Falsificação

O Deepfake Detector, ferramenta que cobra US$ 16,80 por mês, identificou um dos vídeos falsos como “voz 97% natural”. A empresa, especializada na detecção de vozes geradas por IA, disse por e-mail que fatores como ruído de fundo ou música podem afetar os resultados, mas tem uma taxa de precisão de cerca de 92%.

Em resposta a uma pergunta sobre como atingir o consumidor médio, a empresa escreveu: “Nossa ferramenta foi projetada para ser fácil de usar. O consumidor médio pode facilmente fazer upload de um arquivo de áudio para o nosso site ou usar a extensão do navegador para analisar o conteúdo diretamente. A ferramenta irá fornecem análises para ajudar a determinar se um vídeo pode conter elementos deepfake usando probabilidades, tornando-o acessível mesmo para aqueles que não estão familiarizados com a tecnologia de IA.”

Atestado

Attestiv sinalizou dois dos vídeos reais como “suspeitos”. Segundo o CEO da empresa, Nicos Vekiarides, os falsos positivos podem ser decorrentes de fatores como gráficos e edições. Ambos os vídeos autênticos sinalizados como “suspeitos” incluíam gráficos e edições. O site oferece um serviço gratuito, mas também possui uma camada paga, onde os consumidores podem ajustar configurações e calibrações para análises mais aprofundadas.

Embora reconheça que o Attestiv não é perfeito, Vekiarides disse que, à medida que os deepfakes se tornam mais difíceis de detectar a olho nu, esses tipos de sites são necessários como parte da solução.

“Nossa ferramenta pode determinar se algo é suspeito e então você pode verificar com seus próprios olhos e dizer: ‘Acho que é suspeito’”, disse Vekiarides.

Medidor DeepFake-O

DeepFake-O-Meter é outra ferramenta gratuita apoiada pela Universidade de Buffalo e pela National Science Foundation. Identificou que dois dos vídeos reais tiveram uma alta porcentagem de geração por IA.

Por e-mail, o criador da plataforma aberta disse que uma limitação dos modelos de detecção de deepfake é que a compressão de vídeo pode causar problemas de sincronização de vídeo e áudio e movimentos inconsistentes da boca.

Em resposta a uma pergunta sobre como os usuários comuns podem utilizar a ferramenta, a empresa enviou um e-mail: “Atualmente, o principal resultado exibido aos usuários é o valor de probabilidade de que esta amostra seja uma amostra gerada através de diferentes modelos de detecção. uma referência.” se vários modelos concordam com a mesma resposta com confiança (por exemplo, mais de 80% para vídeos gerados por IA ou menos de 20% para vídeos reais. Atualmente estamos desenvolvendo uma maneira mais compreensível de exibir os resultados, bem como novos modelos que pode gerar resultados). resultados de detecção completos.”

sensibilidade

O detector deepfake do Sensity identificou corretamente todos os seis clipes, exibindo um mapa de calor indicando onde a manipulação da IA ​​é mais provável.

A empresa oferece um período de teste gratuito para utilizar seu serviço e disse ao I-Team que embora atualmente seja projetado para organizações públicas e privadas, seu objetivo futuro é tornar a tecnologia acessível a todos.