Uma nova ferramenta de inteligência artificial cria fotografias hiper-realistas. Você pode dizer a diferença?

Várias novas ferramentas de IA foram lançadas neste verão e permitem a criação de fotografias hiper-realistas, tornando mais fácil do que nunca alterar ou fabricar completamente uma imagem. Especialistas dizem que está cada vez mais difícil para os consumidores discernir o que é real e o que é falso.

Entre as novas ferramentas mais poderosas está o FLUX.1, ou Flux, um gerador gratuito de imagens de IA lançado em agosto, que permite a criação de imagens hiper-realistas sem assinatura.

O que é fluxo?

A CBS News testou a nova ferramenta e descobriu que ela era capaz de criar imagens atraentes de pessoas em locais reconhecíveis em questão de segundos. Ao contrário de ferramentas semelhantes, os resultados careciam de muitos dos Sinais reveladores de imagens geradas por IAcomo uma pele que parece incrivelmente macia.

Dê uma olhada nessas quatro imagens – você consegue dizer qual é uma fotografia genuína e qual é gerada por IA?

A imagem superior esquerda é uma foto real tirada com um telefone Samsung este ano. Os outros três foram gerados no Flux, utilizando a fotografia real como referência inicial. E embora pareçam realistas à primeira vista, existem sinais de IA, incluindo edifícios familiares que estão fora do lugar.

A IA generativa funciona com base em centenas ou milhares de imagens de referência para criar um novo resultado, e a tecnologia subjacente está disponível há anos. Os usuários podem inserir uma imagem de referência para tornar o resultado mais específico, e ferramentas como o Flux também podem gerar imagens realistas de humanos, animais e paisagens com uma simples frase ou mensagem descritiva.

Uma ascensão da IA ​​generativa

Entre as novas ferramentas lançadas em agosto está o Grok 2, gerador de imagens disponível para usuários Premium e Premium+ do X, antigo Twitter. O chatbot possui poucas barreiras de segurança, permitindo aos usuários criar imagens de celebridades e material protegido por direitos autorais, bem como mensagens ofensivas, de acordo com testes da CBS News.

O modelo de IA que alimenta as imagens do Grok 2 foi criado pelo Black Forest Labs, a mesma startup que criou o Flux. Ao contrário de outras ferramentas online que são frequentemente acessadas através de um navegador, os especialistas dizem que o Flux pode ser acessado e modificado livremente para uso pessoal offline, tornando-o não apenas extremamente realista, mas também sujeito a abusos.

Termos de Serviço do Fluxo proíbe os usuários de criar conteúdo que interfira com os direitos autorais existentes, criar conteúdo ilegal ou enganar outras pessoas, apresentando imagens geradas por IA como se tivessem sido criadas por humanos.

Muitas empresas que desenvolvem ferramentas de inteligência artificial, incluindo Adobe, Google e OpenAI, impuseram restrições aos seus softwares. destinado a evitar o uso indevido. Os especialistas dizem que isto não é algo que deva ser dado como certo num mercado altamente competitivo.

“O que acontece com o Flux não é algo altamente realista, porque isso iria acontecer de uma forma ou de outra. Isso era inevitável. São as barreiras de segurança”, disse Hany Farid, professor da Universidade da Califórnia, Berkeley, que é especializada em análise forense digital e autenticação de mídia digital.

Especialistas alertam Ter uma ferramenta de código aberto do lado do cliente como o Flux abre a porta para modificações por parte de uma comunidade mais ampla de usuários, o que pode levar a usos que violam diretamente os termos de serviço. “Você pode literalmente olhar o código. Você pode baixá-lo e modificá-lo”, disse Farid.

“O que vai acontecer com esses outros serviços? Eles vão começar a dizer: ‘Ah, vejo que as barreiras de segurança são ruins para os negócios? Talvez devêssemos reduzi-las para sermos competitivos.’ “Neste negócio somos tão bons quanto o menor denominador comum e neste caso é Elon Musk”, disse Farid.

O que vem a seguir na IA generativa?

Ferramentas de geração de vídeo também estão cada vez mais disponíveis. A Black Forest Labs, startup dona do Flux, disse que planeja lançar ferramentas capazes de gerar vídeos no futuro. Outras ferramentas já estão à disposição dos consumidores; O vídeo gerado por IA abaixo, criado usando uma imagem gerada por IA como ponto de partida, foi feito usando uma ferramenta paga chamada Runway.

Esta nova gama de ferramentas pode criar imagens sem muitas das dicas típicas de IA, o que significa as pessoas deveriam ser mais cautelosas ao visualizar imagens e vídeos online. Os especialistas aconselham a aplicação de competências básicas de literacia mediática para examinar imagens, incluindo prestar muita atenção aos elementos de fundo e outros detalhes e, o mais importante, considerar a fonte ao determinar se algo é autêntico.

No momento da publicação, a CBS News não havia recebido respostas do X ou do Black Forest Labs quando abordado para comentar.

contribuiu para este relatório.