Jornalista admite usar inteligência artificial para criar citações e histórias falsas antes de renunciar, diz editor

Uma citação do governador do Wyoming e de um promotor local foi a primeira coisa que pareceu um pouco estranha ao repórter do Powell Tribune, CJ Baker. Depois, foram algumas frases das histórias que lhe pareceram quase robóticas.

No entanto, a revelação de que um repórter de um meio de comunicação concorrente estava usando inteligência artificial generativa para ajudar a escrever suas histórias apareceu em um artigo de 26 de junho sobre a seleção do comediante Larry the Cable Guy como grande marechal de Cody Stampede Parade.

“O Cody Stampede Parade de 2024 promete ser uma celebração inesquecível da independência americana, liderada por uma das figuras mais queridas da comédia”, relatou o Cody Enterprise. “Essa estrutura garante que as informações mais importantes sejam apresentadas primeiro, facilitando ao leitor a rápida compreensão dos pontos principais.”

Depois de algumas pesquisas, Baker, que é repórter há mais de 15 anos, se encontrou com Aaron Pelczar, um homem de 40 anos que era novo no jornalismo e que, segundo Baker, admitiu ter usado IA em suas histórias. antes de renunciar. da Companhia.

O editor e editor da Enterprise, cofundada em 1899 por Buffalo Bill Cody, desde então pediu desculpas e prometeu tomar medidas para garantir que isso nunca aconteça novamente. Em editorial publicado na segunda-feira, Enterprise Editor Chris Bacon disse “falha ao capturar” cópia de IA e citações falsas.

“Não importa que as citações falsas tenham sido o aparente erro de um repórter novato apressado que confiava na IA. Era o meu trabalho”, escreveu Bacon. Ele pediu desculpas porque “a IA teve permissão para colocar palavras que nunca foram ditas nas histórias”.

Em um editorial separado, a editora Megan Barton escreveu que o jornal agora possui um sistema para detectar histórias geradas por IA.

“Estamos extremamente orgulhosos do conteúdo que publicamos para nossa comunidade e confiamos que as pessoas contratadas para escrever essas histórias com precisão sejam honestas ao coletar suas informações”, escreveu Barton. “Então você pode imaginar nossa surpresa quando soubemos o contrário.”

Os jornalistas descarrilaram as suas carreiras ao inventarem citações ou factos nas suas histórias muito antes do surgimento da IA. Mas este último escândalo ilustra os riscos e perigos potenciais que a IA representa para muitas indústrias, incluindo o jornalismo, uma vez que os chatbots podem cuspir artigos espúrios, mas um tanto plausíveis, com apenas algumas instruções.

A IA encontrou um papel no jornalismo, inclusive na automatização de certas tarefas. Algumas redações, incluindo a Associated Press, usam IA para liberar jornalistas para um trabalho mais impactante, mas a maioria dos funcionários da AP não tem permissão para usar IA generativa para criar conteúdo publicável.

A AP tem utilizado a tecnologia para ajudar a reportar histórias de ganhos financeiros desde 2014 e, mais recentemente, para algumas histórias desportivas. Também está experimentando uma ferramenta de inteligência artificial para traduzir algumas histórias do inglês para o espanhol. Ao final de cada uma dessas histórias há uma nota que explica o papel da tecnologia na sua produção.

É importante ser honesto sobre como e quando a IA é usada. A Sports Illustrated foi criticada no ano passado por publicar análises de produtos on-line geradas por IA, apresentadas como escritas por jornalistas que na verdade não existiam. Depois que a história foi divulgada, a SI disse que estava demitindo a empresa que produzia artigos para seu site, mas o incidente prejudicou a reputação da outrora poderosa publicação.

Resta saber qual o impacto que a IA terá no mercado de trabalho mais amplo. No ano passado, uma empresa perguntou à ferramenta de “IA generativa” ChatGPT quantos trabalhadores ela espera substituir. A resposta: 4,8 milhões de empregos americanos.

“São citações muito credíveis”

Em seu artigo no Powell Tribune dando a notícia sobre o uso de IA por Pelczar em artigos, Baker escreveu que teve uma reunião estranha, mas cordial, com Pelczar e Bacon. Durante a reunião, Pelczar disse: “Obviamente nunca tentei citar ninguém incorretamente” e prometeu “corrigi-los e pedir desculpas e dizer que são distorções”, escreveu Baker, observando que Pelczar insistiu que seus erros não deveriam ser refletidos em seus editores. ‘Cody Empresa.

Após a reunião, a Enterprise lançou uma revisão completa de todas as histórias que Pelczar escreveu para o jornal durante os dois meses em que trabalhou lá. Eles descobriram sete histórias que incluíam citações geradas por IA de seis pessoas, disse Bacon na terça-feira. Ele ainda está revisando outras histórias.

“São citações muito credíveis”, disse Bacon, observando que as pessoas com quem conversou durante a revisão dos artigos de Pelczar disseram que as citações pareciam algo que diriam, mas que nunca falaram realmente com Pelczar.

Baker relatou que sete pessoas lhe disseram que foram citadas em histórias escritas por Pelczar, mas não falaram com ele.

Pelczar não respondeu a uma mensagem telefônica da AP deixada em um número listado pedindo para discutir o que aconteceu. Bacon disse que Pelczar se recusou a discutir o assunto com outro jornal do Wyoming que o contatou.

Baker, que lê regularmente a Enterprise porque é uma concorrente, disse à AP que uma combinação de frases e citações nas histórias de Pelczar despertou suas suspeitas.

A história de Pelczar sobre um tiroteio no Parque Nacional de Yellowstone incluía a frase: “Este incidente serve como um lembrete claro da natureza imprevisível do comportamento humano, mesmo nos ambientes mais serenos.”

Baker disse que a frase parecia o resumo de uma história que um certo chatbot parece gerar, na medida em que acrescenta algum tipo de “lição de vida” no final.

Outra história, sobre uma condenação por caça furtiva, incluía citações de um oficial da vida selvagem e de um promotor que pareciam vir de um comunicado à imprensa, disse Baker. No entanto, não houve comunicado de imprensa e as agências envolvidas não sabiam de onde vieram as citações, disse ele.

Duas das histórias contestadas incluíam citações falsas do governador do Wyoming, Mark Gordon, das quais sua equipe só soube quando Baker ligou para eles.

“Em um caso, (Pelczar) escreveu uma história sobre um novo padrão da OSHA que incluía uma citação do governador que foi completamente inventada”, disse Michael Pearlman, porta-voz do governador, por e-mail. “Em um segundo caso, ele parecia fazer parte de uma citação e depois combinou-a com parte de uma citação que foi incluída em um comunicado à imprensa anunciando o novo diretor de nosso Departamento de Caça e Pesca de Wyoming.”

A cópia mais óbvia gerada por IA apareceu na história sobre Larry the Cable Guy, que terminou com a explicação da pirâmide invertida, a abordagem básica para escrever uma notícia de última hora.

Não é difícil criar histórias de IA. Os usuários poderiam incluir uma declaração criminal em um programa de inteligência artificial e pedir-lhe que escrevesse um artigo sobre o caso que incluísse citações de autoridades locais, disse Alex Mahadevan, diretor de um projeto de alfabetização em mídia digital do Instituto Poynter, o proeminente grupo de especialistas em jornalismo. .

“Esses chatbots generativos de IA são programados para lhe dar uma resposta, independentemente de essa resposta ser um lixo completo ou não”, disse Mahadevan.

A Enterprise não tinha uma política de IA, em parte porque parecia óbvio que os jornalistas não deveriam usá-la para escrever histórias, disse Bacon. Poynter tem um modelo a partir do qual os meios de comunicação podem elaborar sua própria política de IA.

Bacon planeja ter um pronto até o final da semana.

“Este será um tópico de discussão pré-emprego”, disse ele.