HELENA, Mont. — Uma citação do governador de Wyoming e de um promotor local foram as primeiras coisas que pareceram um pouco estranhas para o repórter do Powell Tribune, CJ Baker. Então, foram algumas das frases nas histórias que o atingiram como quase robóticas.
A revelação clara, porém, de que um repórter de um meio de comunicação concorrente estava usando inteligência artificial generativa para ajudar a escrever suas histórias veio em um artigo de 26 de junho sobre o comediante Larry the Cable Guy sendo escolhido como o grande marechal do Cody Stampede Parade.
“O Cody Stampede Parade de 2024 promete ser uma celebração inesquecível da independência americana, liderada por uma das figuras mais queridas da comédia”, disse o Cody Empresa relatado. “Essa estrutura garante que as informações mais críticas sejam apresentadas primeiro, facilitando para os leitores compreenderem os pontos principais rapidamente.”
Depois de pesquisar um pouco, Baker, que é repórter há mais de 15 anos, se encontrou com Aaron Pelczar, um homem de 40 anos que era novo no jornalismo e que, segundo Baker, admitiu ter usado IA em suas matérias antes de pedir demissão da Enterprise.
O editor e editor da Enterprise, que foi cofundada em 1899 por Buffalo Bill Cody, desde então se desculpou e prometeu tomar medidas para garantir que isso nunca aconteça novamente. Em um editorial publicado na segunda-feira, o editor corporativo Chris Bacon disse que “não conseguiu detectar” a cópia da IA e as citações falsas.
“Não importa que as citações falsas tenham sido o erro aparente de um repórter novato apressado que confiou na IA. Era meu trabalho”, escreveu Bacon. Ele se desculpou por “a IA ter permissão para colocar palavras que nunca foram ditas nas histórias”.
Jornalistas ter descarrilou suas carreiras por inventando citações ou fatos em histórias muito antes do surgimento da IA. Mas este último escândalo ilustra a armadilhas potenciais e perigos que a IA representa para muitos setores, incluindo o jornalismo, já que os chatbots podem produzir artigos espúrios, ainda que um tanto plausíveis, com apenas alguns prompts.
A IA encontrou um papel no jornalismo, incluindo a automação de certas tarefas. Algumas redações, incluindo a The Associated Press, usam IA para liberar repórteres para trabalhos mais impactantes, mas a maioria da equipe da AP não tem permissão para usar IA generativa para criar conteúdo publicável.
A AP tem usado tecnologia para auxiliar em artigos sobre relatórios de lucros financeiros desde 2014 e, mais recentemente, para algumas histórias esportivas. Ela também está experimentando uma ferramenta de IA para traduzir algumas histórias do inglês para o espanhol. No final de cada história, há uma nota que explica o papel da tecnologia em sua produção.
Ser franco sobre como e quando a IA é usada provou ser importante. A Sports Illustrated foi criticada no ano passado por publicar avaliações de produtos online geradas por IA que foram apresentadas como tendo sido escritas por repórteres que não existiam de fato. Depois que a história foi divulgada, a SI disse que estava demitindo a empresa que produziu os artigos para seu site, mas o incidente prejudicou a reputação da publicação outrora poderosa.
Em sua história no Powell Tribune dando a notícia sobre o uso de IA por Pelczar em artigos, Baker escreveu que teve uma reunião desconfortável, mas cordial, com Pelczar e Bacon. Durante a reunião, Pelczar disse: “Obviamente, nunca tentei citar ninguém incorretamente” e prometeu “corrigi-los e pedir desculpas e dizer que são declarações incorretas”, escreveu Baker, observando que Pelczar insistiu que seus erros não deveriam refletir em seus editores da Cody Enterprise.
Após a reunião, a Enterprise lançou uma revisão completa de todas as histórias que Pelczar havia escrito para o jornal nos dois meses em que trabalhou lá. Eles descobriram sete histórias que incluíam citações geradas por IA de seis pessoas, disse Bacon na terça-feira. Ele ainda está revisando outras histórias.
“São citações muito críveis”, disse Bacon, observando que as pessoas com quem ele falou durante sua análise dos artigos de Pelczar disseram que as citações pareciam algo que elas diriam, mas que nunca realmente falaram com Pelczar.
Baker relatou que sete pessoas lhe disseram que foram citadas em histórias escritas por Pelczar, mas não falaram com ele.
Pelczar não respondeu a uma mensagem telefônica da AP deixada em um número listado como seu pedindo para discutir o que aconteceu. Bacon disse que Pelczar se recusou a discutir o assunto com outro jornal de Wyoming que havia entrado em contato.
Baker, que lê regularmente a Enterprise porque é uma concorrente, disse à AP que uma combinação de frases e citações nas histórias de Pelczar despertou suas suspeitas.
A história de Pelczar sobre um tiroteio no Parque Nacional de Yellowstone incluía a frase: “Este incidente serve como um lembrete claro da natureza imprevisível do comportamento humano, mesmo nos cenários mais serenos”.
Baker disse que a frase parecia os resumos de suas histórias que um certo chatbot parece gerar, pois acrescenta algum tipo de “lição de vida” no final.
Outra história — sobre uma sentença de caça ilegal — incluía citações de um oficial da vida selvagem e de um promotor que pareciam ter vindo de um comunicado à imprensa, disse Baker. No entanto, não havia um comunicado à imprensa e as agências envolvidas não sabiam de onde as citações tinham vindo, disse ele.
Duas das histórias questionadas incluíam citações falsas do governador do Wyoming, Mark Gordon, das quais sua equipe só tomou conhecimento quando Baker ligou para eles.
“Em um caso, (Pelczar) escreveu uma história sobre uma nova regra da OSHA que incluía uma citação do governador que foi inteiramente fabricada”, disse Michael Pearlman, um porta-voz do governador, em um e-mail. “Em um segundo caso, ele pareceu fabricar uma parte de uma citação e, em seguida, combinou-a com uma parte de uma citação que foi incluída em um comunicado à imprensa anunciando o novo diretor do nosso Departamento de Caça e Pesca do Wyoming.”
A cópia mais óbvia gerada por IA apareceu na história sobre Larry, o cara da TV a cabo, que terminou com a explicação da pirâmide invertida, a abordagem básica para escrever uma notícia de última hora.
Não é difícil criar histórias de IA. Os usuários podem colocar uma declaração criminal em um programa de IA e pedir que ele escreva um artigo sobre o caso, incluindo citações de autoridades locais, disse Alex Mahadevan, diretor de um projeto de alfabetização de mídia digital no Poynter Institute, o principal think tank de jornalismo.
“Esses chatbots de IA generativa são programados para lhe dar uma resposta, não importa se essa resposta é um lixo completo ou não”, disse Mahadevan.
Megan Barton, a editora da Cody Enterprise, escreveu um editorial chamando a IA de “a nova e avançada forma de plágio e, no campo da mídia e da escrita, o plágio é algo que todo meio de comunicação teve que corrigir em algum momento. É a parte feia do trabalho. Mas, uma empresa disposta a corrigir (ou literalmente escrever) esses erros é uma empresa respeitável.”
Barton escreveu que o jornal aprendeu a lição, tem um sistema para reconhecer histórias geradas por IA e “terá conversas mais longas sobre como histórias geradas por IA não são aceitáveis”.
A Enterprise não tinha uma política de IA, em parte porque parecia óbvio que jornalistas não deveriam usá-la para escrever histórias, disse Bacon. Poynter tem uma modelo a partir do qual os meios de comunicação podem construir suas próprias políticas de IA.
Bacon planeja ter uma em funcionamento até o final da semana.
“Este será um tópico de discussão pré-emprego”, disse ele.