Os desenvolvedores de software querem que a IA forneça aconselhamento médico, mas há muitas dúvidas sobre a precisão

Os designers de software estão realizando testes especializados. Chatbots com tecnologia de IA que pode fornecer aconselhamento médico e diagnosticar condições, mas há muitas dúvidas sobre sua precisão.

Nesta primavera, o Google introduziu um recurso “Resumo de IA”, onde as respostas do chatbot da empresa começaram a aparecer acima dos resultados de pesquisa típicos, inclusive para consultas relacionadas à saúde. Embora possa parecer uma boa ideia em teoria, houve problemas com os conselhos de saúde que o software oferece.

Na primeira semana o bot estava online, um usuário disse A IA do Google deu incorreta, informações possivelmente letais sobre o que fazer se você for picado por uma cascavel. Outra pesquisa resultou na recomendação do Google de que as pessoas comam “pelo menos uma pedrinha por dia” para obter vitaminas e minerais; o conselho foi tirado de um artigo satírico.

Desde então, o Google diz que limitou a inclusão de sites satíricos e de humor em suas pesquisas e removeu alguns dos resultados de pesquisa que se tornaram virais.

“A grande maioria das visões gerais de IA fornece informações de alta qualidade, com links para se aprofundar na web”, disse um porta-voz do Google à CBS News. “Para consultas de saúde, sempre implementamos fortes barreiras de segurança e qualidade, incluindo isenções de responsabilidade que lembram às pessoas que é importante procurar aconselhamento especializado. Continuamos a refinar quando e como exibimos visões gerais de IA para garantir que as informações sejam de “alta qualidade e confiável.”

CBS News Confirmed descobriu que essas correções não evitaram todas as informações erradas sobre saúde. As dúvidas sobre a introdução de alimentos sólidos em bebês menores de seis meses ainda obtiveram respostas no final de junho. Os bebês não devem começar a comer alimentos sólidos antes dos seis meses de idade, de acordo com o Academia Americana de Pediatria.

Pesquisa os benefícios para a saúde de tendências duvidosas de bem-estar, como desintoxicações ou bebendo leite cru Também estão incluídas reivindicações desmascaradas.

Apesar das peculiaridades e dos erros flagrantes, muitos líderes de saúde dizem que permanecem otimistas em relação aos chatbots de IA e como eles podem mudar o setor.

“As pessoas terão acesso às informações de que precisam”, disse o Dr. Nigam Shah, cientista-chefe de dados da Stanford Healthcare. “No curto prazo estou um pouco pessimista, acho que estamos nos adiantando um pouco. Mas no longo prazo acho que essas tecnologias nos farão muito bem.”

Outros defensores do chatbot são rápidos em apontar que os médicos nem sempre acertam. As estimativas variam, mas Estudo do Departamento de Saúde e Serviços Humanos de 2022 descobriram que até 2% dos pacientes que se apresentam a um pronto-socorro a cada ano podem ser prejudicados após um diagnóstico incorreto por um profissional de saúde.

Shah comparou o uso de chatbots aos primeiros dias do Google.

“Quando a Pesquisa Google foi lançada, as pessoas entraram em pânico, pensando que iriam se autodiagnosticar e o inferno iria explodir. Isso não aconteceu”, disse Shah. “A mesma coisa. Passaremos por aquela fase (em que) os novos que não estão totalmente treinados cometerão erros, e alguns deles serão ruins, mas em geral, ter informação quando não há outra opção é uma coisa boa .”

A Organização Mundial da Saúde é uma das empresas que mergulha nas águas da IA. O chatbot da organização, Sarah, extrai informações do site da OMS e dos seus parceiros de confiança, tornando as respostas menos propensas a erros factuais. Quando questionada sobre como limitar o risco de ataque cardíaco, Sarah forneceu informações sobre como controlar o estresse, dormir bem e focar em um estilo de vida saudável.

Avanços contínuos no design e no monitoramento poderiam continuar a melhorar esses robôs.

Mas se você recorrer a um chatbot de IA para obter conselhos de saúde hoje, lembre-se do aviso que acompanha a versão do Google: “A qualidade da informação pode variar”.