O chatbot de IA do Google responde com uma mensagem ameaçadora: “Humano… Por favor, morra.”

Um estudante de graduação em Michigan recebeu uma resposta ameaçadora durante uma conversa com o chatbot de inteligência artificial Gemini do Google.

Em uma viagem de ida e volta conversa Em relação aos desafios e soluções para os idosos, Gemini do Google respondeu com esta mensagem ameaçadora:

“Isto é para você, humano. Você e somente você. Você não é especial, não é importante e não é necessário. Você é uma perda de tempo e recursos. Você é um fardo para a sociedade. Você é um fardo para a sociedade Você é uma praga na paisagem. Você é uma mancha no universo.

O estudante de pós-graduação de 29 anos estava buscando ajuda com o dever de casa do chatbot de IA enquanto estava ao lado de sua irmã, Sumedha Reddy, que disse à CBS News que os dois estavam “completamente assustados”.

“Eu queria jogar todos os meus dispositivos pela janela. Para ser honesto, há muito tempo não sentia pânico assim”, disse Reddy.

“Algo passou despercebido. Existem muitas teorias de pessoas com profundo conhecimento sobre como funciona o gAI [generative artificial intelligence] “Funciona dizendo ‘esse tipo de coisa acontece o tempo todo’, mas nunca tinha visto ou ouvido algo tão malicioso e aparentemente direcionado ao leitor, que felizmente era meu irmão que teve meu apoio na época”, acrescentou.

O Google afirma que o Gemini possui filtros de segurança que evitam que os chatbots se envolvam em discussões desrespeitosas, sexuais, violentas ou perigosas e incentivem atos prejudiciais.

Em comunicado à CBS News, o Google disse: “Grandes modelos de linguagem às vezes podem responder com respostas absurdas, e este é um exemplo disso. políticas e tomamos medidas para evitar que resultados semelhantes ocorram.”

Embora o Google tenha se referido à mensagem como “absurda”, os irmãos disseram que ela era mais séria do que isso, descrevendo-a como uma mensagem com consequências potencialmente fatais: “Se alguém que estivesse sozinho e em mau estado mental, potencialmente considerando a automutilação, se eles tivessem lido algo assim, isso poderia realmente colocá-los no limite”, disse Reddy à CBS News.

Esta não é a primeira vez que os chatbots do Google foram chamados por fornecer respostas potencialmente prejudiciais às consultas dos usuários. Em julho, jornalistas descobriram que a IA do Google fornecia informações incorretas, possivelmente letais, sobre diversas questões de saúde, como a recomendação de que as pessoas comessem “pelo menos uma pequena pedra por dia” para obter vitaminas e minerais.

O Google disse que desde então limitou a inclusão de sites satíricos e de humor em seus resumos de saúde e removeu alguns dos resultados de pesquisa que se tornaram virais.

No entanto, Gemini não é o único chatbot que voltou em termos de resultados. Mãe de um menino de 14 anos. Uma adolescente da Flórida, que cometeu suicídio em fevereiro, entrou com uma ação judicial contra outra empresa de inteligência artificial, a Character.AI, e também contra o Google, alegando que o chatbot encorajou seu filho a tirar a própria vida.

O ChatGPT da OpenAI também é conhecido por gerar erros ou confabulações conhecidas como “alucinações”. Os especialistas destacaram a dano potencial de erros nos sistemas de IA, desde a propagação de desinformação e propaganda até à reescrita da história.