Índice
Você já se perguntou se as respostas geradas por inteligências artificiais podem ser tomadas como verdadeiras, especialmente quando se trata da sua saúde? Imagine fazer uma pergunta crítica sobre um sintoma preocupante e receber uma resposta potencialmente perigosa. Essa é a situação alarmante que os usuários do Google Chrome enfrentam com a funcionalidade AI Overviews. Descubra como o Google reage a esse grande desafio.
As 3 informações que você não pode perder
O Google Chrome introduziu AI Overviews, uma funcionalidade que permite aos usuários obter respostas geradas pela inteligência artificial Gemini durante suas pesquisas. Embora essa inovação já tenha sido implementada em países como os Estados Unidos e o Reino Unido, ainda está indisponível na França. A intenção é fornecer informações rapidamente, antes mesmo da exibição dos resultados tradicionais.
Um problema importante foi relatado pelo The Guardian: as respostas geradas por AI Overviews sobre saúde podem ser não apenas imprecisas, mas também perigosas. Por exemplo, um conselho errado sobre a alimentação de pacientes com câncer de pâncreas foi destacado. Este é apenas um exemplo entre outros, envolvendo também doenças hepáticas.
Pamela Healy, diretora da associação British Liver Trust, alerta contra a banalização de sintomas que podem ser gravemente interpretados pelos usuários. A disseminação de informações incorretas, especialmente em questões de saúde, representa um perigo público.
Após a investigação conduzida pelo The Guardian, o TechCrunch tentou verificar as afirmações realizando as mesmas pesquisas. Os resultados da IA incriminados haviam sido removidos. O Google indicou que realiza melhorias regulares em suas funcionalidades, sem, no entanto, comentar diretamente essas remoções.
Esse problema levanta a questão da confiabilidade das informações médicas obtidas online, lembrando que consultar profissionais de saúde continua sendo indispensável.
O Google, fundado em 1998 por Larry Page e Sergey Brin, tornou-se um ator importante na tecnologia e na informação. Com produtos principais como seu mecanismo de busca e seu navegador Chrome, a empresa sempre buscou facilitar o acesso à informação. No entanto, o incidente com AI Overviews destaca os desafios inerentes à automação do conhecimento, especialmente em áreas tão sensíveis quanto a saúde pública.
Ao integrar a inteligência artificial em seus serviços, o Google busca antecipar as necessidades dos usuários, mas também deve garantir a veracidade e a segurança das informações fornecidas. O caso destaca a importância de uma supervisão humana nos processos automatizados, especialmente quando a saúde dos usuários está em jogo.