Google tenta evitar alucinações de suas IAs com novas medidas; veja o que mudou

O Google anunciou nesta semana atualizações do Gemini, sua inteligência artificial mais poderosa. As mudanças foram implementadas na versão Flash 1.5 e, entre novidades, está um novo esforço de combate a alucinações.

De forma geral, alucinações em inteligências artificiais são uma espécie de erro que faz com que a resposta fornecida seja incorreta ou até mesmo sem sentido. Trata-se de um problema que desafia todas as empresas que desenvolvem modelos de IA, que lutam para diminuir ao máximo a taxa de respostas ruins.

O Google havia suspendido, no começo do ano, a criação de imagens de pessoas no Gemini após a constatação de erros históricos e raciais na ferramenta. Em um post no X, a empresa afirmou que o Gemini apresentava imprecisões nesse sentido. De acordo com o Google, seriam empregados esforços para corrigir o problema.

Ainda segundo a big tech, assim como toda inteligência artificial, o Gemini não escaparia da possibilidade de alucinações. Desse modo, ao menos por enquanto, a ideia de uma IA que não produz alucinações parece estar fora de cogitação.

Porém, o Google afirma estar trabalhando em modos de combater alucinações. "Além dos links de conteúdo relacionados, o recurso de verificação dupla do Gemini verifica as respostas usando a Busca do Google, a fim de destacar quais declarações são corroboradas ou contraditas na web", informa a empresa no comunicado com as novidades da IA.

Para as informações consideradas contraditórias, o usuário pode verificar o dado por conta própria.

Além disso, agora, o Gemini oferecerá fontes para os textos produzidos, o que pode colaborar com a questão das alucinações. A partir da atualização, portanto, o usuário saberá de onde veio a informação entregue pela IA, de modo a facilitar a identificação de erros e imprecisões.

Mais novidades

Outras mudanças introduzidas pelo Google envolvem a implementação gradual do Gemini no Messages em alguns países europeus, além da possibilidade de se conversar em idiomas recém-adicionados, a exemplo do francês e do espanhol.

Na semana que vem, o acesso do Gemini será também expandido para adolescentes que cumpram os requisitos de idade mínima. Assim, a IA poderá ser usada, por exemplo, para estudar ou obter ajuda com "projetos criativos", segundo a plataforma.

Por fim, o Gemini deve ficar ainda mais rápido com a atualização do 1.5 Flash. Por meio dela, o raciocínio e a compreensão de imagens da inteligência artificial devem ser aperfeiçoados, permitindo conversas mais longas e a interpretação de perguntas mais complexas.