Google revoluciona o mercado com nova IA que promete aprimorar outras inteligências artificiais e superar limitações atuais

Nova ferramenta visa reduzir as "alucinações" dos chatbots verificando respostas com dados confiáveis e citando fontes.

O Google apresentou recentemente a plataforma DataGemma, uma inovação destinada a aumentar a precisão dos seus chatbots. Esta tecnologia visa combater as "invenções" de dados, um problema comum nos bots de conversa, através da conexão de suas respostas com fontes autênticas e confiáveis de informação.

O DataGemma implementa duas estratégias principais para melhorar a veracidade das respostas dos chatbots. O primeiro, chamado "Retrieval-Interleaved Generation" (RIG), verifica as informações geradas nas respostas iniciais do chatbot acessando o Data Commons do Google - um repositório de estatísticas de organizações renomadas como a ONU e os CDC. Qualquer informação equivocada na resposta é substituída por dados validados e se são adicionadas referências ao banco de dados.

Já o método "Retrieval-Augmented Generation" (RAG) utiliza informações relevantes do Data Commons para construir respostas precisas desde o início, usando dados e citando fontes conforme necessário.

O DataGemma, apesar de seu potencial de melhorar a confiabilidade dos chatbots, enfrenta restrições, principalmente devido à cobertura do Data Commons, que não inclui todos os tipos de informação necessários.

Em testes, o método RIG não conseguiu identificar dados úteis em 75% dos casos, enquanto o RAG gerou respostas errôneas em uma taxa de 6% a 20%. O Google espera que a eficácia do DataGemma aumente com o acréscimo de mais dados e um treinamento mais aprofundado do modelo.

Prem Ramaswami, chefe do Data Commons no Google, expressou o objetivo de tornar a Inteligência Artificial mais confiável e segura através do DataGemma, com a intenção de ampliar a coleção de dados e aperfeiçoar o modelo.