AlphaGo venceu o Go com busca. Agora querem curar a IA alucinada, e o sistema ainda não existe
Startup quer usar a lógica do AlphaGo para fazer a IA parar de inventar respostas, por enquanto, é só papel branco
Thore Graepel, ex-pesquisador do DeepMind, fundou a startup Metis Reasoning e apresentou na conferência GTC da Nvidia, em Berlim, uma ideia: transplantar o princípio de busca do AlphaGo para raciocínio geral. A proposta é registrar tudo num ‘livro-razão’ explícito, verificável contra evidências, em vez de deixar o conhecimento preso nos pesos do modelo.
Segundo a empresa, alucinação vem do próprio treino: o modelo aprende a gerar texto plausível, não verdadeiro. Mas o white paper descreve só um programa de pesquisa: sem sistema funcionando, sem benchmarks e sem comparação com modelos atuais de raciocínio.