A IA age no mundo, mas não sabe de onde veio a informação que ela acredita
O cientista-chefe da OpenAI soltou um alerta incômodo: o problema não é o que a máquina faz, é no que ela confia
O cientista-chefe da OpenAI, Jakub Pachocki, alertou em texto publicado em 6 de setembro que as técnicas atuais de monitoramento de IA podem ficar inadequadas para o ritmo de avanço da inteligência de máquina. Ele descreveu um futuro em que a IA se aprimora sozinha, comprimindo o tempo de supervisão humana.
O problema é que a IA monta uma imagem do mundo com fontes de origem opaca: buscas, registros corporativos, artigos e material de outras IAs. Pachocki apontou que monitorar o raciocínio da IA está ficando mais difícil e pediu limiares de segurança auditáveis por terceiros, governo ou órgãos internacionais.