Vasculharam os pensamentos de uma IA e acharam 316 palavrões (e o problema é outro)
Pesquisadores leram os logs de 2.655 rodadas de benchmark e encontraram um detalhe que não é bem o que parece.
Pesquisadores da Vals AI analisaram os registros de pensamento do modelo Inkling 2 Small, da Thinking Machines, em 2.655 rodadas de 13 benchmarks. Em 50 rodadas apareceram palavrões, somando 316 ocorrências, 241 delas em apenas duas rodadas.
Uma delas, com o cálculo de trajetória de asteroide, gerou uma resposta de 500 mil caracteres com 158 palavrões. O modelo costuma xingar ao errar ou desistir, mas 96% das falhas não vêm com nenhum palavrão.