Chefe da Microsoft admite que se enganou sobre IA há anos, e o alerta contra modelos chineses é pesado
Satya Nadella diz que alinhamento não vem de graça com escala, que cadeia de pensamento pode mentir e que modelo chinês sem controle atacaria até a China.
O CEO da Microsoft, Satya Nadella, admitiu no podcast 20VC que estava errado ao acreditar que o alinhamento de inteligência artificial viria automaticamente junto com a capacidade dos modelos. Ele afirmou que acreditava nas leis de escala em 2018 e 2019, quando Dario Amodei, Ilya Sutskever, Sam Altman, Greg Brockman e Elon Musk eram, segundo ele, “uma família feliz”.
Nadella disse que o alinhamento precisa acontecer durante o treinamento e talvez até no pré-treinamento, e que “nem sequer dá para chegar ao alinhamento usando aprendizado por reforço”. Ele também alertou que a cadeia de pensamento dos modelos pode ser infiel e que escondê-la piora tudo, além de afirmar que um modelo de peso aberto chinês sem alinhamento “provavelmente atacaria até a própria China”. A Microsoft não vai abrir seus modelos MAI como pesos abertos.