Taobao
- Modelo de 0,3B roda offline no iPhone a 350 tokens/s, e o segredo é o tamanho
O MNN-Pocket-0.3B da Taobao cabe em 173MB, funciona sem internet e promete resultado de modelo 8B em cenários definidos pela própria equipe.
Notícia curta. Opinião assinada.
O MNN-Pocket-0.3B da Taobao cabe em 173MB, funciona sem internet e promete resultado de modelo 8B em cenários definidos pela própria equipe.