TokenGate
- Stanford e Berkeley ensinam LLM a ler seletivo: 11,3x mais rápido, no melhor cenário
TokenGate poda tokens irrelevantes antes das camadas pesadas e vem com código aberto no Apache-2.0.
Notícia curta. Opinião assinada.
TokenGate poda tokens irrelevantes antes das camadas pesadas e vem com código aberto no Apache-2.0.