Microsoft torna open source bitnet.cpp
O bitnet.cpp é um framework para LLMs de 1 bit. Ele oferece um conjunto de kernels otimizados, que suportam inferência rápida e sem perdas de modelos de 1,58 bits na CPU.
Agora você pode executar modelos com 100B de parâmetros em dispositivos locais com melhorias de velocidade de até 6x e 82% menos consumo de energia, tudo sem uma GPU.
👍 Gostou do vídeo? 👍
Então se inscreva aqui no canal se ainda não é inscrito(a) e ative as 🔔 notificações! 🔔
📪 Se inscreva na newsletter da BrazilJS: https://braziljs.org/welcome
🐦 Nos siga lá no Twitter: / braziljs
👥 Nosso Linkedin: / braziljs
📰 Acesse o portal de artigos e notícias BrazilJS: https://braziljs.org
🛴 E no Instagram: / brazil.js
In questa pagina del sito puoi guardare il video online Microsoft torna open source bitnet.cpp della durata di ore minuti seconda in buona qualità , che l'utente ha caricato BrazilJS 29 ottobre 2024, condividi il link con amici e conoscenti, su youtube questo video è già stato visto 199 volte e gli è piaciuto 16 spettatori. Buona visione!
