Microsoft torna open source bitnet.cpp
O bitnet.cpp é um framework para LLMs de 1 bit. Ele oferece um conjunto de kernels otimizados, que suportam inferência rápida e sem perdas de modelos de 1,58 bits na CPU.
Agora você pode executar modelos com 100B de parâmetros em dispositivos locais com melhorias de velocidade de até 6x e 82% menos consumo de energia, tudo sem uma GPU.
👍 Gostou do vídeo? 👍
Então se inscreva aqui no canal se ainda não é inscrito(a) e ative as 🔔 notificações! 🔔
📪 Se inscreva na newsletter da BrazilJS: https://braziljs.org/welcome
🐦 Nos siga lá no Twitter: / braziljs
👥 Nosso Linkedin: / braziljs
📰 Acesse o portal de artigos e notícias BrazilJS: https://braziljs.org
🛴 E no Instagram: / brazil.js
On this page of the site you can watch the video online Microsoft torna open source bitnet.cpp with a duration of hours minute second in good quality, which was uploaded by the user BrazilJS 29 October 2024, share the link with friends and acquaintances, this video has already been watched 199 times on youtube and it was liked by 16 viewers. Enjoy your viewing!
