Microsoft torna open source bitnet.cpp
O bitnet.cpp é um framework para LLMs de 1 bit. Ele oferece um conjunto de kernels otimizados, que suportam inferência rápida e sem perdas de modelos de 1,58 bits na CPU.
Agora você pode executar modelos com 100B de parâmetros em dispositivos locais com melhorias de velocidade de até 6x e 82% menos consumo de energia, tudo sem uma GPU.
👍 Gostou do vídeo? 👍
Então se inscreva aqui no canal se ainda não é inscrito(a) e ative as 🔔 notificações! 🔔
📪 Se inscreva na newsletter da BrazilJS: https://braziljs.org/welcome
🐦 Nos siga lá no Twitter: / braziljs
👥 Nosso Linkedin: / braziljs
📰 Acesse o portal de artigos e notícias BrazilJS: https://braziljs.org
🛴 E no Instagram: / brazil.js
Auf dieser Seite können Sie das Online-Video Microsoft torna open source bitnet.cpp mit der Dauer stunde minuten sekunde in guter Qualität ansehen, das der Benutzer BrazilJS 29 Oktober 2024 hochgeladen hat, den Link mit Freunden und Bekannten teilen, dieses Video wurde auf Youtube bereits 199 Mal angesehen und es wurde von 16 den Zuschauern gefallen. Viel Spaß beim Betrachtenden Zuschauern gefallen!
