Microsoft torna open source bitnet.cpp

Publicado el: 29 octubre 2024
en el canal de: BrazilJS

199

O bitnet.cpp é um framework para LLMs de 1 bit. Ele oferece um conjunto de kernels otimizados, que suportam inferência rápida e sem perdas de modelos de 1,58 bits na CPU.

Agora você pode executar modelos com 100B de parâmetros em dispositivos locais com melhorias de velocidade de até 6x e 82% menos consumo de energia, tudo sem uma GPU.

👍 Gostou do vídeo? 👍
Então se inscreva aqui no canal se ainda não é inscrito(a) e ative as 🔔 notificações! 🔔

📪 Se inscreva na newsletter da BrazilJS: https://braziljs.org/welcome
🐦 Nos siga lá no Twitter:   / braziljs
👥 Nosso Linkedin:   / braziljs
📰 Acesse o portal de artigos e notícias BrazilJS: https://braziljs.org
🛴 E no Instagram:   / brazil.js

En esta página del sitio puede ver el video en línea Microsoft torna open source bitnet.cpp de Duración hora minuto segunda en buena calidad , que subió el usuario BrazilJS 29 octubre 2024, comparta el enlace con amigos y conocidos, en youtube este video ya ha sido visto 199 veces y le gustó 16 a los espectadores. Disfruta viendo!

9,539

401