Boosting Performance and Utilization with Multi-Instance GPU

Pubblicato il: 22 giugno 2020
sul canale di: NVIDIA Developer
2,420
72

Multi-Instance GPU (MIG) on the NVIDIA A100 Tensor Core GPU can guarantee performance for up to seven jobs running concurrently on the same GPU—and each GPU instance is fully isolated with its own compute, memory, and bandwidth. This unique capability of the A100 GPU offers the right-sized GPU for every job and maximizes data center utilization. This demo shows inference performance on a single slice of MIG and then scales linearly across the entire A100.


In questa pagina del sito puoi guardare il video online Boosting Performance and Utilization with Multi-Instance GPU della durata di ore minuti seconda in buona qualità , che l'utente ha caricato NVIDIA Developer 22 giugno 2020, condividi il link con amici e conoscenti, su youtube questo video è già stato visto 2,420 volte e gli è piaciuto 72 spettatori. Buona visione!