Boosting Performance and Utilization with Multi-Instance GPU

Publié le: 22 juin 2020
sur la chaîne: NVIDIA Developer

2,420

Multi-Instance GPU (MIG) on the NVIDIA A100 Tensor Core GPU can guarantee performance for up to seven jobs running concurrently on the same GPU—and each GPU instance is fully isolated with its own compute, memory, and bandwidth. This unique capability of the A100 GPU offers the right-sized GPU for every job and maximizes data center utilization. This demo shows inference performance on a single slice of MIG and then scales linearly across the entire A100.

Sur cette page du site, vous pouvez voir la vidéo en ligne Boosting Performance and Utilization with Multi-Instance GPU durée heure minute seconde en bonne qualité , qui a été Téléchargé par l'utilisateur NVIDIA Developer 22 juin 2020, Partagez le lien avec vos amis et connaissances, sur youtube cette vidéo a déjà été regardée 2,420 fois et il a aimé 72 téléspectateurs. Bon visionnage!

1,699