BERT Explained!

Publié le: 06 février 2020
sur la chaîne: Connor Shorten
88,974
945

This video explains the BERT Transformer model! BERT restructures the self-supervised language modeling task on massive datasets like Wikipedia. Bi-directional prediction describes masking intermediate tokens and using tokens on the left and right of the mask for predicting what was masked. This video also explores the input and output representations and how this facilitates fine-tuning the BERT transformer!

Links Mentioned in Video:
The Illustrated Transformer: http://jalammar.github.io/illustrated...
Tokenizers: How Machines Read: https://blog.floydhub.com/tokenizatio...
SQuAD: https://rajpurkar.github.io/SQuAD-exp...
BERT: https://arxiv.org/abs/1810.04805

Thanks for watching! Please Subscribe!


Sur cette page du site, vous pouvez voir la vidéo en ligne BERT Explained! durée heure minute seconde en bonne qualité , qui a été Téléchargé par l'utilisateur Connor Shorten 06 février 2020, Partagez le lien avec vos amis et connaissances, sur youtube cette vidéo a déjà été regardée 88,974 fois et il a aimé 945 téléspectateurs. Bon visionnage!