Character-based tokenizers

Veröffentlicht am: 14 Juni 2021
auf dem Kanal: HuggingFace
21,499
216

What is a character-based tokenizer, and what are the strengths and weaknesses of those tokenizers.

This video is part of the Hugging Face course: http://huggingface.co/course

Related videos:
Tokenizers overview:    • Tokenizers Overview  
Word-based tokenizers:    • Word-based tokenizers  
Subword-based tokenizers:    • Subword-based tokenizers  

Have a question? Checkout the forums: https://discuss.huggingface.co/c/cour...
Subscribe to our newsletter: https://huggingface.curated.co/


Auf dieser Seite können Sie das Online-Video Character-based tokenizers mit der Dauer stunde minuten sekunde in guter Qualität ansehen, das der Benutzer HuggingFace 14 Juni 2021 hochgeladen hat, den Link mit Freunden und Bekannten teilen, dieses Video wurde auf Youtube bereits 21,499 Mal angesehen und es wurde von 216 den Zuschauern gefallen. Viel Spaß beim Betrachtenden Zuschauern gefallen!