105: batch normalization | TensorFlow | Tutorial
The video discusses in TensorFlow: tf.nn.batch_normalization()
00:00 - Start
00:26 - Internal covariate shift, scale, shit or offset
02:25 - Create tensors: input, mean, variance, scale, offset
04:30 - tf.nn.batch_normalization()
05:11 - Manual calculation of normalized values
07:36 - What does scale and shift actually do?
10:27 - Plots: original data, normalized without scale and shift, normalized with scale and shift
12:48 - When to use the Sergey method vs. the original method?
14:03 - Build model: tf.keras.Sequential()
16:15 - Plot: loss with and without scale, shift
17:00 - Batch size
17:43 - Train: model.fit(): batch_size
19:00 - Train on entire dataset: model.fit(): batch_size * num_batches
19:52 - Ending notes
----------------
TensorFlow Guide
----------------
batch_normalization:
https://www.tensorflow.org/api_docs/p...
Sergey Ioffe, Christian Szegedy, Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift:
http://arxiv.org/abs/1502.03167
http://proceedings.mlr.press/v37/ioff... (PDF)
На этой странице сайта вы можете посмотреть видео онлайн 105: batch normalization | TensorFlow | Tutorial длительностью часов минут секунд в хорошем качестве, которое загрузил пользователь learndataa 12 Февраль 2024, поделитесь ссылкой с друзьями и знакомыми, на youtube это видео уже посмотрели 140 раз и оно понравилось 2 зрителям. Приятного просмотра!
