(Not-so) Precise Float Arithmetic in Python [PyOhio 2023]

Опубликовано: 17 Декабрь 2023
на канале: PyOhio

Talk by Syed Muhammad Dawoud Sheraz Ali at PyOhio 2023:
Just like in other programming languages, floating number arithmetics is not very precise in Python. What makes floats so special and weird that a simple arithmetic operation might not yield the expected result? Why is it so? For instance, what happens when you run the following line on the Python terminal: 0.1+0.1+0.1==0.3? What will be the output? True or False?

This small talk will focus on the underlying behavior of floating arithmetics precision and then discuss a few potential solutions to the problem in Python.

PyOhio talk listing: https://www.pyohio.org/2023/talks/not...

На этой странице сайта вы можете посмотреть видео онлайн (Not-so) Precise Float Arithmetic in Python [PyOhio 2023] длительностью часов минут секунд в хорошем качестве, которое загрузил пользователь PyOhio 17 Декабрь 2023, поделитесь ссылкой с друзьями и знакомыми, на youtube это видео уже посмотрели 69 раз и оно понравилось 3 зрителям. Приятного просмотра!

9,539

401