(Not-so) Precise Float Arithmetic in Python [PyOhio 2023]

Veröffentlicht am: 17 Dezember 2023
auf dem Kanal: PyOhio

Talk by Syed Muhammad Dawoud Sheraz Ali at PyOhio 2023:
Just like in other programming languages, floating number arithmetics is not very precise in Python. What makes floats so special and weird that a simple arithmetic operation might not yield the expected result? Why is it so? For instance, what happens when you run the following line on the Python terminal: 0.1+0.1+0.1==0.3? What will be the output? True or False?

This small talk will focus on the underlying behavior of floating arithmetics precision and then discuss a few potential solutions to the problem in Python.

PyOhio talk listing: https://www.pyohio.org/2023/talks/not...

Auf dieser Seite können Sie das Online-Video (Not-so) Precise Float Arithmetic in Python [PyOhio 2023] mit der Dauer stunde minuten sekunde in guter Qualität ansehen, das der Benutzer PyOhio 17 Dezember 2023 hochgeladen hat, den Link mit Freunden und Bekannten teilen, dieses Video wurde auf Youtube bereits 69 Mal angesehen und es wurde von 3 den Zuschauern gefallen. Viel Spaß beim Betrachtenden Zuschauern gefallen!

9,539

401