數值計算

使用 Decimal 提高浮點運算精確度

第四篇提到費氏數列的公式解會遇到浮點數問題,只能精準算到 122 位。因為浮點數是利用二進位的小數來做儲存,對於非二進位的數字會有誤差。而且其儲存位數有上限,對於無理數的運算,超過一定的大小就會出現精確度問題。

所以這篇就要來簡單使用 Python 內建的 Decimal module 來拉高浮點數運算的精確度。