註冊日期: Oct 2003 來 自: 文章數量: 18128
引用:最初由 cgjj 發表 我手邊的最新測試版本,已經修正了MA這個問題,已經可正常算出數值。 並非有累加成分的函數都有這個問題存在~~ 是SUM 和 MA 這兩個函數,有用到了相同的累加優化算法,該算法會有單精度浮點計算累計誤差的問題,現在都已改正。 下次軟體升級就會包含此部分的功能修正! 基本上這問題只有累加到數值大小超過單精度有效位數範圍以上時,才會開始有累計誤差。故不常見! 已發佈軟體修正更新,請見: http://www.chiefox.com.tw/bbs/showt...&threadid=23018
引用:最初由 cgjj 發表 我手邊的最新測試版本,已經修正了MA這個問題,已經可正常算出數值。 並非有累加成分的函數都有這個問題存在~~ 是SUM 和 MA 這兩個函數,有用到了相同的累加優化算法,該算法會有單精度浮點計算累計誤差的問題,現在都已改正。 下次軟體升級就會包含此部分的功能修正! 基本上這問題只有累加到數值大小超過單精度有效位數範圍以上時,才會開始有累計誤差。故不常見!
註冊日期: Sep 2014 來 自: 文章數量: 117
引用:最初由 cgjj 發表 已發佈軟體修正更新,請見: http://www.chiefox.com.tw/bbs/showt...&threadid=23018 感謝版主
引用:最初由 cgjj 發表 已發佈軟體修正更新,請見: http://www.chiefox.com.tw/bbs/showt...&threadid=23018
引用:最初由 Rosetta 發表 感謝版主 不客氣^^
引用:最初由 Rosetta 發表 感謝版主