|
回覆: [問題]HHVBARS的問題
引用:
最初由 tomlord0 發表
在日線HHVBARS(H,3)為求3日內最高到當前日數，但發現華夏(1305)
在2015/2/25與2/24等高HHVBARS(H,3)卻等於0，2015/1/13與1/9等高則等於2，似乎前者有誤，是否我使用錯誤？煩請解答，謝謝。
簡單的說，這可能是電腦數值計算精度所產生的一個狀況
採單精度做計算時(有效位數為7位)
跑跑以下程式
H1:H linethick PRECISION8;
H2:floor(H*100000+0.9)/100000 linethick PRECISION8;
HB1:HHVBARS(H1,3);
HB2:HHVBARS(H2,3);
去觀察 2/24 和 2/25 之 H1 數值, 就可知道了
相關細節
我要問問博庭的相關工程師, 才能明確釐清
或許
HHVBARS是採倍精度在做判斷, 故會有此現象
若是如此, 會請博庭做一下變更，改採取單精度, 避免發生這情況
|
2015-02-27 01:05
