奇狐社區論壇 - [問題]HHVBARS的問題

奇狐社區論壇 (http://www.chiefox.com.tw/bbs/index.php)
- 其它問題 (http://www.chiefox.com.tw/bbs/forumdisplay.php?forumid=41)
-- [問題]HHVBARS的問題 (http://www.chiefox.com.tw/bbs/showthread.php?threadid=19109)

由 tomlord0 在 2015-02-27 01:05 發表:

[問題]HHVBARS的問題

在日線HHVBARS(H,3)為求3日內最高到當前日數，但發現華夏(1305)
在2015/2/25與2/24等高HHVBARS(H,3)卻等於0，2015/1/13與1/9等高則等於2，似乎前者有誤，是否我使用錯誤？煩請解答，謝謝。

由 cgjj 在 2015-03-02 09:43 發表:

回覆: [問題]HHVBARS的問題

引用:
最初由 tomlord0 發表
在日線HHVBARS(H,3)為求3日內最高到當前日數，但發現華夏(1305)
在2015/2/25與2/24等高HHVBARS(H,3)卻等於0，2015/1/13與1/9等高則等於2，似乎前者有誤，是否我使用錯誤？煩請解答，謝謝。

簡單的說，這可能是電腦數值計算精度所產生的一個狀況

採單精度做計算時(有效位數為7位)

跑跑以下程式
H1:H linethick PRECISION8;
H2:floor(H*100000+0.9)/100000 linethick PRECISION8;
HB1:HHVBARS(H1,3);
HB2:HHVBARS(H2,3);

去觀察 2/24 和 2/25 之 H1 數值, 就可知道了

相關細節
我要問問博庭的相關工程師, 才能明確釐清

或許
HHVBARS是採倍精度在做判斷, 故會有此現象
若是如此, 會請博庭做一下變更，改採取單精度, 避免發生這情況

由 tomlord0 在 2015-03-02 13:59 發表:

跑過您提供的程式
2/24 H1=15.4999990
2/25 H1=15.5000000
故如您所言，應是採倍精度運算所造成。請幫忙協助此問題。謝謝。

由 cgjj 在 2015-03-03 13:48 發表:

引用:
最初由 tomlord0 發表
跑過您提供的程式
2/24 H1=15.4999990
2/25 H1=15.5000000
故如您所言，應是採倍精度運算所造成。請幫忙協助此問題。謝謝。

昨天已反應給博庭工程師，待其查明後進行處理
敬請等候，謝謝

由 cgjj 在 2015-03-06 11:49 發表:

這個問題已確認是精度引起的問題, 博庭工程師已經進行了修改

改良方式:
公式取用數據時會對價格先進行精度處理，避免此情況產生
這樣類似函數在處理時，就不會再發生以上情況。

目前測試OK，等待其他更動項目也測試完畢
下周即會先行發佈 v5.0 版的更新

由 cgjj 在 2015-03-09 14:33 發表:

已發佈軟體更新，詳見:
http://www.chiefox.com.tw/bbs/showt...77848#post77848

全部時間均為台灣時間, 現在時間為06:11

在這個頁面顯示本主題全部的 6 個文章