奇狐社區論壇 - FRACPART函數

奇狐社區論壇 (http://www.chiefox.com.tw/bbs/index.php)
- 問題交流 (http://www.chiefox.com.tw/bbs/forumdisplay.php?forumid=28)
-- FRACPART函數 (http://www.chiefox.com.tw/bbs/showthread.php?threadid=21710)

由 peter109 在 2019-01-05 10:56 發表:

FRACPART函數

以美元指數為例
X01:MOD(FRACPART(H)*1000,100),LINETHICK0;
結果運算出的數值和系統K棒實際高點的最後兩位小數的數值有著許多差異不知哪裡出錯了

__________________
至誠能勝天下至偽
至拙能勝天下至巧

由 cgjj 在 2019-01-06 10:42 發表:

回覆: FRACPART函數

引用:
最初由 peter109 發表
以美元指數為例
X01:MOD(FRACPART(H)*1000,100),LINETHICK0;
結果運算出的數值和系統K棒實際高點的最後兩位小數的數值有著許多差異不知哪裡出錯了

正常的，沒有出錯~~

FRACPART(H) 返回的是小數的部分
用 MOD(FRACPART(H)*1000,1000) 取實際之頭三位數 (這是沒有四捨五入)
例如: 0.19999 會得到 199
跟用 PRECISION3 顯示到小數第三位 (這是有經過四捨五入)
例如: 0.19999 會得到 0.200

故兩者比對起來是會有差異的!!!

改下面這樣，就可以和 PRECISION3 一致(加入四捨五入)
MOD(ROUND(FRACPART(H)*1000),1000);

由 peter109 在 2019-01-06 14:41 發表:

了解謝謝說明+改善方式

__________________
至誠能勝天下至偽
至拙能勝天下至巧

全部時間均為台灣時間, 現在時間為12:33

在這個頁面顯示本主題全部的 3 個文章