奇狐社區論壇 - 奇狐 v5.2 Beta2版使用CEILING函數的疑問?

奇狐社區論壇 : Powered by vBulletin version 2.3.0

奇狐社區論壇 > 技術支援 > 問題交流 > 奇狐 v5.2 Beta2版使用CEILING函數的疑問?

上一主題下一主題

作者

主題

justdoit829
資深會員

註冊日期: Sep 2005
來　　自:
文章數量: 196

奇狐 v5.2 Beta版使用CEILING函數的疑問?

在主圖使用下述計算，
NOW應該都是-4，
奇怪? 怎麼-4經過CEILING函數後被+1了?

NUM:=-20;
A:=0.25;
B:=0.8;
AB:MAX(1*A,1*B);

NOW:=NUM*(1-B);
EXPLAIN(1,'NOW1:'+NUMTOSTR(NOW,2));
NOW:=CEILING(NOW);
EXPLAIN(1,'NOW2:'+NUMTOSTR(NOW,2));

__________________
--
忘我無為無不為..

最後由 justdoit829 在 2018-01-08 21:16 編輯

向版主報告此篇 |

2018-01-08 21:04

cgjj
總版主

註冊日期: Oct 2003
來　　自:
文章數量: 18114

回覆: 奇狐 v5.2 Beta版使用CEILING函數的疑問?

引用:
最初由 justdoit829 發表
在主圖使用下述計算，
NOW應該都是-4，
奇怪? 怎麼-4經過CEILING函數後被+1了?

NUM:=-20;
A:=0.25;
B:=0.8;
AB:MAX(1*A,1*B);

NOW:=NUM*(1-B);
EXPLAIN(1,'NOW1:'+NUMTOSTR(NOW,2));
NOW:=CEILING(NOW);
EXPLAIN(1,'NOW2:'+NUMTOSTR(NOW,2));

跟 v5.2 Beta2版無關啦，這是計算精度問題啦!!!

值 -4 實際，電腦實際儲存的可能為 -3.999999976
CEILING 是往大的方向取整數，所以會得到-3
FLOOR 是往小的方向取整數，其會得到-4

您把
EXPLAIN(1,'NOW1:'+NUMTOSTR(NOW,2));
改為
EXPLAIN(1,'NOW1:'+NUMTOSTR(NOW,8));
就可以見到了，我說的情況了

CEILING若要避開精度問題，這樣就可以處理:
NOW:=CEILING(NOW-0.000001);

向版主報告此篇 |

2018-01-08 21:42