欧姆龙CP1H浮点数等于指令，W99.00不输出

工控人家园 欧姆龙工控论坛 欧姆龙CP1H浮点数等于指令，W99.00不输出

18026919780

级别: 探索解密

发送短信
加为好友

精华主题: 0
发帖数量: 30 个
工控威望: 140 点
下载积分: 731 分
在线时间: 22(小时)
注册时间: 2021-06-20
最后登录: 2025-05-22
查看18026919780的主题 / 回贴

楼主发表于: 2022-11-16 16:45

只看楼主 | 小中大

图片：

D10=D20,W99.00为什么不输出

hansir

级别: 探索解密

发送短信
加为好友

精华主题: 0
发帖数量: 44 个
工控威望: 101 点
下载积分: 2030 分
在线时间: 19(小时)
注册时间: 2021-09-17
最后登录: 2025-05-01
查看hansir的主题 / 回贴

1楼发表于: 2022-11-18 12:27

只看该作者 | 小中大

虽然看起来一样，实际上内部存储的不一样，所以浮点数不能直接比较相等，一般加上范围进行比较更准确

本帖最近评分记录：

下载积分:+1(guochunyi) 热心助人！

hansir

级别: 探索解密

发送短信
加为好友

精华主题: 0
发帖数量: 44 个
工控威望: 101 点
下载积分: 2030 分
在线时间: 19(小时)
注册时间: 2021-09-17
最后登录: 2025-05-01
查看hansir的主题 / 回贴

2楼发表于: 2022-11-18 12:30

只看该作者 | 小中大

图片：

如图，D10和D20中的值并不相同

本帖最近评分记录：

下载积分:+3(18026919780)

hansir

级别: 探索解密

发送短信
加为好友

精华主题: 0
发帖数量: 44 个
工控威望: 101 点
下载积分: 2030 分
在线时间: 19(小时)
注册时间: 2021-09-17
最后登录: 2025-05-01
查看hansir的主题 / 回贴

3楼发表于: 2022-11-18 12:34

只看该作者 | 小中大

浮点数是能比较大小的。只是不太合适比较两个浮点数是否“相等”。

这是由于十进制的浮点数通常不能用有限位数的二进制表示。所以，计算机中保存的十进制浮点数都是“近似值”。举个例子说，10个十进制的0.1相加后，就“不等于”浮点数1.0

所以，当需比较两个浮点数是否相等时，一般我们要比较这两个浮点数的差的绝对值，是否小于一个我们允许的误差值，比如1亿分之一。当小于这个数时，我们就认为这两个浮点数是“相等”的。

本帖最近评分记录：

下载积分:+3(18026919780)