【提问】关于浮点数，数据变量显示问题

菜问 · 发表于 2022-4-11 08:23:33

现在处理数据变量显示浮点数，只能从数据变量输入端读取数据，自行转换为小数，再写入数据变量显示

现在出现一个问题：输入111.2，显示确是111.1，小数点位不对，输入其它的值有可能对，我直接用浮点转HEX工具转换成HEX，发送给数变量显示结果也是一下，貌似数据变量显示自己把精度搞丢了

数据变量显示配置：单精度浮点数，整数位数3，小数位数1

integer_32 · 发表于 2022-4-11 09:03:16

浮点数本身有误差， 111.2 转成16进制后的数据再转换回浮点数会变成111.199997，所以屏上会显示111.1

		自动登录	找回密码
密码			立即注册