威纶通官方论坛

为什么“数值输入元件”设置成32位浮点数时遇到······

[复制链接]
发表于 2013-6-25 17:43:11 | 显示全部楼层 |阅读模式
如题,为什么“数值输入元件”设置成32位浮点数时,比如8位整数,小数点2位,当输入例如12345678.23时显示的是12345678.00,多谢解答!
 楼主| 发表于 2013-6-26 09:06:42 | 显示全部楼层
应该就是单精度的精度问题了
发表于 2015-12-28 05:47:56 | 显示全部楼层
单精度浮点数的有效位数只有7位
您需要登录后才可以发帖 登录 | 注册

本版积分规则

回复帖子

Archiver|小黑屋|威纶通官网 ( 粤ICP备06054553号 )

GMT+8, 2024-11-28 12:50

Powered by Discuz! X3.4

© 2001-2023 Comsenz Inc.

快速回复 返回顶部 返回列表