×
测量测试 > 测试测量应用 > 详情

labview中要注意数据的表示格式

发布时间:2021-01-21 发布时间:
|

在这个小程序中,我发现 乘的输出总是不正确。总是比与其的要小很多。

开始并没注意到是数据格式的问题。

那我们右键输出接点会弹出这样的对话框

表示法显示的是U16 而U16最大值为65536.所以 溢出了。

而U16是因为匹配到源数据类型才是U16的。如果前面的数据格式为U32则 这个输出也为U32。

我们不想修改前面的数据格式,因为U16对于前面的足够了,大了浪费内存。

那我们只要修改该输出的数据格式就好了。改成U32。

问题解决。



『本文转载自网络,版权归原作者所有,如有侵权请联系删除』

热门文章 更多
汽车电子 测试方案