labview中要注意數(shù)據(jù)的表示格式
在這個(gè)小程序中,我發(fā)現(xiàn) 乘
開始并沒注意到是數(shù)據(jù)格式的問題。
本文引用地址:http://m.butianyuan.cn/article/201701/337125.htm那我們右鍵輸出接點(diǎn)會(huì)彈出這樣的對(duì)話框
表示法顯示的是U16 而U16最大值為65536.所以 溢出了。
而U16是因?yàn)槠ヅ涞皆磾?shù)據(jù)類型才是U16的。如果前面的數(shù)據(jù)格式為U32則 這個(gè)輸出也為U32。
我們不想修改前面的數(shù)據(jù)格式,因?yàn)閁16對(duì)于前面的足夠了,大了浪費(fèi)內(nèi)存。
那我們只要修改該輸出的數(shù)據(jù)格式就好了。改成U32。
問題解決。
評(píng)論