新聞中心

EEPW首頁 > 測(cè)試測(cè)量 > 設(shè)計(jì)應(yīng)用 > labview中要注意數(shù)據(jù)的表示格式

labview中要注意數(shù)據(jù)的表示格式

作者: 時(shí)間:2017-01-09 來源:網(wǎng)絡(luò) 收藏

在這個(gè)小程序中,我發(fā)現(xiàn) 乘的輸出總是不正確??偸潜扰c其的要小很多。

開始并沒注意到是數(shù)據(jù)格式的問題。

本文引用地址:http://m.butianyuan.cn/article/201701/337125.htm

那我們右鍵輸出接點(diǎn)會(huì)彈出這樣的對(duì)話框

表示法顯示的是U16 而U16最大值為65536.所以 溢出了。

而U16是因?yàn)槠ヅ涞皆磾?shù)據(jù)類型才是U16的。如果前面的數(shù)據(jù)格式為U32則 這個(gè)輸出也為U32。

我們不想修改前面的數(shù)據(jù)格式,因?yàn)閁16對(duì)于前面的足夠了,大了浪費(fèi)內(nèi)存。

那我們只要修改該輸出的數(shù)據(jù)格式就好了。改成U32。

問題解決。



評(píng)論


技術(shù)專區(qū)

關(guān)閉