單片機(jī)浮點(diǎn)數(shù)的實(shí)用快速降法 作者: 時(shí)間:2012-03-08 來(lái)源:網(wǎng)絡(luò) 加入技術(shù)交流群 掃碼加入和技術(shù)大咖面對(duì)面交流海量資料庫(kù)查詢 收藏 可見只需要在X/YH的基礎(chǔ)上再乘以一個(gè)修正因子(YH-YL)/YH,就可以得到X/Y的一次校準(zhǔn)值。不難證明這個(gè)值已經(jīng)達(dá)到了24位的精度要求。事實(shí)上,相對(duì)誤差滿足: 上一頁(yè) 1 2 3 下一頁(yè)
評(píng)論