株式会社ミツトヨ

検索結果詳細
件名 量子化誤差とは?
回答 量子化誤差とはデジタル製品のカウンタの誤差で、最小表示の1カウントが切替わる時の誤差になります。
デジタル製品の最小表示量以下の丸め処理については、さまざまな誤差要因の影響を混在して受けるために、真値に対して最小表示桁がそれ以下の分解能のどこで切替わるか確定できなくなってしまいます。
従って、デジタル製品は、必ず、切上げまたは切下げとするかができないため、表示値に対して±1カウントの量子化誤差が含まれることになります。
最小表示が0.01mmであれば±0.01mmが、0.001mmであれば±0.001mmが量子化誤差になります 。
参考になりましたか?
  
Powered by i-ask
ページの先頭へ