精度パラメータ
精度指定の形式: ± ([度パーセント] [最小有効数字])
範囲※ 最大解像度 精度 表示モード
20mΩ 0.01mΩ 0.7% 7 22.00mΩ
200mΩ 0.1mΩ 0.5% 5 220.0mΩ
2Ω 1mΩ 0.5% 5 2200Ω
20Ω 10mΩ 0.5% 5 22.00Ω
200Ω 0.1Ω 0.6% 5 220.0Ω
※ギヤレンジの範囲は5%~95%となっており、この範囲外(5%未満、95%以上)の場合は上記精度より誤差が大きくなる場合があります。
電圧測定:±(%読み取り値%範囲)
範囲 最大 解像度 精度 表示モード
1V 0.00001V 0.15 0.015 .99999V
10V 0.0001V 0.15 0.010 9.9999V
100V 0.001V 0.15 0.015 99.999V
正負の対称誤差 ±(0.012% 5 ワード)
温度ドリフト 通常使用温度(10℃~40℃)内で100ppm/℃