検証
このページの数値は、サイトを生成するたびに現在の計算コードから再計算されます。基準値から外れた場合は生成が止まり、公開されません。
熱電対：NIST ITS-90 との照合
NIST SRD 60 の表の 1 °C 刻みの全数値を、本サイトの基準関数と比較しています。表は 0.001 mV に丸められているため、丸めだけで最大 0.0005 mV の差が生じます。
| 種類 | 範囲 | 比較した表の値の数 | 最大偏差 | 出典 |
|---|---|---|---|---|
| K 熱電対 | -270 … 1372 °C | 1643 | 0.00050 mV | NIST ITS-90, type K |
| J 熱電対 | -210 … 1200 °C | 1411 | 0.00050 mV | NIST ITS-90, type J |
| T 熱電対 | -270 … 400 °C | 671 | 0.00050 mV | NIST ITS-90, type T |
| E 熱電対 | -270 … 1000 °C | 1271 | 0.00050 mV | NIST ITS-90, type E |
| N 熱電対 | -270 … 1300 °C | 1571 | 0.00050 mV | NIST ITS-90, type N |
| R 熱電対 | -50 … 1768.1 °C | 1819 | 0.00050 mV | NIST ITS-90, type R |
| S 熱電対 | -50 … 1768.1 °C | 1819 | 0.00050 mV | NIST ITS-90, type S |
| B 熱電対 | 0 … 1820 °C | 1821 | 0.00050 mV | NIST ITS-90, type B |
PT100：IEC 60751 との照合
IEC 60751 の表の値（分解能 0.01 Ω）と Callendar–Van Dusen 式の計算結果を並べています。
| 温度 (°C) | 公表値 (Ω) | 本サイト (Ω) | 差 (Ω) |
|---|---|---|---|
| -200 | 18.52 | 18.5201 | +0.0001 |
| -100 | 60.26 | 60.2558 | −0.0042 |
| 0 | 100.00 | 100.0000 | +0.0000 |
| 100 | 138.51 | 138.5055 | −0.0045 |
| 200 | 175.86 | 175.8560 | −0.0040 |
| 300 | 212.05 | 212.0515 | +0.0015 |
| 400 | 247.09 | 247.0920 | +0.0020 |
| 500 | 280.98 | 280.9775 | −0.0025 |
| 600 | 313.71 | 313.7080 | −0.0020 |
| 700 | 345.28 | 345.2835 | +0.0035 |
| 800 | 375.70 | 375.7040 | +0.0040 |
| 850 | 390.48 | 390.4811 | +0.0011 |
ニッケル測温抵抗体：公表されている DIN 43760 表との照合
E+E Elektronik の Ni1000 TK6180 表の −60～250 °C の 311 点。最大偏差 0.0050 Ω（表の分解能 0.01 Ω）。係数は TE Connectivity Ni1000SOT データシート記載の値です。 出典
計算例による確認
各基準値は、記載の入力からツールのページに示した式で求められるもので、サイトのコードとは独立に計算しています。
| 計算ツール | 入力 | 基準値 | 本サイト |
|---|---|---|---|
| 4–20 mA 変換ツール | 12 mA · 0 … 10 bar | 5.0000 bar | 5.0000 bar |
| 4–20 mA ループ電源計算 | 24 V · 10.5 V · 22 mA · 250 Ω · 300 m · 0.75 mm² · 20 °C | 7.69728 V | 7.69728 V |
| NTC サーミスタ計算ツール | 10 kΩ · β 3950 K · 25 °C → 50 °C | 3588.18 Ω | 3588.18 Ω |
| ロードセル出力計算 | 2 mV/V · 10 V · 4 × 1000 kg · 1800 kg | 9.0000 mV | 9.0000 mV |
| 圧力単位換算 | 1 bar → psi | 14.5037738 psi | 14.5037738 psi |
| 圧力単位換算 | 1 atm → kPa | 101.325 kPa | 101.325 kPa |
| 圧力伝送器の総合誤差計算 | URL 100 · 0 … 40 bar · 0.075 % · 0.1 %/10 K × 20 K · 0.1 %/a × 1 a | 0.22561 bar | 0.22561 bar |
| 液位–圧力計算ツール | 5 m · 998.21 kg/m³ · g 9.80665 m/s² | 0.489455 bar | 0.489455 bar |
| 露点・湿度計算ツール | 20 °C · 50 % RH | 9.255 °C | 9.255 °C |
| 流量換算ツール | 100 US gpm | 378.5411784 L/min | 378.5411784 L/min |
| 振動換算ツール | 2.8 mm/s RMS · 50 Hz | 0.126853 g pk | 0.126853 g pk |
| ひずみゲージブリッジ計算ツール | quarter bridge · GF 2 · 1000 µε · 5 V | 2.4975 mV | 2.4975 mV |
| ひずみゲージブリッジ計算ツール | full bridge · GF 2 · 1000 µε · 5 V | 10.0000 mV | 10.0000 mV |
| 温度測定誤差計算ツール | PT100 class A · 100 °C · 4-wire · 0 … 200 °C · 0.1 K · 0.03 % · 0.1 %/10 K × 20 K | 0.544151 K | 0.544151 K |
| 温度測定誤差計算ツール | type K class 1 · 500 °C · no other error | 2.0000 K | 2.0000 K |
| ADC 分解能計算ツール | 16 bit · 0 … 2.5 V | 38.147 µV | 38.147 µV |
| Modbus レジスタデコーダ | FLOAT32 · 0x4120 0x0000 · ABCD | 10.0000 | 10.0000 |
| Modbus レジスタデコーダ | FLOAT32 · 0x0FDB 0x4049 · CDAB | 3.14159274 | 3.14159274 |
| センサ精度仕様の換算ツール | 0 … 100 · reading 50 · 0.1 % rdg + 0.05 % FS · 0.01 %/K × 10 K · 0.1 %/yr | 0.173205 | 0.173205 |
| NTC 分圧回路計算ツール | 10 kΩ / β 3950 at 25 °C · 10 kΩ to 3.3 V · NTC to ground | -36.659 mV/K | -36.659 mV/K |
| アンチエイリアス RC フィルタ計算ツール | 1 kΩ · 100 nF | 1591.549 Hz | 1591.549 Hz |
| 計装アンプのゲイン計算ツール | K 49.4 kΩ · RG 499 Ω | 99.998 | 99.998 |
| 変流器（CT）の負担計算ツール | 5 A · 20 m of 2.5 mm² · 1 VA of devices | 7.88 VA | 7.88 VA |
| センサ電源の電圧降下計算ツール | 24 V · 50 mA · 200 m of 0.5 mm² | 23.312 V | 23.312 V |
| パルス出力計算ツール | 1024 PPR · ×4 · 3000 rpm | 204.8 kHz | 204.8 kHz |
| 電池寿命計算ツール | sleep 5 µA · 10 mA × 100 ms · 40 mA × 50 ms · every 60 s | 54.9875 µA | 54.9875 µA |
この検証に含まれないもの
- 計算ツールは物理的に不可能な入力は受け付けませんが、単に一般的でない入力は拒否しません。その範囲内では入力どおりに計算します。値の選択と技術的な判断は利用者に委ねられます。
- ここで確認しているのは計算であり、お客様の設備ではありません。センサの許容差、配線、計器の誤差、現場の条件はご自身で評価してください。
- Ex および IP デコーダは表示の意味を説明するものです。機器を使用できるかどうかは、証明書、規格、責任者が判断します。
- 数値の誤りを見つけた場合は [email protected] までご連絡ください。規格と照合のうえ修正し、公開します。