Verifizierung
Die Zahlen auf dieser Seite werden bei jedem Erstellen der Website aus dem aktuellen Rechencode neu berechnet. Weicht eine davon von ihrer Referenz ab, bricht der Build ab und nichts wird veröffentlicht.
Thermoelemente gegen NIST ITS-90
Jeder Wert der NIST-SRD-60-Tabellen in 1-°C-Schritten, verglichen mit der hier verwendeten Referenzfunktion. Die Tabellen sind auf 0,001 mV gerundet; allein die Rundung kann bis zu 0,0005 mV ausmachen.
| Typ | Bereich | Verglichene Tabellenwerte | Größte Abweichung | Quelle |
|---|---|---|---|---|
| Thermoelement Typ K | -270 … 1372 °C | 1643 | 0,00050 mV | NIST ITS-90, type K |
| Thermoelement Typ J | -210 … 1200 °C | 1411 | 0,00050 mV | NIST ITS-90, type J |
| Thermoelement Typ T | -270 … 400 °C | 671 | 0,00050 mV | NIST ITS-90, type T |
| Thermoelement Typ E | -270 … 1000 °C | 1271 | 0,00050 mV | NIST ITS-90, type E |
| Thermoelement Typ N | -270 … 1300 °C | 1571 | 0,00050 mV | NIST ITS-90, type N |
| Thermoelement Typ R | -50 … 1768,1 °C | 1819 | 0,00050 mV | NIST ITS-90, type R |
| Thermoelement Typ S | -50 … 1768,1 °C | 1819 | 0,00050 mV | NIST ITS-90, type S |
| Thermoelement Typ B | 0 … 1820 °C | 1821 | 0,00050 mV | NIST ITS-90, type B |
PT100 gegen IEC 60751
Werte der IEC-60751-Tabelle (Auflösung 0,01 Ω) neben dem Ergebnis der Callendar-Van-Dusen-Gleichung.
| Temperatur (°C) | Veröffentlicht (Ω) | Diese Website (Ω) | Differenz (Ω) |
|---|---|---|---|
| -200 | 18,52 | 18,5201 | +0,0001 |
| -100 | 60,26 | 60,2558 | −0,0042 |
| 0 | 100,00 | 100,0000 | +0,0000 |
| 100 | 138,51 | 138,5055 | −0,0045 |
| 200 | 175,86 | 175,8560 | −0,0040 |
| 300 | 212,05 | 212,0515 | +0,0015 |
| 400 | 247,09 | 247,0920 | +0,0020 |
| 500 | 280,98 | 280,9775 | −0,0025 |
| 600 | 313,71 | 313,7080 | −0,0020 |
| 700 | 345,28 | 345,2835 | +0,0035 |
| 800 | 375,70 | 375,7040 | +0,0040 |
| 850 | 390,48 | 390,4811 | +0,0011 |
Nickel-Widerstandsthermometer gegen eine veröffentlichte DIN-43760-Tabelle
311 Werte der Tabelle Ni1000 TK6180 von E+E Elektronik von −60 bis 250 °C; größte Abweichung 0,0050 Ω bei einer Tabellenauflösung von 0,01 Ω. Koeffizienten wie im Datenblatt TE Connectivity Ni1000SOT. Quelle
Durchgerechnete Referenzfälle
Jeder Referenzwert folgt aus den angegebenen Eingaben nach der Formel auf der Werkzeugseite und wurde unabhängig vom Code der Website berechnet.
| Rechner | Eingaben | Referenz | Diese Website |
|---|---|---|---|
| 4–20-mA-Umrechner | 12 mA · 0 … 10 bar | 5,0000 bar | 5,0000 bar |
| Speisespannung und Bürde für 4–20 mA | 24 V · 10,5 V · 22 mA · 250 Ω · 300 m · 0,75 mm² · 20 °C | 7,69728 V | 7,69728 V |
| NTC-Thermistor-Rechner | 10 kΩ · β 3950 K · 25 °C → 50 °C | 3588,18 Ω | 3588,18 Ω |
| Ausgangssignal von Wägezellen | 2 mV/V · 10 V · 4 × 1000 kg · 1800 kg | 9,0000 mV | 9,0000 mV |
| Druckeinheiten umrechnen | 1 bar → psi | 14,5037738 psi | 14,5037738 psi |
| Druckeinheiten umrechnen | 1 atm → kPa | 101,325 kPa | 101,325 kPa |
| Gesamtfehler von Druckmessumformern | URL 100 · 0 … 40 bar · 0,075 % · 0,1 %/10 K × 20 K · 0,1 %/a × 1 a | 0,22561 bar | 0,22561 bar |
| Füllstand-Druck-Rechner | 5 m · 998,21 kg/m³ · g 9,80665 m/s² | 0,489455 bar | 0,489455 bar |
| Taupunkt- und Feuchterechner | 20 °C · 50 % RH | 9,255 °C | 9,255 °C |
| Durchfluss-Umrechner | 100 US gpm | 378,5411784 L/min | 378,5411784 L/min |
| Schwingungsumrechner | 2,8 mm/s RMS · 50 Hz | 0,126853 g pk | 0,126853 g pk |
| Rechner für Dehnungsmessbrücken | quarter bridge · GF 2 · 1000 µε · 5 V | 2,4975 mV | 2,4975 mV |
| Rechner für Dehnungsmessbrücken | full bridge · GF 2 · 1000 µε · 5 V | 10,0000 mV | 10,0000 mV |
| Rechner für den Temperaturmessfehler | PT100 class A · 100 °C · 4-wire · 0 … 200 °C · 0,1 K · 0,03 % · 0,1 %/10 K × 20 K | 0,544151 K | 0,544151 K |
| Rechner für den Temperaturmessfehler | type K class 1 · 500 °C · no other error | 2,0000 K | 2,0000 K |
| Rechner für ADC-Auflösung | 16 bit · 0 … 2,5 V | 38,147 µV | 38,147 µV |
| Modbus-Register-Decoder | FLOAT32 · 0x4120 0x0000 · ABCD | 10,0000 | 10,0000 |
| Modbus-Register-Decoder | FLOAT32 · 0x0FDB 0x4049 · CDAB | 3,14159274 | 3,14159274 |
| Umrechner für Sensor-Genauigkeitsangaben | 0 … 100 · reading 50 · 0,1 % rdg + 0,05 % FS · 0,01 %/K × 10 K · 0,1 %/yr | 0,173205 | 0,173205 |
| Rechner für NTC-Spannungsteiler | 10 kΩ / β 3950 at 25 °C · 10 kΩ to 3,3 V · NTC to ground | -36,659 mV/K | -36,659 mV/K |
| Rechner für Anti-Aliasing-RC-Filter | 1 kΩ · 100 nF | 1591,549 Hz | 1591,549 Hz |
| Rechner für Instrumentenverstärker-Verstärkung | K 49,4 kΩ · RG 499 Ω | 99,998 | 99,998 |
| Rechner für die Bürde von Stromwandlern | 5 A · 20 m of 2,5 mm² · 1 VA of devices | 7,88 VA | 7,88 VA |
| Rechner für den Spannungsfall der Sensorversorgung | 24 V · 50 mA · 200 m of 0,5 mm² | 23,312 V | 23,312 V |
| Rechner für Impulsausgänge | 1024 PPR · ×4 · 3000 rpm | 204,8 kHz | 204,8 kHz |
| Rechner für die Batterielaufzeit | sleep 5 µA · 10 mA × 100 ms · 40 mA × 50 ms · every 60 s | 54,9875 µA | 54,9875 µA |
Was damit nicht abgedeckt ist
- Die Rechner lehnen physikalisch unmögliche Eingaben ab, nicht bloß ungewöhnliche. Innerhalb dieser Grenzen rechnen sie genau mit dem, was Sie eingeben: die Wahl der Werte und die technische Beurteilung bleiben bei Ihnen.
- Diese Prüfungen betreffen die Berechnung, nicht Ihre Anlage: Sensortoleranz, Verdrahtung, Gerätefehler und Einsatzbedingungen müssen Sie selbst bewerten.
- Die Ex- und IP-Decoder erklären eine Kennzeichnung. Ob ein Gerät eingesetzt werden darf, entscheiden Bescheinigung, Norm und die verantwortliche Person.
- Eine falsche Zahl gefunden? Schreiben Sie an [email protected]. Korrekturen werden gegen die Norm geprüft und veröffentlicht.