G8MNY > TECH 03.07.25 09:15z 86 Lines 3866 Bytes #199 (0) @ WW BID : 35968_GB7CIP Subj: Lab Measuring DMM Path: ED1ZAC<ED1ZAC<LU4ECL<VK2RZ<VE3CGR<GB7OSW<GB7BED<GB7JED<GB7CIP Sent: 250703/0907Z @:GB7CIP.#32.GBR.EURO #:35968 [Caterham Surrey GBR] From: G8MNY@GB7CIP.#32.GBR.EURO To : TECH@WW By G8MNY (Corrected Feb 16) (8 Bit ASCII graphics use code page 437 or 850, Terminal Font) Years ago I bought a large not working 19" LAB DMM (Datron 1061a). It is an extremely precise 7.5 digits DMM for its time of 1983. Luckily it came with all the handbooks & I am pleased to say is quite serviceable now after finding a silly PCB plug fault. ÚÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄ¿ ³ Au 10ê.1 1k 10 100 1M 10M ÚÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄ¿ ³ ³I+ I- êG 4w|o||o||o||o||o||o||o||o| ³ -³- | [] [] [] [] [] [] [] ³ ³ ³(o)(o)(o)Ü [ ][ ][ ][ ][ ][ ][ ][ ] ³ |ø[] [] [] [] [] [] [] m A ³ ³ ³ 2w 0 1 2 3 4 5 6 7 ÀÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÙ ³ ³ ³ ³ Hi Lo Gu LG 8 9 . kbd ñ Cl B C Lim Lim St ³ ³(o)(o)(o)Ü [ ][ ][ ] |o| [ ][ ][ ] [ ][ ][ ][ ][ ][ ] [ ][ ][ ][ ][ ] [] ³ ³ RG|o||o||o| [ ] |o||o||o| |o||o||o||o||o||o| |o||o||o||o||o| [] ³ ³ Z F I---fun--kê AC DC Mode Compute Pwr ³ ÀÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÄÙ Here is part of the exacting specification... +/- 1.999999 on most ranges with the filtering & averaging options in. e.g. with a 0.19V input, you can resolve down to ñ100nV or 126dB S/N. DC VOLTS Input Z ---- Accuracy since last Cal------ Range: 24hr, 90 day, 1 year 100mV >10Gohm ñ10ppm or 0.001%, 30ppm, 45ppm 1 & 10V >10Gohm ñ5ppm or 0.0005%, 20ppm, 30ppm 100V & 1kV >100Mohm ñ10ppm or 0.001%, 30ppm, 45ppm DC CURRENT ---- Accuracy since last Cal------ Range: 24hr, 90 day, 1 year 0.1-100mA ñ50ppm or 0.005%, 100ppm, 150ppm 1A ñ100ppm or 0.01%, 200ppm, 300ppm Shunts:100mV drop across all shunts for 100% (reads to ñ199%). RESISTANCE Test ---- Accuracy since last Cal------ Range: Current 24hr, 90 day, 1 year 10ohm 10mA ñ15ppm or 0.0015%, 40ppm, 60ppm 100ohm 10mA ñ10ppm or 0.001%, 30ppm, 45ppm 1kohm 1mA ñ10pmm or 0,001% 30ppm. 45ppm 10kohm 100uA ñ10ppm or 0.001%, 30ppm, 45ppm 100kohm 10uA ñ15ppm or 0.0015% 40ppm. 60ppm 1Mohm 1uA ñ30ppm or 0.003%, 100ppm, 200ppm 10Mohm 100nA ñ150ppm or 0.015%, 300ppm, 500ppm Measurement is 2 or true 4 wire system & with up to 10ê lead Resistance. And it also measures in circuit 1 of 3 Rs. AC RMS VOLTS Input Z ---- Accuracy since last Cal------ Range 24hr, 90 day, 1 year 100mV 1Mohm//150pF ñ0.04% ñ0.08% ñ0.12% 1-100V 1Mohm//150pF ñ0.02% ñ0.04% ñ0.06% 100mV 1Mohm//150pF ñ0.04% ñ0.08% ñ0.12% Frequency Response flat 10Hz - 1MHz @ -2% True RMS measurements to 7:1 crest to mean factor. AC RMS CURRENT ---- Accuracy since last Cal------ Range: 24hr 90 day, 1 year 0.1-1A 0.1%, 0.2%, 0.3% Shunts: as DC True RMS measurements to 3:1 crest to mean factor. Other features: AC+DC True RMS option for Volts & Current as AC ranges. Local or seperate screen guard system. IEEE interface for automatic readings/logging. Go/fail % testing. Reading accuracy calculation. Direct entry number keyboard. dB calculation/readings on all ranges to ñ0.01dB. Pre use calibrated self check. Security key locked calibration, easy press button cal features. See my tech bul on "Measuring 1 of 3 Rs" Why Don't U send an interesting bul? 73 De John, G8MNY @ GB7CIP
Read previous mail | Read next mail