Перейти к контенту

Погрешности 5522А


Погрешностер

3 сообщения в этой теме

Рекомендуемые сообщения

Опубликовано

Решил посчитать погрешности 5522А для аттестации в качестве эталона

в методике в таблице 3 указано для диапазона 0...329,9999 мВ, ПГ 0,002 % +1 мкВ

здесь наверное ошибка

в описании типа для этого же диапазона ±(U·20·10-6+1 мкВ), вот если U равна 1 мВ тогда по ф-ле выходит абс. 0,00002 + 1 мкВ в % 0,002%+ 1 мкВ здесь вопросов нет

далее если U равна 329,9999 мВ, тогда по ф-ле выходит абс. 0,0066 + 1 мкВ и в % 0,66%+ 1 мкВ, но ни как 0,002 % + 1 мкВ

поправьте меня если я не прав

Опубликовано

U равна 329,9999 мВ, тогда по ф-ле выходит абс. 0,0066 мВ + 1 мкВ

329,9999 мВ - 100%

0,0066 мВ - Х

Х= 0,0066 мВ*100 / 329,9999 мВ = 0,002 %

Что я делаю не так?

ОПС, все правильно, делить надо было, заработался...

В архиве

Эта тема в настоящий момент находится в архиве и закрыта для публикации сообщений.

Информация

  • Недавно просматривали   0 пользователей

    • Ни один зарегистрированный пользователь не просматривает эту страницу.
×
×
  • Создать...