Погрешностер 52 Опубликовано 2 Ноября 2016 Жалоба Опубликовано 2 Ноября 2016 Решил посчитать погрешности 5522А для аттестации в качестве эталона в методике в таблице 3 указано для диапазона 0...329,9999 мВ, ПГ 0,002 % +1 мкВ здесь наверное ошибка в описании типа для этого же диапазона ±(U·20·10-6+1 мкВ), вот если U равна 1 мВ тогда по ф-ле выходит абс. 0,00002 + 1 мкВ в % 0,002%+ 1 мкВ здесь вопросов нет далее если U равна 329,9999 мВ, тогда по ф-ле выходит абс. 0,0066 + 1 мкВ и в % 0,66%+ 1 мкВ, но ни как 0,002 % + 1 мкВ поправьте меня если я не прав
Логинов Владимир 901 Опубликовано 2 Ноября 2016 Жалоба Опубликовано 2 Ноября 2016 U равна 329,9999 мВ, тогда по ф-ле выходит абс. 0,0066 мВ + 1 мкВ 329,9999 мВ - 100% 0,0066 мВ - Х Х= 0,0066 мВ*100 / 329,9999 мВ = 0,002 % Что я делаю не так?
Погрешностер 52 Опубликовано 3 Ноября 2016 Автор Жалоба Опубликовано 3 Ноября 2016 U равна 329,9999 мВ, тогда по ф-ле выходит абс. 0,0066 мВ + 1 мкВ 329,9999 мВ - 100% 0,0066 мВ - Х Х= 0,0066 мВ*100 / 329,9999 мВ = 0,002 % Что я делаю не так? ОПС, все правильно, делить надо было, заработался...
3 сообщения в этой теме
Рекомендуемые сообщения
В архиве
Эта тема в настоящий момент находится в архиве и закрыта для публикации сообщений.