Округление погрешности

[Evgeniy1 26]

Здравствуйте. Интересует наличие нормативной базы по вопросу округления расчитанной погрешности. В качестве примера-определение нестабильности выходного напряжения источника Б5-47. По тексту= 0.05%от 29,9В. Переведя в абсолютные еденицы получим 0.01495В.

Те нужно измерять напряжение от 29.88505 до 29.91495В. Каким образом можно уменьшить число разрядов? Варианты: безопасный от 29.886 до

29.914В, или другой вариант 29.885 до 29.915?

Заодно если стандарты, ГОСТы на округление допусков и результатов измерений.

Изменено 20 Сентября 2012 пользователем Evgeniy1

[Данилов А.А. 1 951]

На форуме об этом говорилось уже несколько раз. См. например http://metrologu.ru/index.php?showtopic=387&st=0&p=2761&hl="%D1%81%D1%82%D1%80%D0%B5%D0%BB%D0%BA%D0%B0%20%D0%BF%D1%80%D0%B8%D0%B1%D0%BE%D1%80%D0%B0%20%D0%BF%D0%BE%D0%BA%D0%B0%D0%B7%D1%8B%D0%B2%D0%B0%D0%B5%D1%82%20%D0%B7%D0%BD%D0%B0%D1%87%D0%B5%D0%BD%D0%B8%D0%B5"&fromsearch=1entry2761 или http://metrologu.ru/index.php?showtopic=3364&st=0&p=29201&hl=%D0%BF%D0%BE%D0%BA%D0%B0%D0%B7%D0%B0%D0%BD%D0%B8%D0%B9&fromsearch=1entry29201

[Виктор 414]

На форуме об этом говорилось уже несколько раз. См. например http://metrologu.ru/index.php?showtopic=387&st=0&p=2761&hl="%D1%81%D1%82%D1%80%D0%B5%D0%BB%D0%BA%D0%B0%20%D0%BF%D1%80%D0%B8%D0%B1%D0%BE%D1%80%D0%B0%20%D0%BF%D0%BE%D0%BA%D0%B0%D0%B7%D1%8B%D0%B2%D0%B0%D0%B5%D1%82%20%D0%B7%D0%BD%D0%B0%D1%87%D0%B5%D0%BD%D0%B8%D0%B5"&fromsearch=1entry2761 или http://metrologu.ru/index.php?showtopic=3364&st=0&p=29201&hl=%D0%BF%D0%BE%D0%BA%D0%B0%D0%B7%D0%B0%D0%BD%D0%B8%D0%B9&fromsearch=1entry29201

Меня всегда поражает скорость с какой вы находите нужные темы.

[Данилов А.А. 1 951]

[elektrotanya 0]

и.PDF

[Evgeniy1 26]

На форуме об этом говорилось уже несколько раз. См. например http://metrologu.ru/index.php?showtopic=387&st=0&p=2761&hl="%D1%81%D1%82%D1%80%D0%B5%D0%BB%D0%BA%D0%B0%20%D0%BF%D1%80%D0%B8%D0%B1%D0%BE%D1%80%D0%B0%20%D0%BF%D0%BE%D0%BA%D0%B0%D0%B7%D1%8B%D0%B2%D0%B0%D0%B5%D1%82%20%D0%B7%D0%BD%D0%B0%D1%87%D0%B5%D0%BD%D0%B8%D0%B5"&fromsearch=1entry2761 или http://metrologu.ru/index.php?showtopic=3364&st=0&p=29201&hl=%D0%BF%D0%BE%D0%BA%D0%B0%D0%B7%D0%B0%D0%BD%D0%B8%D0%B9&fromsearch=1entry29201

Да, я внимательно прочитал то что Вы порекомендовали. Но в текстах говориться об округлении результатов измерения. У меня несколько иная ситуация- проблем со снятием показаний нет- все в цифре.Далее,погрешность задается не одним числом, а, как правило формулой типа 0.0Х% от измеренного значения + 0.0Х% от предела, что приводит к достаточно большой последовательности цифр. Если вернуться к источнику питания- то он не

сможет обеспечить стабильность напряжения на уровне десятков микровольт, что делает абсолютно бессмысленным измерения с таким разрешением.

Еще более сложная ситуация получается если, возвращаясь к источику питания, не вычислять погрешность измерения в каждой точке, а проверять полученное измерение на попадание в заранее расчитанный интервал от29.88505 до 29.91495В, если результат попадает- прибор годен, не попадает- брак. Недавно при чтении методики поверки генератора выяснилось, что расчитанный интервал может представлять собой дробь, возможно, с бесконечным числом значших цифр. Что делать с этим чудом? Насколько я понял в деле округления в метрологии пробел. Если округлять с увеличением- то нарушае закон тк самостоятельно увеличиваем значение погрешности (ст23 закона об обеспечении единства)

[Данилов А.А. 1 951]

Вы не перемудрили себя?!

Никакого пробела нет - См. МИ 1317:

3.4 Характеристики погрешности и их статистические оценки выражают числом, содержащим не более двух значащих цифр При этом для статистических оценок характеристик третий разряд (неуказываемый младший) округляют в большую сторону Допускается характеристики погрешности и их статистические оценки выражать числом, содержащим одну значащую цифру. В этом случае для статистических оценок характеристик число получают округлением в большую сторону, если цифра последующего неуказываемого младшего разряда равна или больше пяти, или в меньшую сторону, если эта цифра меньше пяти.

Что же касается годен / не годен - для этого в методики поверки должен быть введён коэффициент метрологического запаса - см. МИ 187, МИ 188

[efim 1 745]

Этот вопрос обсуждали здесь и здесь

И даже была попытка написать инструкцию МС.

[Evgeniy1 26]

Вы не перемудрили себя?!

Никакого пробела нет - См. МИ 1317:

3.4 Характеристики погрешности и их статистические оценки выражают числом, содержащим не более двух значащих цифр При этом для статистических оценок характеристик третий разряд (неуказываемый младший) округляют в большую сторону Допускается характеристики погрешности и их статистические оценки выражать числом, содержащим одну значащую цифру. В этом случае для статистических оценок характеристик число получают округлением в большую сторону, если цифра последующего неуказываемого младшего разряда равна или больше пяти, или в меньшую сторону, если эта цифра меньше пяти.

Что же касается годен / не годен - для этого в методики поверки должен быть введён коэффициент метрологического запаса - см. МИ 187, МИ 188

Нет, судите сами: погрешность= установленное значение-2.828*измеренное. При расчете минимального и максимального значения 2.828 попадает в знаменатель. А 1/2.828 это дробь со многими значащими цифрами. Формула взята из методики поверки.

По поводу п3.4, я возможно не прав, но мне кажется,что правило округления, с которым я согласен, применено только к статистическим оценкам типа СКО, мат ожидания. Или я неправ? Менять методику я не могу, не положено

[Evgeniy1 26]

Этот вопрос обсуждали здесь и здесь

И даже была попытка написать инструкцию МС.

Значит результат измерения округляем всегда в большую сторону, погрешность или допуск всегда в меньшую??????????

[Данилов А.А. 1 951]

А 1/2.828 это дробь со многими значащими цифрами.

Попытайтесь определиться с понятием значащие цифры... Это все-таки не все цифры. Возьмите, например, число "пи" и попытайтесь ответить на вопрос: сколько в этом числе значащих цифр? Ответа на этот вопрос не жду, т.к. на него нельзя однозначно ответить, т.к. не заданы пределы погрешности.

Если хотите получить нормальный ответ, правильно задайте вопрос. О какой методике поверки идёт речь? Что за 2.828?

[Evgeniy1 26]

А 1/2.828 это дробь со многими значащими цифрами.

Попытайтесь определиться с понятием значащие цифры... Это все-таки не все цифры. Возьмите, например, число "пи" и попытайтесь ответить на вопрос: сколько в этом числе значащих цифр? Ответа на этот вопрос не жду, т.к. на него нельзя однозначно ответить, т.к. не заданы пределы погрешности.

Если хотите получить нормальный ответ, правильно задайте вопрос. О какой методике поверки идёт речь? Что за 2.828?

Значащие все. Сколько из них использовать вопрос другой.

С 2.828 все просто. Амплитуда задается в как напряжение от пика до пика. Измеряется вольтметром среднеквадратических значений. Соотношение амплитудного и СКЗ для синусоиды : СКЗ=амплитуда/ корень из 2. Учитывая что амплитуда двойная получаем 2*1.41421=2.828 с округлением.

Методика поверки. Тип генератора не помню. Да вопрос и не с корнем из двух( или 2.828), из чтения текстов, рекомендованных Вами, и не только Вами, следует, что нормативная база на округление напрочь отсутствует. Повторюсь, но приведенная Вами ссылка на МИ, по моему мнению, относится к округлению статистики.

[Данилов А.А. 1 951]

А 1/2.828 это дробь со многими значащими цифрами.

Попытайтесь определиться с понятием значащие цифры... Это все-таки не все цифры. Возьмите, например, число "пи" и попытайтесь ответить на вопрос: сколько в этом числе значащих цифр? Ответа на этот вопрос не жду, т.к. на него нельзя однозначно ответить, т.к. не заданы пределы погрешности.

Если хотите получить нормальный ответ, правильно задайте вопрос. О какой методике поверки идёт речь? Что за 2.828?

Значащие все.

Если все, то почему используете 2.828, хотя должно быть чуть больше , например, 2,82842712474619..., а если 1/[2*корень(2)], то 0,3535533905932738...

Учитывая что амплитуда двойная получаем 2*1.41421=2.828 с округлением.

Почему Вы так округляете?! Чему равны пределы погрешности измерений амплитуды?

Ещё раз повторяю, разберитесь с понятием "Значащие цифры"

Начните с "Большой советской энциклопедии":

Значащие цифры - в приближённых вычислениях, все цифры числа, начиная с 1-й слева, отличной от нуля, до последней, за правильность которой можно ручаться. Например, если измерение произведено с точностью до 0,0001 и дало результат 0,0320, то З. ц. будут 3, 2 и 0.

Далее можете посмотреть, например, здесь

[Evgeniy1 26]

А 1/2.828 это дробь со многими значащими цифрами.

Попытайтесь определиться с понятием значащие цифры... Это все-таки не все цифры. Возьмите, например, число "пи" и попытайтесь ответить на вопрос: сколько в этом числе значащих цифр? Ответа на этот вопрос не жду, т.к. на него нельзя однозначно ответить, т.к. не заданы пределы погрешности.

Если хотите получить нормальный ответ, правильно задайте вопрос. О какой методике поверки идёт речь? Что за 2.828?

Значащие все.

Если все, то почему используете 2.828, хотя должно быть чуть больше , например, 2,82842712474619..., а если 1/[2*корень(2)], то 0,3535533905932738...

Учитывая что амплитуда двойная получаем 2*1.41421=2.828 с округлением.

Почему Вы так округляете?! Чему равны пределы погрешности измерений амплитуды?

Ещё раз повторяю, разберитесь с понятием "Значащие цифры"

Начните с "Большой советской энциклопедии":

Значащие цифры - в приближённых вычислениях, все цифры числа, начиная с 1-й слева, отличной от нуля, до последней, за правильность которой можно ручаться. Например, если измерение произведено с точностью до 0,0001 и дало результат 0,0320, то З. ц. будут 3, 2 и 0.

Далее можете посмотреть, например, здесь

Это не я округляю, так в методике написано. Пределы не помню. Но на память при установленной амплитуде 0.3 В абс погрешность 0.0594. Вроде не соврал. Да суть не в значащих цифрах, не в том чем измерить, и даже не в том как округлить, а как записать, дабы не подкопались.

Изменено 23 Сентября 2012 пользователем Evgeniy1

[Данилов А.А. 1 951]

О какой методике идёт речь? Выложите скан или дайте ссылку.

[Evgeniy1 26]

О какой методике идёт речь? Выложите скан или дайте ссылку.

Генератор сигналов специальной формы GFG-3015. Скан снять не смогу. Привожу выдержки из описания и методики поверки.

Пределы допускаемой абсолютной погрешности установки уровня выходного напряжения составляют +-(0.05U установленного + 0.05В)

это из описания.

Абсолютная погрешность установки уровня вых. напряжения вычисляется по формуле абс погр=U установленное-2.828Uизмеренное.

это из методики.

Если установим 0.3В и вычислим максимально допустимое и минимально допустимое значение измеренного напряжения-то получим :

абс погрешность +- 0.065В.

мах=(0.365/2.828)В=0.129066.............В

мin=(0.235/2.828)В=0.083097.............В

это две бесконечные дроби.Если измерения производить с четырьмя цифрами (при условии, что все четыре цифры стабильны и есть стабильная пятая цифра, и погрешность образцового прибора в 10 раз меньше) после зпт- то единственный безопасный вариант округления это

мах=0.1290В, мин=0.0831В.

Если с двумя после зпт то мах=0.12, мин=0.09.

Мой вопрос не касался конкретно этого генератора, и источника. Вопрос в подходе к округлению. Раз нет нормативной базы то у мах значения отбрасываются "лишние цифры", а мин увеличивается на еденицу в младшем разряде? Для простоты- образцовый прибор погрешности не имеет

Изменено 26 Сентября 2012 пользователем Evgeniy1

[Данилов А.А. 1 951]

Пределы допускаемой абсолютной погрешности установки уровня выходного напряжения составляют +-(0.05U установленного + 0.05В)

это из описания.

В описании типа несколько иначе:

Если следовать Вашим характеристикам

Пределы допускаемой абсолютной погрешности установки уровня выходного напряжения составляют +-(0.05U установленного + 0.05В)

то при U=0,3 пределы допускаемой погрешности +-(0,05*0,3+0,05) В или +-0,065 В (это при условии, если единица младшего разряда единицы мВ).

Следовательно, промежуточные расчеты следует вести не до тысячных вольта (до мВ), а до десятитысячных вольта (т.е. до сотен мкВ), а окончательный результат округлять по общепринятым правилам до мВ.

Косвенно об этом говорят и 4 цифры в числе 2,828. При этом последняя цифра - для проведения дополнительных расчётов (т.е. "лишняя").

[Evgeniy1 26]

Пределы допускаемой абсолютной погрешности установки уровня выходного напряжения составляют +-(0.05U установленного + 0.05В)

это из описания.

В описании типа несколько иначе:

Если следовать Вашим характеристикам

а окончательный результат округлять по общепринятым правилам до мВ.

Косвенно об этом говорят и 4 цифры в числе 2,828. При этом последняя цифра - для проведения дополнительных расчётов (т.е. "лишняя").

Не сочтите за наглость, можно про общепринятые поподробнее.

[Данилов А.А. 1 951]

Округление к ближайшему целому (англ. rounding) — наиболее часто используемое округление, при котором число округляется до целого, модуль разности с которым у этого числа минимален. В общем случае, когда число в десятичной системе округляют до N-ого знака, правило может быть сформулировано следующим образом:

если N+1 знак < 5, то N-ый знак сохраняют, а N+1 и все последующие обнуляют;

если N+1 знак ≥ 5, то N-ый знак увеличивают на единицу, а N+1 и все последующие обнуляют;

Например: 11,9 → 12; −0,9 → −1; −1,1 → −1; 2,5 → 3.

[Данилов А.А. 1 951]

Хотелось бы узнать, зачем Вам всё это: провести поверку прибора или написать методику поверки?

В любом случае, удачи.

Вместе с тем, сдается мне, Вы не там ищите проблему

[Evgeniy1 26]

Хотелось бы узнать, зачем Вам всё это: провести поверку прибора или написать методику поверки?

В любом случае, удачи.

Вместе с тем, сдается мне, Вы не там ищите проблему

Мне нужно протокол сотворить, с допусками. Рекомендованное Вами округление легко создаст проблему мах=(0.365/2.828)В=0.129066.............В

округлять до 0.13, если мне надо 2 цифры? Так нельзя, Вы самовольно увеличите заданную изготовителем погрешность. Запрещено и наказуемо, если найдется зоркий сокол.

До 0.12? Часть приборов в брак уйдет.Если бы общепринятые правила были законом......... А иначе получается наказуемая самодеятельность.

Причем за 0.12 не будет ничего, а за 0.13 вломят по максимуму.

Расчет допусков, вместо вычисления погрешности при каждом измерении, нужен для предотвращеня появления морщин на лбу поверителя, и упрощения их работы.

Изменено 27 Сентября 2012 пользователем Evgeniy1

[Данилов А.А. 1 951]

Поверителю Вы морщин не добавите

Вы "ловите блох" там, где их нет, ибо Вы пытаетесь учесть 0,01 В, хотя в формуле пределов погрешности только второе слагаемое 0,05 В. Следовательно, погрешность от округления как минимум в 5 раз меньше пределов погрешности, и её можно не учитывать.

Тем более, что для указанного Вами генератора коэффициент гармоник далеко не 0. Следовательно, и коэффициент пересчета может отличаться от корня из двух.

Кроме того, Вы не ответили: чему равна единица младшего разряда на отсчетном устройстве прибора?

[Evgeniy1 26]

Поверителю Вы морщин не добавите

Вы "ловите блох" там, где их нет, ибо Вы пытаетесь учесть 0,01 В, хотя в формуле пределов погрешности только второе слагаемое 0,05 В. Следовательно, погрешность от округления как минимум в 5 раз меньше пределов погрешности, и её можно не учитывать.

Тем более, что для указанного Вами генератора коэффициент гармоник далеко не 0. Следовательно, и коэффициент пересчета может отличаться от корня из двух.

Кроме того, Вы не ответили: чему равна единица младшего разряда на отсчетном устройстве прибора?

Вы про какой прибор говорите, образцовый или поверяемый? Я генератор привел для иллюстрации проблемы, насколько помню, для поверки рекомендован В3-63, хотя могу ошибатся. Про морщины- позвольте не согласится- поверка подобных приборов вещь весьма трудоемкая, череватая неправильными записями в протоколе. И исключительно с целью уменьшения неправильных записей, в стародавние времена, было принято решение, весьма мудрое, о пересчете погрешностей в допуска.

Про ловлю блох, к своему огорчению, вынужден с Вами не согласиться.Правда приведенный мною пример не совсем удачен, но если я Вам еще не надоел, попробуем зайти с другой стороны, я бы даже сказал с тыла.мах=(0.365/2.828)В=0.129066В. Берем 4 значащие цифры после запятой.

Округляем безопасным способом- получаем 0.1290. Подставляем в формулу погрешность= 0.3-2.828*0.1290=0,064812В те если показания образцового прибора равны0.1290- то прибор годен.+-0,065 В допуск. Если округляем по общепринятому- 0.1291В, подставляем=0,3-2,828*0,1291=0,0650948.

Если так округлить то получается, что допустимым значением является величина превышающая паспортное значение погрешности. Мне Вы сможете объяснить, что эти несчастные 0,0000948- это ерунда, а проверяющему, особенно если поставлена задача найти крайнего- никогда.

Я не учитываю погрешность образцового прибора, его разрешающую способность, стабильность показаний поверяемого прибора. Можно упереться и применить приборы имеющие высокие метрологические характеристики, существенно превосходящие требования для данного прибора.

Коэффициент пересчета может меняться, только не в методике поверки на данный генератор.

Изменено 27 Сентября 2012 пользователем Evgeniy1

[Дедюхин А.А. 314]

Коэффициент пересчета может меняться, только не в методике поверки на данный генератор.

если разговор конкретно про этот генератор - вы МП на него видели?

при измерении уровня используется В3-49 (В3-63) и корень квадратный из 2 за вас уже округли до значения 2,828 ; измеряют уровень Uуст = 2,8 В (Vpp) ;

далее "Абсолютная погрешность установки уровня у вычисляется по формуле:

у = Uуст – 2,828 Uд

Прибор годен, если вычисленные значения погрешности у соответствуют п.2.2.2."

уровень выходного сигнала генератора задается в пиковых значениях, дискретность установки 0,01В, форулу погрешности для него А.А. уже привел;

в чем вы там усмотрели проблему для "проверяющего"?

[Evgeniy1 26]

Коэффициент пересчета может меняться, только не в методике поверки на данный генератор.

если разговор конкретно про этот генератор - вы МП на него видели?

при измерении уровня используется В3-49 (В3-63) и корень квадратный из 2 за вас уже округли до значения 2,828 ; измеряют уровень Uуст = 2,8 В (Vpp) ;

далее "Абсолютная погрешность установки уровня у вычисляется по формуле:

у = Uуст – 2,828 Uд

Прибор годен, если вычисленные значения погрешности у соответствуют п.2.2.2."

уровень выходного сигнала генератора задается в пиковых значениях, дискретность установки 0,01В, форулу погрешности для него А.А. уже привел;

в чем вы там усмотрели проблему для "проверяющего"?

Исключительно в числах. Вы видимо невнимательно читали.