Обработка результатов измерений

[tatyana.ogurtzova 0]

Здравствуйте. нужен совет по округлению среднего значения массы и объема при проведении поверки микрошприцов. Значение дозы 0,1 мкл - весы показывают значение с точностью до 1х10-7 г. До какого знака после запятой нужно округлять средние значения массы и объема: до 7 или 8?

[libra 558]

51 минуту назад, tatyana.ogurtzova сказал:

Здравствуйте. нужен совет по округлению среднего значения массы и объема при проведении поверки микрошприцов. Значение дозы 0,1 мкл - весы показывают значение с точностью до 1х10-7 г. До какого знака после запятой нужно округлять средние значения массы и объема: до 7 или 8?

Наверное в методике поверки дозатора написано? Или от погрешности дозатора "пляшите". 

[nwnebel 10]

15 часов назад, tatyana.ogurtzova сказал:

.До какого знака после запятой нужно округлять средние значения массы и объема: до 7 или 8?

Здравствуйте, что касается вопроса по округлению посмотрите документ ПМГ 96-2009, пункт 5.3.

[Dobrometr 107]

1 час назад, nwnebel сказал:

Здравствуйте, что касается вопроса по округлению посмотрите документ ПМГ 96-2009, пункт 5.3.

Документ: ПМГ 96-2009

Пункт 5.3: 
"Характеристики качества измерений представляют числом, содержащим не более двух значащих цифр. Для промежуточных результатов расчета характеристик качества измерений рекомендуется сохранять третью значащую цифру. При записи окончательного результата третью значащую цифру округляют в большую сторону. Допускается характеристики качества измерений представлять числом, содержащим одну значащую цифру. В этом случае вторую значащую цифру округляют в большую сторону, если цифра последующего неуказываемого младшего разряда равна или больше пяти, или в меньшую сторону, если эта цифра меньше пяти."

Вы считаете, что ваша подсказка исчерпывающе отвечает на поставленный вопрос?

[nwnebel 10]

1 минуту назад, Dobrometr сказал:

Документ: ПМГ 96-2009
Вы считаете, что ваша подсказка исчерпывающе отвечает на поставленный вопрос?

Конечно нет, для этого в ответе на вопрос есть волшебная фраза "что касается вопроса по округлению", вы считаете, что ее плохо видно на экране монитора?

[Dobrometr 107]

7 минут назад, nwnebel сказал:

Конечно нет, для этого в ответе на вопрос есть волшебная фраза "что касается вопроса по округлению", вы считаете, что ее плохо видно на экране монитора?

Да ну нет же, волшебную фразу видно хорошо! Я просто понял так, что вопрос стоит о важности 7-го или 8-го знака после запятой, а не о том, как именно округлять. В этом самом ПМГ 96-2009, в пункте 5.3 вообще речь идёт о рекомендации сохранять максимум третью значащую цифру. Так получается, если значение есть с 8-ю значащими цифрами после запятой - нужно сокращать до трёх? А то получается, человек спрашивает: "скока знаков после запятой оставлять?", а мы ему "округляй по этой инструкции!"

[Метеоролог 17]

18 часов назад, tatyana.ogurtzova сказал:

Здравствуйте. нужен совет по округлению среднего значения массы и объема при проведении поверки микрошприцов.

Почему задумались об округлении? Я бы оставил все значащие цифры как есть (сколько позволяет записать отсчетное устройство), если они далее используются в расчетах.

А в итоговом результате округлял бы до стольки знаков после запятой, до скольки нормирована погрешность поверяемого СИ

Изменено 8 Июня 2021 пользователем Метеоролог

[nwnebel 10]

48 минут назад, Dobrometr сказал:

А то получается, человек спрашивает: "скока знаков после запятой оставлять?", а мы ему "округляй по этой инструкции!"

Если копать глубже, то тут на лицо косвенные измерения, видимо их надо обрабатывать по МИ 2083-90, но кто его знает, что написано в методике поверки. Можно запросить у автора больше сведений и решать задачу вместе с ним, внимательно вчитываясь в документы. Я опустил все, что не знаю и ответил тем, что знаю, автору может именно этого не хватало, а может и нет. Может подключиться другой участник, кто эти задачи решает каждый день. Может автор конкретизирует сам свой вопрос, появится дополнительная информация. Никто не обещает на форуме, что тебе решат задачу от и до, хорошо когда тебе дают разные входные данные и ты сам из них пытаешься решить задачу, по крайней мере для меня в этом и есть ценность любых форумов со знающими людьми.

[Радик Мавлявиев 197]

1 час назад, Dobrometr сказал:

Да ну нет же, волшебную фразу видно хорошо! Я просто понял так, что вопрос стоит о важности 7-го или 8-го знака после запятой, а не о том, как именно округлять. В этом самом ПМГ 96-2009, в пункте 5.3 вообще речь идёт о рекомендации сохранять максимум третью значащую цифру. Так получается, если значение есть с 8-ю значащими цифрами после запятой - нужно сокращать до трёх? А то получается, человек спрашивает: "скока знаков после запятой оставлять?", а мы ему "округляй по этой инструкции!"

Обычно, в подобных случаях, когда имеет значение 7-я и 8-я цифра после запятой, не все цифры после запятой бывают значимыми. Из п.5.3 следует:

0,00000123456  - принимаем как 0,00000123 для обработки и как 0,0000012 для фиксации измеренного значения.

0,987654321 - принимаем как 0,988 для обработки и как 0,99 для фиксации.

Нужно уточнение задачи от топикстартера.

3 часа назад, nwnebel сказал:

Здравствуйте, что касается вопроса по округлению посмотрите документ ПМГ 96-2009, пункт 5.3.

Хороший ПМГ, плюсанул.

Раньше такое нормирование встречал для измерения объема резервуаров. ВНИИР на курсах учил, что вычисления нужно производить до седьмого знака, а умножать в последовательности от большего числа к меньшим.

В качестве примера можно попытаться измерить объем миллиметрового кубика, принимая входные данные в метрах:

Если выбирать между семью и восемью знаками, получим бессмыслицу ОКРУГЛ(0,001*0,001*0,001;7) = 0,0000000 м3;

Если воспользоваться п. 5.3, то получим добротный результат 0,000000001 м3

[Радик Мавлявиев 197]

21 час назад, tatyana.ogurtzova сказал:

Здравствуйте. нужен совет по округлению среднего значения массы и объема при проведении поверки микрошприцов. Значение дозы 0,1 мкл - весы показывают значение с точностью до 1х10-7 г. До какого знака после запятой нужно округлять средние значения массы и объема: до 7 или 8?

Если придерживаться п. 5.3, то при предельно малых дозах может понадобиться брать все 9 знаков, чтобы удержать в поле внимания три значащие цифры для дальнейшей обработки

m1	0,0000008
m2	0,0000011
m3	0,0000010
mср	0,000000967

Изменено 8 Июня 2021 пользователем Радик Мавлявиев

[LIBorisi4 160]

5 часов назад, nwnebel сказал:

Здравствуйте, что касается вопроса по округлению посмотрите документ ПМГ 96-2009, пункт 5.3.

Вообще-то, вопрос был про округление среднего значения, а раздел 5 и в частности пункт 5.3 говорят про "характеристики качества измерений".

1 час назад, Радик Мавлявиев сказал:

Из п.5.3 следует:

0,00000123456  - принимаем как 0,00000123 для обработки и как 0,0000012 для фиксации измеренного значения.

0,987654321 - принимаем как 0,988 для обработки и как 0,99 для фиксации.

Ни это следует из этого пункта, в этом пункте нет результата измерения, а есть качество этого измерения.
 

Цитата

4.1 Настоящие правила устанавливают следующие характеристики качества измерений:

- среднеквадратичное отклонение погрешности измерений или стандартную неопределенность измерений (точечные характеристики качества измерений);

- границы интервала, в котором погрешность измерений находится с заданной вероятностью, или расширенную неопределенность измерений (интервальные характеристики качества измерений).

 

 Т.е. по пункту 5.3 (в прочем, как и по другим документам) оставляется две значащих цифры в погрешности или неопределенности, а вот уже потом результат измерения записывается с тем же количеством знаков после запятой, сколько получилось у качества измерений. Как-то так.

Цитата

6.2 Наименьшие разряды числовых значений результатов измерений принимают такими же, как и наименьшие разряды числовых значений абсолютных характеристик качества измерений. Если абсолютные характеристики качества измерений представляют двумя значащими цифрами, то допускается округлять результат измерений так, чтобы наименьший разряд округленного числа был таким же, как старший, отличный от нуля разряд числа, представляющего абсолютную характеристику качества измерений.

 

[libra 558]

1 час назад, nwnebel сказал:

Если копать глубже, то тут на лицо косвенные измерения, видимо их надо обрабатывать по МИ 2083-90, но кто его знает, что написано в методике поверки. Можно запросить у автора больше сведений и решать задачу вместе с ним, внимательно вчитываясь в документы. 

От методики и надо идти.

Значение массы округлять не надо.

Весы показывают г до 7 знака. Величина дозы 0,1 мг. Актуальные показания весов 4 знака. Плотность воды по методике поверки равна 0,998 мг/мкл, то вес последнего разряда весов 0,1нл (0,0000001г/998г/мкл). Погрешность поверяемого дозатора где-то 8-10%. Какие 7-8 знаков значения объема?

[e693oe 1]

подниму тему, допуск 0,1  на отклонение от перпендикулярности,  измерили и получили 0,13  - и начинаем кричать БРАК БРАК, мое мнение что конструктора интересовал первый знак (число) после запятой. и записывать полученное значение до первого знака п.з.  т.е  полученное отклонение пишем 0,1 и пропускаем деталь дальше.

тоже самое когда допуск на диаметр отверстия 90 мм  к примеру +0,2 мм, а мы  измерили (на микроскопе с его разрешением 0,001 мм, погрешность не берем в расчет) и получили 0,201 мм и кричим БРАК-)))

поправте если я не прав..

Изменено 9 Августа 2024 пользователем e693oe

[Mizer 0]

В 09.08.2024 в 06:56, e693oe сказал:

подниму тему, допуск 0,1  на отклонение от перпендикулярности,  измерили и получили 0,13  - и начинаем кричать БРАК БРАК, мое мнение что конструктора интересовал первый знак (число) после запятой. и записывать полученное значение до первого знака п.з.  т.е  полученное отклонение пишем 0,1 и пропускаем деталь дальше.

тоже самое когда допуск на диаметр отверстия 90 мм  к примеру +0,2 мм, а мы  измерили (на микроскопе с его разрешением 0,001 мм, погрешность не берем в расчет) и получили 0,201 мм и кричим БРАК-)))

поправте если я не прав..

Поправляю, вы не правы. Эта тема уже обсуждалась. До какого знака даны пределы погрешности  до этого же знака вы и должны давать погрешность полученную при расчетах.

[Dom3n3c 148]

22 часа назад, Mizer сказал:

До какого знака даны пределы погрешности  до этого же знака вы и должны давать погрешность полученную при расчетах

Но речь в комментарии не о погрешности, а об измеренном значении

[Mahaputra 20]

Если "допуск" означает, что отклонение не более +- столько-то, то превышение его хоть на стомиллиардную долю означает нарушение требования.