tatyana.ogurtzova 0 Опубликовано 7 Июня 2021 Жалоба Поделиться Опубликовано 7 Июня 2021 Здравствуйте. нужен совет по округлению среднего значения массы и объема при проведении поверки микрошприцов. Значение дозы 0,1 мкл - весы показывают значение с точностью до 1х10-7 г. До какого знака после запятой нужно округлять средние значения массы и объема: до 7 или 8? Цитата Ссылка на комментарий Поделиться на других сайтах Прочее
libra 508 Опубликовано 7 Июня 2021 Жалоба Поделиться Опубликовано 7 Июня 2021 51 минуту назад, tatyana.ogurtzova сказал: Здравствуйте. нужен совет по округлению среднего значения массы и объема при проведении поверки микрошприцов. Значение дозы 0,1 мкл - весы показывают значение с точностью до 1х10-7 г. До какого знака после запятой нужно округлять средние значения массы и объема: до 7 или 8? Наверное в методике поверки дозатора написано? Или от погрешности дозатора "пляшите". Цитата Ссылка на комментарий Поделиться на других сайтах Прочее
nwnebel 10 Опубликовано 8 Июня 2021 Жалоба Поделиться Опубликовано 8 Июня 2021 15 часов назад, tatyana.ogurtzova сказал: .До какого знака после запятой нужно округлять средние значения массы и объема: до 7 или 8? Здравствуйте, что касается вопроса по округлению посмотрите документ ПМГ 96-2009, пункт 5.3. Цитата Ссылка на комментарий Поделиться на других сайтах Прочее
Dobrometr 83 Опубликовано 8 Июня 2021 Жалоба Поделиться Опубликовано 8 Июня 2021 1 час назад, nwnebel сказал: Здравствуйте, что касается вопроса по округлению посмотрите документ ПМГ 96-2009, пункт 5.3. Документ: ПМГ 96-2009 Пункт 5.3: "Характеристики качества измерений представляют числом, содержащим не более двух значащих цифр. Для промежуточных результатов расчета характеристик качества измерений рекомендуется сохранять третью значащую цифру. При записи окончательного результата третью значащую цифру округляют в большую сторону. Допускается характеристики качества измерений представлять числом, содержащим одну значащую цифру. В этом случае вторую значащую цифру округляют в большую сторону, если цифра последующего неуказываемого младшего разряда равна или больше пяти, или в меньшую сторону, если эта цифра меньше пяти." Вы считаете, что ваша подсказка исчерпывающе отвечает на поставленный вопрос? Цитата Ссылка на комментарий Поделиться на других сайтах Прочее
nwnebel 10 Опубликовано 8 Июня 2021 Жалоба Поделиться Опубликовано 8 Июня 2021 1 минуту назад, Dobrometr сказал: Документ: ПМГ 96-2009 Вы считаете, что ваша подсказка исчерпывающе отвечает на поставленный вопрос? Конечно нет, для этого в ответе на вопрос есть волшебная фраза "что касается вопроса по округлению", вы считаете, что ее плохо видно на экране монитора? Цитата Ссылка на комментарий Поделиться на других сайтах Прочее
Dobrometr 83 Опубликовано 8 Июня 2021 Жалоба Поделиться Опубликовано 8 Июня 2021 7 минут назад, nwnebel сказал: Конечно нет, для этого в ответе на вопрос есть волшебная фраза "что касается вопроса по округлению", вы считаете, что ее плохо видно на экране монитора? Да ну нет же, волшебную фразу видно хорошо! Я просто понял так, что вопрос стоит о важности 7-го или 8-го знака после запятой, а не о том, как именно округлять. В этом самом ПМГ 96-2009, в пункте 5.3 вообще речь идёт о рекомендации сохранять максимум третью значащую цифру. Так получается, если значение есть с 8-ю значащими цифрами после запятой - нужно сокращать до трёх? А то получается, человек спрашивает: "скока знаков после запятой оставлять?", а мы ему "округляй по этой инструкции!" Цитата Ссылка на комментарий Поделиться на других сайтах Прочее
Метеоролог 17 Опубликовано 8 Июня 2021 Жалоба Поделиться Опубликовано 8 Июня 2021 (изменено) 18 часов назад, tatyana.ogurtzova сказал: Здравствуйте. нужен совет по округлению среднего значения массы и объема при проведении поверки микрошприцов. Почему задумались об округлении? Я бы оставил все значащие цифры как есть (сколько позволяет записать отсчетное устройство), если они далее используются в расчетах. А в итоговом результате округлял бы до стольки знаков после запятой, до скольки нормирована погрешность поверяемого СИ Изменено 8 Июня 2021 пользователем Метеоролог Цитата Ссылка на комментарий Поделиться на других сайтах Прочее
nwnebel 10 Опубликовано 8 Июня 2021 Жалоба Поделиться Опубликовано 8 Июня 2021 48 минут назад, Dobrometr сказал: А то получается, человек спрашивает: "скока знаков после запятой оставлять?", а мы ему "округляй по этой инструкции!" Если копать глубже, то тут на лицо косвенные измерения, видимо их надо обрабатывать по МИ 2083-90, но кто его знает, что написано в методике поверки. Можно запросить у автора больше сведений и решать задачу вместе с ним, внимательно вчитываясь в документы. Я опустил все, что не знаю и ответил тем, что знаю, автору может именно этого не хватало, а может и нет. Может подключиться другой участник, кто эти задачи решает каждый день. Может автор конкретизирует сам свой вопрос, появится дополнительная информация. Никто не обещает на форуме, что тебе решат задачу от и до, хорошо когда тебе дают разные входные данные и ты сам из них пытаешься решить задачу, по крайней мере для меня в этом и есть ценность любых форумов со знающими людьми. Цитата Ссылка на комментарий Поделиться на других сайтах Прочее
Радик Мавлявиев 195 Опубликовано 8 Июня 2021 Жалоба Поделиться Опубликовано 8 Июня 2021 1 час назад, Dobrometr сказал: Да ну нет же, волшебную фразу видно хорошо! Я просто понял так, что вопрос стоит о важности 7-го или 8-го знака после запятой, а не о том, как именно округлять. В этом самом ПМГ 96-2009, в пункте 5.3 вообще речь идёт о рекомендации сохранять максимум третью значащую цифру. Так получается, если значение есть с 8-ю значащими цифрами после запятой - нужно сокращать до трёх? А то получается, человек спрашивает: "скока знаков после запятой оставлять?", а мы ему "округляй по этой инструкции!" Обычно, в подобных случаях, когда имеет значение 7-я и 8-я цифра после запятой, не все цифры после запятой бывают значимыми. Из п.5.3 следует: 0,00000123456 - принимаем как 0,00000123 для обработки и как 0,0000012 для фиксации измеренного значения. 0,987654321 - принимаем как 0,988 для обработки и как 0,99 для фиксации. Нужно уточнение задачи от топикстартера. 3 часа назад, nwnebel сказал: Здравствуйте, что касается вопроса по округлению посмотрите документ ПМГ 96-2009, пункт 5.3. Хороший ПМГ, плюсанул. Раньше такое нормирование встречал для измерения объема резервуаров. ВНИИР на курсах учил, что вычисления нужно производить до седьмого знака, а умножать в последовательности от большего числа к меньшим. В качестве примера можно попытаться измерить объем миллиметрового кубика, принимая входные данные в метрах: Если выбирать между семью и восемью знаками, получим бессмыслицу ОКРУГЛ(0,001*0,001*0,001;7) = 0,0000000 м3; Если воспользоваться п. 5.3, то получим добротный результат 0,000000001 м3 Цитата Ссылка на комментарий Поделиться на других сайтах Прочее
Радик Мавлявиев 195 Опубликовано 8 Июня 2021 Жалоба Поделиться Опубликовано 8 Июня 2021 (изменено) 21 час назад, tatyana.ogurtzova сказал: Здравствуйте. нужен совет по округлению среднего значения массы и объема при проведении поверки микрошприцов. Значение дозы 0,1 мкл - весы показывают значение с точностью до 1х10-7 г. До какого знака после запятой нужно округлять средние значения массы и объема: до 7 или 8? Если придерживаться п. 5.3, то при предельно малых дозах может понадобиться брать все 9 знаков, чтобы удержать в поле внимания три значащие цифры для дальнейшей обработки m1 0,0000008 m2 0,0000011 m3 0,0000010 mср 0,000000967 Изменено 8 Июня 2021 пользователем Радик Мавлявиев Цитата Ссылка на комментарий Поделиться на других сайтах Прочее
LIBorisi4 146 Опубликовано 8 Июня 2021 Жалоба Поделиться Опубликовано 8 Июня 2021 5 часов назад, nwnebel сказал: Здравствуйте, что касается вопроса по округлению посмотрите документ ПМГ 96-2009, пункт 5.3. Вообще-то, вопрос был про округление среднего значения, а раздел 5 и в частности пункт 5.3 говорят про "характеристики качества измерений". 1 час назад, Радик Мавлявиев сказал: Из п.5.3 следует: 0,00000123456 - принимаем как 0,00000123 для обработки и как 0,0000012 для фиксации измеренного значения. 0,987654321 - принимаем как 0,988 для обработки и как 0,99 для фиксации. Ни это следует из этого пункта, в этом пункте нет результата измерения, а есть качество этого измерения. Цитата 4.1 Настоящие правила устанавливают следующие характеристики качества измерений: - среднеквадратичное отклонение погрешности измерений или стандартную неопределенность измерений (точечные характеристики качества измерений); - границы интервала, в котором погрешность измерений находится с заданной вероятностью, или расширенную неопределенность измерений (интервальные характеристики качества измерений). Т.е. по пункту 5.3 (в прочем, как и по другим документам) оставляется две значащих цифры в погрешности или неопределенности, а вот уже потом результат измерения записывается с тем же количеством знаков после запятой, сколько получилось у качества измерений. Как-то так. Цитата 6.2 Наименьшие разряды числовых значений результатов измерений принимают такими же, как и наименьшие разряды числовых значений абсолютных характеристик качества измерений. Если абсолютные характеристики качества измерений представляют двумя значащими цифрами, то допускается округлять результат измерений так, чтобы наименьший разряд округленного числа был таким же, как старший, отличный от нуля разряд числа, представляющего абсолютную характеристику качества измерений. Цитата Ссылка на комментарий Поделиться на других сайтах Прочее
libra 508 Опубликовано 8 Июня 2021 Жалоба Поделиться Опубликовано 8 Июня 2021 1 час назад, nwnebel сказал: Если копать глубже, то тут на лицо косвенные измерения, видимо их надо обрабатывать по МИ 2083-90, но кто его знает, что написано в методике поверки. Можно запросить у автора больше сведений и решать задачу вместе с ним, внимательно вчитываясь в документы. От методики и надо идти. Значение массы округлять не надо. Весы показывают г до 7 знака. Величина дозы 0,1 мг. Актуальные показания весов 4 знака. Плотность воды по методике поверки равна 0,998 мг/мкл, то вес последнего разряда весов 0,1нл (0,0000001г/998г/мкл). Погрешность поверяемого дозатора где-то 8-10%. Какие 7-8 знаков значения объема? Цитата Ссылка на комментарий Поделиться на других сайтах Прочее
12 сообщений в этой теме
Рекомендуемые сообщения
Присоединиться к обсуждению
Вы можете ответить сейчас, а зарегистрироваться позже. Если у вас уже есть аккаунт, войдите, чтобы ответить от своего имени.