Округление результатов измерений в протокол

[Potapi4 0]

Здравствуйте! Помогите, пожалуйста, найти документ, по которому выдаётся результат в протокол. Во второй лаборатории, в которой работаю, округляют следующим образом:

1. Если результат измерений (0;2), то выдаётся результат с двумя знаками после запятой;

2. Если результат [2;50) - с одним знаком после запятой;

3. Если результат выше 50 или выше, то выдаётся просто целое число.

Но никто не знает почему идёт такое округление. Материал, который попадается по подобному запросу, содержит только нормативные документы, в которых прописаны правила округления, но не их запись в протокол.

[Данилов А.А. 1 952]

1 час назад, Potapi4 сказал:

Здравствуйте! Помогите, пожалуйста, найти документ, по которому выдаётся результат в протокол. Во второй лаборатории, в которой работаю, округляют следующим образом:

1. Если результат измерений (0;2), то выдаётся результат с двумя знаками после запятой;

2. Если результат [2;50) - с одним знаком после запятой;

3. Если результат выше 50 или выше, то выдаётся просто целое число.

Но никто не знает почему идёт такое округление. Материал, который попадается по подобному запросу, содержит только нормативные документы, в которых прописаны правила округления, но не их запись в протокол.

При обработке результатов прямых многократных измерений - См. Приложение Е ГОСТ Р 8.736-2011.

Если же работаете с оценкой неопределенности:
1. в стареньких ныне не действующих ЕА 4/02-2004 (затем были версии -2013 и -2021): 
6.3 Численное значение неопределенности измерения следует указывать максимум с двумя значащими цифрами. Численное значение результата измерения в окончательном виде следует округлять до такого же количества цифр, как в расширенной неопределенности измерения, связанной с результатом измерения. Для методов округления следует применять общепринятые правила округления чисел (более подробные указания для округления можно найти в Приложении Б ИСО 31-0:1992). Если числовое значение неопределенности измерения из-за округления уменьшается больше чем на 5 %, то значение неопределенности следует указывать округленным в сторону увеличения (с избытком).

2. ILAC P14:09-2020:
5.3. Числовое значение расширенной неопределенности должно быть равно максимум двум значащим цифрам. Если результат должен быть округлен, тогда округление проводиться после завершения всех расчетов; и полученное значение затем может быть округлено для представления. Для процесса округления должны использоваться обычные правила округления чисел с учетом указаний по округлению, приведенных в Разделе 7 GUM.

3. ГОСТ 34100.3-2017
7.2.6 Оценки у и стандартной неопределенности ис(у) или расширенной неопределенности U не следует приводить с избыточной точностью. Обычно для ис(у) и U, а также для стандартных неопределенностей uc(xj) входных оценок х,- достаточно указывать две значащие цифры, хотя в некоторых случаях может оказаться необходимым сохранить больше значащих цифр, чтобы избежать погрешностей округления в последующих расчетах. При сообщении окончательных результатов иногда может быть уместным округление к большему.

Например, ис(у) = 10,47 мОм можно округлить до 11 мОм. Однако и здесь следует руководствоваться в первую очередь здравым смыслом. Так, в случае расчетного значения u(xj) = 28,05 кГц следует указывать uc(xj) = 28 кГц. Входные и выходные оценки следует округлять таким образом, чтобы они соответствовали представлениям соответствующих неопределенностей. Например, если у = 10,05762 Ом и ис(у) = 27 мОм, то результат измерения у следует указывать как 10,058 Ом. При представлении коэффициента корреляции, близкого по абсолютному значению к единице, следует указывать три значащие цифры.

[scbist 1 675]

Не для протокола, а для общего развития 

 

Цитата

 

Metrology Monday! #62 Reminiscing on Rules of Rounding

Jeff Gust

Sr. Director, Metrology, Compliance & Regulatory Affairs - Chief Corporate Metrologist at Fluke Corporation - Measurement Scientist teacher, mentor and enthusiast.

 

1 апреля 2024 г.

 

I am back home from a great week at the Measurement Science Conference and am ready to pick up where we left off.  Since post #61 addressed significant digits, I thought that it would be important to refresh on rules for rounding.

The first reference that I use for rounding is in ISO 80000-1 Quantities and Units, Part 1: General, which was recently updated in 2022.  Rounding means replacing the magnitude of a given number by another number called a rounded number, selected from the sequence of integral multiples of a chosen rounding range. For example, a rounding range of 0.1 could be 12.1; 12.2; 12.3 etc. and a rounding range of 10 could be 1,210; 1220; 1230 etc.

If there is only one integral multiple nearest the given number, then it is accepted as the rounded number. For example, if the rounding range is 0.1, the 12.223 is 12.2; 12.251 is 12.3; and 12.275 is 12.3.

If there are two successive integral multiples equally near a given number, there are two different rules that can be used.

Rule A – the even multiple is selected as the rounded number, so if the rounded range is 0.1, 12.25 is 12.2; and 12.35 is 12.4.  Rule A can minimize rounding error for a series of measurements.

Rule B – the greater in magnitude multiplier is selected as the rounded number (if the last number is 5, round up).  Rule B is sometimes used for computers.

I can’t stress enough to only round one time, at the last step.  Here is a great example that I worked through with one of my fellow metrologists.  They were investigating this situation, notice on the picture below, the Nominal (applied) value was 150.00 degrees which was resistance that simulates temperature for an RTD readout.  The Device Under Test provides the measurement results of 150.0, because the device has 0.1 degree resolution.  However, the Measurement Error is listed as 0.1 degrees, which does not seem to make sense.

Example of a nonsensical result due to rounding

We dug into the process a bit more.  It turns out that over the RTD readout bus, it provides an extra digit of resolution (0.01 degrees C), so the raw data looked like this.

Raw data from a measurement is always important!

What we discovered was that the computer program was programmed to take the average of the 10 measurements (150.049) and since the display for the Device Under Test was 0.1 degrees, it rounded the final value down to 150.0.  However, the program prematurely rounded the difference of the applied vs measured so the 0.05 degree difference rounded to 0.1 which was reported as the Measurement Error.  If the Measurement Error was computed on the average of the measured values like the Measurement Result was, the error of 0.049 degrees would have also rounded down to 0.0 and the Measurement error would have been consistent with the Measurement Result.

The rounding rule that I encourage the use of is in NIST SP 811, Guide for the Use of the International System of Units (SI).  It is a very good reference, and it is also free.  Section B.7.1 covers rounding as follows:

•        If the digit to be discarded is between 0 and 4, the rounding range digit is not changed

•        Example: 6.974 951 5 rounded to three digits is 6.97

•        If the digit to be discarded is 5 and at least one digit following it is greater than zero, the digit preceding 5 is rounded by 1

•        Example: 6.974 951 5 rounded to 2 digits is 7.0

•        Example: 6.974 951 5 rounded to 5 digits is 6.9750

•        If the digits to be discarded begins with 5 and all following digits are zero, the digit preceding 5 is unchanged if it is even and increased by 1 if it is odd

•        Example: 6.974 951 5 rounded to 7 digits is 6.974 952

•        Example: 6.974 950 5 rounded to 7 digits is 6.974 950

•        Allows for symmetrical test limits

I know that this sounds very complicated, but there is a very good reason for doing this.  I recently reviewed a calibration certificate for a laboratory that calibrated a Fluke 5522A.  The Test point for AC Voltage Normal output for 30 mV and 45 Hz reported the test limits as 29.990 to 30.011 mv.  The correct specification limits are 29.9895 to 30.0105 mV.  Since the resolution was 1 microvolt, the value of 29.9895 was rounded to 29.990, and 30.0105 rounded up to 30.011 mv, creating limits of -10 µv and + 11 µv which was non-symmetrical.   If the NIST SP 811 method were used the lower limit would be 29.990 because the last digit was 5, with zeros behind it and the digit before was odd so it increases by 1 from 9 to 10.  The upper limit would be 30.010 because the last digit was 5, and the number proceeding it was unchanged because zero is not odd.  As you can see, using this method gives us symmetrical limits and is much more satisfying for the customer.

The last thing that I have to say on this subject is that while it may be desirable to have the resolution of the measurement match the resolution of the reported uncertainty, when we are trying to make statements of conformity, it is often desirable to carry the measured value out to one more digit than resolution of the reported uncertainty, so long as the measured value is derived by actual measurements and not from averaging.  An example is the measurement of a source as 1.000 000 volts, and the uncertainty was 1.1 x 10e-4 volts, and the tolerance of the test was computed as +/- 0.000 155 volts.  If we were to truncate the measurement to the 10 microvolt resolution, it can increase the chance that we are falsely calling the unit out of tolerance (false reject risk).  In this case even though it does not strictly follow the rule of keeping uncertainty and measurement resolution the same, I would carry the measured value out an extra digit every time.  As I often say, we need to evaluate each situation on its own merits, and try to avoid general rules, sometimes called “rules of thumb” if they do not apply.  #MetrologyMonday #FlukeMetrology

 

 

Гугл мне перевел 

Цитата

 

Метрологический понедельник! #62 Вспоминая правила округления
Джефф Гаст
Джефф Гаст
Старший директор по вопросам метрологии, соответствия и нормативного регулирования, главный корпоративный метролог Fluke Corporation, преподаватель, наставник и энтузиаст в области измерений.

1 апреля 2024 г.

Я вернулся домой после великолепной недели, проведенной на научной конференции по измерениям, и готов продолжить с того места, на котором мы остановились. Поскольку в сообщении №61 речь шла о значащих цифрах, я подумал, что было бы важно обновить правила округления.
Первая ссылка, которую я использую для округления, содержится в стандарте ISO 80000-1 «Количества и единицы измерения, часть 1: Общие положения», который был недавно обновлен в 2022 году. Округление означает замену величины данного числа другим числом, называемым округленным числом, выбранным из последовательность целых кратных выбранного диапазона округления. Например, диапазон округления 0,1 может составлять 12,1; 12,2; 12,3 и т. д., а диапазон округления 10 может составлять 1210; 1220; 1230 и т. д.
Если к данному числу ближе всего одно целое кратное, то оно принимается как округленное число. Например, если диапазон округления равен 0,1, то 12,223 будет равно 12,2; 12,251 — 12,3; а 12,275 — это 12,3.
Если рядом с данным числом находятся два последовательных целых кратных, можно использовать два разных правила.
Правило А – в качестве округленного числа выбирается четное кратное, поэтому, если диапазон округления равен 0,1, 12,25 равно 12,2; а 12,35 — это 12,4. Правило А может минимизировать ошибку округления для серии измерений.
Правило Б – в качестве округленного числа выбирается больший по величине множитель (если последнее число 5, округляем в большую сторону). Правило B иногда используется для компьютеров.
Я не могу не подчеркнуть, что обхожусь только один раз, на последнем этапе. Вот отличный пример, над которым я работал с одним из моих коллег-метрологов. Они исследовали эту ситуацию. Обратите внимание, что на рисунке ниже номинальное (прикладное) значение составляло 150,00 градусов, что представляет собой сопротивление, имитирующее температуру для показаний RTD. Тестируемое устройство выдает результаты измерения 150,0, поскольку разрешение устройства составляет 0,1 градуса. Однако погрешность измерения указана как 0,1 градуса, что, похоже, не имеет смысла.

Пример бессмысленного результата из-за округления
Мы углубились в процесс немного больше. Оказывается, по шине считывания RTD обеспечивается дополнительная цифра разрешения (0,01 градуса Цельсия), поэтому необработанные данные выглядели так.

Необработанные данные измерений всегда важны!
Мы обнаружили, что компьютерная программа была запрограммирована на получение среднего значения из 10 измерений (150,049), и, поскольку погрешность дисплея тестируемого устройства составляла 0,1 градуса, она округляла окончательное значение до 150,0. Однако программа преждевременно округлила разницу между приложенным и измеренным значениями, поэтому разница в 0,05 градуса округлилась до 0,1, что было указано как ошибка измерения. Если бы ошибка измерения была рассчитана как среднее измеренных значений, как и результат измерения, ошибка 0,049 градуса также была бы округлена до 0,0, и ошибка измерения соответствовала бы результату измерения.
Правило округления, которое я рекомендую использовать, содержится в NIST SP 811, Руководство по использованию международной системы единиц (СИ). Это очень хороший справочник, к тому же бесплатный. В разделе B.7.1 описано округление следующим образом:
• Если отбрасываемая цифра находится в диапазоне от 0 до 4, цифра диапазона округления не изменяется.
• Пример: 6,974 951 5, округленное до трех цифр, равно 6,97.
• Если отбрасываемая цифра равна 5 и хотя бы одна цифра после нее больше нуля, цифра, предшествующая 5, округляется на 1.
• Пример: 6,974 951 5, округленный до 2 цифр, равен 7,0.
• Пример: 6,974 951 5, округленное до 5 цифр, равно 6,9750.
• Если отбрасываемые цифры начинаются с 5, а все последующие цифры равны нулю, цифра, предшествующая 5, не изменяется, если она четная, и увеличивается на 1, если она нечетная.
• Пример: 6,974 951 5, округленное до 7 цифр, равно 6,974 952.
• Пример: 6,974 950 5, округленное до 7 цифр, равно 6,974 950.
• Обеспечивает симметричные пределы испытаний
Я знаю, что это звучит очень сложно, но для этого есть очень веская причина. Недавно я просматривал сертификат калибровки лаборатории, которая калибровала Fluke 5522A. Тестовая точка нормального выходного напряжения переменного тока для 30 мВ и 45 Гц сообщила, что пределы тестирования составляют от 29,990 до 30,011 мВ. Правильные пределы спецификации составляют от 29,9895 до 30,0105 мВ. Поскольку разрешение составляло 1 микровольт, значение 29,9895 округлялось до 29,990, а 30,0105 округлялось до 30,011 мВ, создавая пределы -10 мкВ и + 11 мкВ, что было несимметрично. Если бы использовался метод NIST SP 811, нижний предел был бы 29,990, потому что последняя цифра была 5, за ней стояли нули, а предыдущая цифра была нечетной, поэтому она увеличивалась на 1 от 9 до 10. Верхний предел был бы 30,010, потому что последняя цифра была бы нечетной. цифра была 5, а следующее за ней число не менялось, поскольку ноль не является нечетным. Как видите, используя этот метод дает нам симметричные ограничения и приносит гораздо большее удовлетворение клиенту.
Последнее, что я хочу сказать по этому вопросу, это то, что, хотя может быть желательно, чтобы разрешение измерения соответствовало разрешению заявленной неопределенности, когда мы пытаемся сделать заявления о соответствии, часто желательно иметь при себе измеренное значение на одну цифру больше, чем разрешение заявленной неопределенности, при условии, что измеренное значение получено путем фактических измерений, а не путем усреднения. Примером может служить измерение источника напряжением 1 000 000 вольт, неопределенность составила 1,1 x 10e-4 вольт, а допуск теста был рассчитан как +/- 0,000 155 вольт. Если бы мы сократили измерение до разрешения 10 микровольт, это могло бы увеличить вероятность того, что мы ошибочно выведем устройство за пределы допуска (риск ложного отклонения). В этом случае, даже несмотря на то, что это не строго соответствует правилу сохранения одинаковой неопределенности и разрешения измерения, я бы каждый раз добавлял к измеренному значению дополнительную цифру. Как я часто говорю, нам нужно оценивать каждую ситуацию по существу и стараться избегать общих правил, иногда называемых «эмпирическими правилами», если они неприменимы. #MetrologyMonday #FlukeMetrology

 

Упоминаются стандарт ISO 80000-1 «Количества и единицы измерения, часть 1: Общие положения», который был недавно обновлен в 2022 году и NIST SP 811, Руководство по использованию международной системы единиц (СИ)