Поверка ВНИИМом тепловых вакуумметров

[Логинов Владимир 820]

1 час назад, WiZain сказал:

А в методике нигде про округление результата не упомянуто? Может тут чисто математически, до целых десятков округляют. Тогда всё сходится

Мне кажется вы правы

Цитата

 

Правила  записи  чисел  по  СТ СЭВ  543 - 77

 

1. Значащие  цифры  данного числа - все  цифры  от  первой  слева, не  равной  нулю,  до  последней  справа.  При  этом  нули,  следующие  из  множителя  10,  не  учитывают.

           Примеры:

                а)  Число  12,0  имеет  три  значащие  цифры.

                б)  Число  30  имеет  две  значащие  цифры.

                в)   Число  120 . 10   имеет  три  значащие  цифры.

                г)    0,514 . 10    имеет  три  значащие  цифры.

                д)    0,0056  имеет  две  значащие  цифры.

 

2.  Если  необходимо  указать,  что  число  является  точным,  после  числа  указывают  слово  "точно"  или  последнюю  значащую  цифру  печатают  жирным  шрифтом.  Например,  в  печатном  тексте:  1  кВт . ч =  3600  Дж  (точно).

 

3.  Различают  записи  приближенных  чисел  по  количеству  значащих  цифр.

               Примеры.

                   а)  Различают  числа  2,4  и  2,40.  Запись  2,4  означает,  что  верны  только целые  и  десятые  доли,  истинное  значение  числа  может  быть, например, 2,43  и  2,38.  Запись  2,40  означает,  что  верны  и  сотые  доли:  истинное значение  числа  может  быть  2,403  и   2,398,  но  не  2,41  и  не  2,382.

                   б)  Запись  382  означает,  что  все  цифры  верны:  если  за  последнюю цифру  ручаться  нельзя,  то  число  должно  быть  записано  3,8  . 10 .

                   в)  Если  в  числе  4720  верны  лишь  две  первые  цифры,  оно  должно  быть быть  записано  47 * 10    или  4,7 *  10  .

                  

4.  Число,  для  которого  указывают  допустимое  отклонение,  должно  иметь последнюю  значащую  цифру  того  же  разряда,  как  и  последняя  значащая  цифра  отклонения.

                Примеры.

               а)  Правильно:  17,0  +  0,2.   Неправильно: 17  +  0,2  или  17,00  +  0,2.

               б)  Правильно:  12,13  +  0,17.    Неправильно:  12,13  +  0,2.

               в)  Правильно: 46,40  +  0,15.  Неправильно: 46,4  +  0,15  или 46,402 +  0,15.

 

5.  Числовые  значения  величины  и  её  погрешности  (отклонения)  целесообразно записывать  с  указанием  одной  и  той  же  единицы  величины.

                    Например:  (80,555  +  0,002)  кг.

 

6.  Интервалы  между  числовыми  значениями  величин  целесообразно  записывать:

     от  60  до  100,  свыше  120  до  150.

 

 

                       Правила  округления  чисел  по  СТ  СЭВ  543 - 77

 

1.  Округление  числа  представляет  собой  отбрасывание  значащих  цифр  справа  до  определенного  разряда  с  возможным  изменением  цифры  этого  разряда.

 

2.  В  случае,  если  первая  из  отбрасываемых  цифр  (считая  слева  направо)  менее  5,  то  последнюю  сохраняемую  цифру  не  меняют.

             Пример: Округление  числа  12,23  до  трех  значащих  цифр  дает  12,2.

 

3.  В  случае,  если  первая  из  отбрасываемых  цифр  (считая  слева  направо)  равна  5,  то  последнюю  сохраняемую  цифру  увеличивают  на  единицу.

             Пример:  Округление  числа  0,145  до  двух  цифр  дает  0,15.

 

      Примечание.  В  тех  случаях,  когда  следует  учитывать  результаты  предыдущих  округлений,  поступают  следующим  образом.

 

    Если  отбрасываемая  цифра  получена  в  результате  округления  в  меньшую  сторону,  то  последнюю  оставшуюся  цифру  увеличивают  на  единицу  (с  переходом  при  необходимости  в  следующие  разряды).

      Пример:  Округление  числа  0,25   (полученного  в  результате предыдущего  округления  числа  0,252)  дает  0,3 .

 

4.  В  случае,  если  первая  из  отбрасываемых  цифр  (считая  слева  направо)  более  5,  то  последнюю  сохраняемую  цифру  увеличивают  на  единицу.

             Пример:   Округление  числа  0,156  до  двух  значащих  цифр  дает  0,16.

 

Округление  выполняют  сразу  до  желаемого  количества  значащих  цифр,  а  не  по  этапам.

             Пример:  Округление  числа  565,46  до  трех  значащих  цифр  дает  565.

 

6.  Целые  числа  округляют  по  тем  же  правилам ,  что  и  дробные.

                                                                                                                                      3

         Пример:  Округление  числа  23456  до  двух  значащих  цифр  дает  23* 10   .  

 

±10 — значащих цифры две, значит все что до ±14,9999 округляется до ±10 и признается годным.

Изменено 31 Июля 2023 пользователем Логинов Владимир

[libra 521]

2 часа назад, Логинов Владимир сказал:

Мне кажется вы правы

±10 — значащих цифры две, значит все что до ±14,9999 округляется до ±10 и признается годным.

 

3 часа назад, WiZain сказал:

А в методике нигде про округление результата не упомянуто? Может тут чисто математически, до целых десятков округляют. Тогда всё сходится

 

3 часа назад, matan сказал:

Вакуумметры были, по ОТ относительная погрешность не более ±10% (в некотором диапазоне для этой модели), в протоколах же беспалевно так: 12%, 13%, 11% и т.п. (много, в том числе подряд - не единичный случай)

Ну конечно!!! Было бы 10% достоверность контроля составила бы 50%, но нам достаточно меньшего значения. Обозначьте сразу глубину падения.

[Grigoriy_Anakonda 0]

3 часа назад, Логинов Владимир сказал:

Мне кажется вы правы

±10 — значащих цифры две, значит все что до ±14,9999 округляется до ±10 и признается годным.

Если посмотреть случайно ВСЕ протоколы ВСЕХ центральных ЦСМов, то думаю процентов 50 протоколов не будут написаны в соответствии с правилами округления. Если погрешность целые (±10), то как записать правильно 14,99999? Разве 10? А не 15 ли? Возможно вы имели в виду 14,4999?
И если погрешность 10, то если я получаю 10,99, разве я должен округлить до 10?

Изменено 31 Июля 2023 пользователем Grigoriy_Anakonda

[LIBorisi4 147]

4 часа назад, Логинов Владимир сказал:

±10 — значащих цифры две, значит все что до ±14,9999 округляется до ±10 и признается годным.

Пятница..... вечер..... однако.... все объяснило бы.... но... 

 

 

Изменено 31 Июля 2023 пользователем LIBorisi4

[WiZain 11]

12 часов назад, Grigoriy_Anakonda сказал:

Если погрешность целые (±10), то как записать правильно 14,99999? Разве 10? А не 15 ли? Возможно вы имели в виду 14,4999?
И если погрешность 10, то если я получаю 10,99, разве я должен округлить до 10?

Если округлять до десятков, то да, из 10.99 будет один целый десяток! И из 14.999, как правильно заметили, будет один целый десяток! 15 уже округляется до 20. Понятно, что принято погрешности, в числе у которых в старшем разряде 1 или 2, округлять до второго разряда, но это из ГОСТа по обработке многократных измерений. В методиках его даже не видел, чтоб использовали, а математику никто не отменял 

Изменено 1 Августа 2023 пользователем WiZain