Логинов Владимир 825 Опубликовано 31 Июля 2023 Жалоба Поделиться Опубликовано 31 Июля 2023 (изменено) 1 час назад, WiZain сказал: А в методике нигде про округление результата не упомянуто? Может тут чисто математически, до целых десятков округляют. Тогда всё сходится Мне кажется вы правы Цитата Правила записи чисел по СТ СЭВ 543 - 77 1. Значащие цифры данного числа - все цифры от первой слева, не равной нулю, до последней справа. При этом нули, следующие из множителя 10, не учитывают. Примеры: а) Число 12,0 имеет три значащие цифры. б) Число 30 имеет две значащие цифры. в) Число 120 . 10 имеет три значащие цифры. г) 0,514 . 10 имеет три значащие цифры. д) 0,0056 имеет две значащие цифры. 2. Если необходимо указать, что число является точным, после числа указывают слово "точно" или последнюю значащую цифру печатают жирным шрифтом. Например, в печатном тексте: 1 кВт . ч = 3600 Дж (точно). 3. Различают записи приближенных чисел по количеству значащих цифр. Примеры. а) Различают числа 2,4 и 2,40. Запись 2,4 означает, что верны только целые и десятые доли, истинное значение числа может быть, например, 2,43 и 2,38. Запись 2,40 означает, что верны и сотые доли: истинное значение числа может быть 2,403 и 2,398, но не 2,41 и не 2,382. б) Запись 382 означает, что все цифры верны: если за последнюю цифру ручаться нельзя, то число должно быть записано 3,8 . 10 . в) Если в числе 4720 верны лишь две первые цифры, оно должно быть быть записано 47 * 10 или 4,7 * 10 . 4. Число, для которого указывают допустимое отклонение, должно иметь последнюю значащую цифру того же разряда, как и последняя значащая цифра отклонения. Примеры. а) Правильно: 17,0 + 0,2. Неправильно: 17 + 0,2 или 17,00 + 0,2. б) Правильно: 12,13 + 0,17. Неправильно: 12,13 + 0,2. в) Правильно: 46,40 + 0,15. Неправильно: 46,4 + 0,15 или 46,402 + 0,15. 5. Числовые значения величины и её погрешности (отклонения) целесообразно записывать с указанием одной и той же единицы величины. Например: (80,555 + 0,002) кг. 6. Интервалы между числовыми значениями величин целесообразно записывать: от 60 до 100, свыше 120 до 150. Правила округления чисел по СТ СЭВ 543 - 77 1. Округление числа представляет собой отбрасывание значащих цифр справа до определенного разряда с возможным изменением цифры этого разряда. 2. В случае, если первая из отбрасываемых цифр (считая слева направо) менее 5, то последнюю сохраняемую цифру не меняют. Пример: Округление числа 12,23 до трех значащих цифр дает 12,2. 3. В случае, если первая из отбрасываемых цифр (считая слева направо) равна 5, то последнюю сохраняемую цифру увеличивают на единицу. Пример: Округление числа 0,145 до двух цифр дает 0,15. Примечание. В тех случаях, когда следует учитывать результаты предыдущих округлений, поступают следующим образом. Если отбрасываемая цифра получена в результате округления в меньшую сторону, то последнюю оставшуюся цифру увеличивают на единицу (с переходом при необходимости в следующие разряды). Пример: Округление числа 0,25 (полученного в результате предыдущего округления числа 0,252) дает 0,3 . 4. В случае, если первая из отбрасываемых цифр (считая слева направо) более 5, то последнюю сохраняемую цифру увеличивают на единицу. Пример: Округление числа 0,156 до двух значащих цифр дает 0,16. Округление выполняют сразу до желаемого количества значащих цифр, а не по этапам. Пример: Округление числа 565,46 до трех значащих цифр дает 565. 6. Целые числа округляют по тем же правилам , что и дробные. 3 Пример: Округление числа 23456 до двух значащих цифр дает 23* 10 . ±10 — значащих цифры две, значит все что до ±14,9999 округляется до ±10 и признается годным. Изменено 31 Июля 2023 пользователем Логинов Владимир Цитата Ссылка на комментарий Поделиться на других сайтах Прочее
libra 522 Опубликовано 31 Июля 2023 Жалоба Поделиться Опубликовано 31 Июля 2023 2 часа назад, Логинов Владимир сказал: Мне кажется вы правы ±10 — значащих цифры две, значит все что до ±14,9999 округляется до ±10 и признается годным. 3 часа назад, WiZain сказал: А в методике нигде про округление результата не упомянуто? Может тут чисто математически, до целых десятков округляют. Тогда всё сходится 3 часа назад, matan сказал: Вакуумметры были, по ОТ относительная погрешность не более ±10% (в некотором диапазоне для этой модели), в протоколах же беспалевно так: 12%, 13%, 11% и т.п. (много, в том числе подряд - не единичный случай) Ну конечно!!! Было бы 10% достоверность контроля составила бы 50%, но нам достаточно меньшего значения. Обозначьте сразу глубину падения. Цитата Ссылка на комментарий Поделиться на других сайтах Прочее
Grigoriy_Anakonda 0 Опубликовано 31 Июля 2023 Автор Жалоба Поделиться Опубликовано 31 Июля 2023 (изменено) 3 часа назад, Логинов Владимир сказал: Мне кажется вы правы ±10 — значащих цифры две, значит все что до ±14,9999 округляется до ±10 и признается годным. Если посмотреть случайно ВСЕ протоколы ВСЕХ центральных ЦСМов, то думаю процентов 50 протоколов не будут написаны в соответствии с правилами округления. Если погрешность целые (±10), то как записать правильно 14,99999? Разве 10? А не 15 ли? Возможно вы имели в виду 14,4999? И если погрешность 10, то если я получаю 10,99, разве я должен округлить до 10? Изменено 31 Июля 2023 пользователем Grigoriy_Anakonda Цитата Ссылка на комментарий Поделиться на других сайтах Прочее
LIBorisi4 148 Опубликовано 31 Июля 2023 Жалоба Поделиться Опубликовано 31 Июля 2023 (изменено) 4 часа назад, Логинов Владимир сказал: ±10 — значащих цифры две, значит все что до ±14,9999 округляется до ±10 и признается годным. Пятница..... вечер..... однако.... все объяснило бы.... но... Изменено 31 Июля 2023 пользователем LIBorisi4 Цитата Ссылка на комментарий Поделиться на других сайтах Прочее
WiZain 11 Опубликовано 1 Августа 2023 Жалоба Поделиться Опубликовано 1 Августа 2023 (изменено) 12 часов назад, Grigoriy_Anakonda сказал: Если погрешность целые (±10), то как записать правильно 14,99999? Разве 10? А не 15 ли? Возможно вы имели в виду 14,4999? И если погрешность 10, то если я получаю 10,99, разве я должен округлить до 10? Если округлять до десятков, то да, из 10.99 будет один целый десяток! И из 14.999, как правильно заметили, будет один целый десяток! 15 уже округляется до 20. Понятно, что принято погрешности, в числе у которых в старшем разряде 1 или 2, округлять до второго разряда, но это из ГОСТа по обработке многократных измерений. В методиках его даже не видел, чтоб использовали, а математику никто не отменял Изменено 1 Августа 2023 пользователем WiZain Цитата Ссылка на комментарий Поделиться на других сайтах Прочее
30 сообщений в этой теме
Рекомендуемые сообщения
Присоединиться к обсуждению
Вы можете ответить сейчас, а зарегистрироваться позже. Если у вас уже есть аккаунт, войдите, чтобы ответить от своего имени.