Возможная неточность в ГОСТ 8.856.2-2005

[mrbond07 0]

Писал макрос для EXEL выполняющий расчет расхода по ГОСТ 8.586 - 2005, при отладке программы поправочный коэффициент, учитывающий шероховатость внутренней поверхности ИТ (Кш) не сходился с примером из приложения Д.3 ГОСТ 8.586.5 -2005. Анализируя ошибку пришел к выводу, что в тексте ГОСТ 8.586.2 - 2005 на 11 стр. в табл.2 не правильно указан коэфф. В2 = 0,76477, скорее всего он равен В2= -0,76477.

[jballa 69]

Писал макрос для EXEL выполняющий расчет расхода по ГОСТ 8.586 - 2005, при отладке программы поправочный коэффициент, учитывающий шероховатость внутренней поверхности ИТ (Кш) не сходился с примером из приложения Д.3 ГОСТ 8.586.5 -2005. Анализируя ошибку пришел к выводу, что в тексте ГОСТ 8.586.2 - 2005 на 11 стр. в табл.2 не правильно указан коэфф. В2 = 0,76477, скорее всего он равен В2= -0,76477.

Могу подтвердить ваше подозрение. С оригинальным значением B2 Ra_max получается 0.075 мм. Так как Ra = 0.047746 мм, Кш = 1.0.

С отрицательным B2 Кш будет точно как в примере. Поздравляю Вас, что нашли даже причину расхождения.

В примере Д.2 я тоже нашел неточность. Коэффициент истечения в третьем раунде, по-моему, 0.938848 и не 0.93888 как указано в примере. Можете проверить?

В общем, я считаю, что в примерах расчетов в стандарте, которые люди будут использовать для проверки своих имплементаций расчетов промежуточные и конечные результаты надо давать с 11-12 значащими цифрами, а не с шести как в данном случае. Округление надо сделать (если надо) на конечном результате

[jballa 69]

Тоже стоит посмотреть.

Поправки к ГОСТ 8.586.1.pdf

Поправки к ГОСТ 8.586.2.pdf

Поправки к ГОСТ 8.586.3.pdf

Поправки к ГОСТ 8.586.4.pdf

Поправки к ГОСТ 8.586.5.pdf

[+Oleg+ 8]

Писал макрос для EXEL выполняющий расчет расхода по ГОСТ 8.586 - 2005, при отладке программы поправочный коэффициент, учитывающий шероховатость внутренней поверхности ИТ (Кш) не сходился с примером из приложения Д.3 ГОСТ 8.586.5 -2005. Анализируя ошибку пришел к выводу, что в тексте ГОСТ 8.586.2 - 2005 на 11 стр. в табл.2 не правильно указан коэфф. В2 = 0,76477, скорее всего он равен В2= -0,76477.

Могу подтвердить ваше подозрение. С оригинальным значением B2 Ra_max получается 0.075 мм. Так как Ra = 0.047746 мм, Кш = 1.0.

С отрицательным B2 Кш будет точно как в примере. Поздравляю Вас, что нашли даже причину расхождения.

В примере Д.2 я тоже нашел неточность. Коэффициент истечения в третьем раунде, по-моему, 0.938848 и не 0.93888 как указано в примере. Можете проверить?

В общем, я считаю, что в примерах расчетов в стандарте, которые люди будут использовать для проверки своих имплементаций расчетов промежуточные и конечные результаты надо давать с 11-12 значащими цифрами, а не с шести как в данном случае. Округление надо сделать (если надо) на конечном результате

С учетом того, что все остальные данные тоже с "хвостом", должно быть 0.938849732

[jballa 69]

С учетом того, что все остальные данные тоже с "хвостом", должно быть 0.938849732

Точнее 0.938849733 но об этом не буду спорить :-).

В этом же примере есть и другая неточность. Для стали марки 12Х18Н9Т с коэффициентами а0 а1 и а2 из таблицы Г.1 ГОСТ 8.586.1 при 380 оС Кт получается 1.0064135 и не 1.00709 как в примере указано. Более того ни для одной марки стали Кт не будет 1.00709.

Ошибка или в примере или в коэффициентах таблицы Г.1?

Даже если брать Кт=1.00709 и не округлять другие промежуточные результаты, массовый расход получается 2.22880188 за место результата примера 2.22891.

[Comrad 74]

Думаю в этих случаях возникает проблема из-за округления.

Как пример, получили число 0.97844498765. После округления (не отображения!!!) результата до 6-го знака получим 0,978445, подставим в итерацию, применение коэффициента в итерации дает результат допускающий прекращения цикла. Но! Excel проводит вычисления с числами в которых очень много разрядов. И до выхода из цикла итераций можно получить еще несколько шагов 0.97844498769, 0.97844498799, 0.97844498999, 0.97844499999 и наконец 0,978445 которое и закончи все итерации, но результат расчета получится позднее на 4 шага, чем после округления.

Может быть немного сумбурно, но столкнулся с этим при расчете вместимости РГС и приведении результата измерения плотность к заданной температуре. А если почитать реализации о математики с плавающей точкой (float) становится страшно (ссылка) интересно.

[+Oleg+ 8]

С учетом того, что все остальные данные тоже с "хвостом", должно быть 0.938849732

Точнее 0.938849733 но об этом не буду спорить :-).

В этом же примере есть и другая неточность. Для стали марки 12Х18Н9Т с коэффициентами а0 а1 и а2 из таблицы Г.1 ГОСТ 8.586.1 при 380 оС Кт получается 1.0064135 и не 1.00709 как в примере указано. Более того ни для одной марки стали Кт не будет 1.00709.

Ошибка или в примере или в коэффициентах таблицы Г.1?

Даже если брать Кт=1.00709 и не округлять другие промежуточные результаты, массовый расход получается 2.22880188 за место результата примера 2.22891.

Ошибка в примере.

Если все составляющие в Д.2.2 рассчитать правильно, за исключением свойств пара, то С=0.938709, q=2.2294

[jballa 69]

Ошибка в примере.

Если все составляющие в Д.2.2 рассчитать правильно, за исключением свойств пара, то С=0.938709, q=2.2294

У меня до 9-ти значащих цифр С= 0.938709315, q=2.22940958. Сходимися?

[+Oleg+ 8]

Ошибка в примере.

Если все составляющие в Д.2.2 рассчитать правильно, за исключением свойств пара, то С=0.938709, q=2.2294

У меня до 9-ти значащих цифр С= 0.938709315, q=2.22940958. Сходимися?

У меня такие же цифры.