Правила округлении результатов измерений

Наименьшие разряды числовых значений результатов измерений должны быть такими же, как наименьшие разряды числовых значений среднего квадратического отклонения абсолютной погрешности измерений или значений границ, в которых находится абсолютная погрешность измерений (или статистических оценок этих характеристик погрешности).

Числовое значение результата измерений представляется так, чтобы оно оканчивалось десятичным знаком того же разряда, какой имеет погрешность этого результата, например, 1213±0,17.

Числовые значения именованной физической величины и ее погрешности (отклонения) надо записывать с указанием размерности единицы физической величины, например,(80,550±0,002) кг.

Значащие цифры числа — это все цифры от первой слева, не равной нулю, до последней записанной справа цифры. При этом нули в множителе 10 не учитываются.

В приближенном числе различают верные и сомнительные цифры.

Верные цифры приближенного числа определяют по его абсолютной погрешности.

Принято считать:

• а) если отличная от нуля первая (слева) цифра абсолютной погрешности равна или меньше 5, то все цифры приближенного числа, расположенные левее, будут верными;
• б) если эта цифра абсолютной погрешности больше 5, то верными цифрами приближенного числа будут только те, которые расположены на одну цифру того же разряда, к которому она принадлежит.

Рекомендуется [6] записывать приближенные числа так, чтобы все цифры были верными и только одна, последняя была сомнительной.

В окончательной записи погрешность измерения принято выражать числом с одним или двумя значащими цифрами.

Две значащие цифры приводят в случае выполнения точных измерений.

Эмпирически были установлены следующие правила округления рассчитанного значения погрешности и полученного результата измерений:

• а) погрешность результата измерения указывается двумя значащими цифрами, если первая из них равна 1 и 2, и одной, — если первая цифра равна 3 или более;
• б) результат измерения округляется до того же десятичного знака, которым оканчивается округленное значение абсолютной погрешности. Если десятичная дробь в числовом значении результата измерений оканчивается нулями, то нули отбрасываются до того разряда, который соответствует разряду числового значения погрешности;
• в) если цифра старшего из отбрасываемых разрядов меньше 5, то остающиеся цифры в числе не изменяют. Если эта цифра равна или больше 5, то последнюю оставляемую цифру увеличивают на единицу. Лишние цифры в целых числах заменяют нулями, а в десятичных дробях отбрасывают. Например, числовое значение результата измерения составляет 25,458 при погрешности результата, выраженной пределами ±0,02; округление результата будет 25,46. Если пределы погрешности имеют ±0,002, то числовое значение результата сохраняется полностью. Числовое значение результата измерений 105 553 получено с погрешностью ±0,0005 ±0,0005. В нем сохраняются четыре значащие цифры и округление, даст число 105 600; если числовое значение результата 105,553, то при тех же условиях округление даст число 105,6. Или еще пример: Число 6783,6 округляют до 6784, число 5499,7 — до 5500, число 12,34 501 — до 12,35;
• г) если отбрасываемая цифра равна пяти, а следующие за ней цифры неизвестны (отсутствуют) или нули, то последнюю сохраняемую цифру числа не изменяют, если она четная, и увеличивают на единицу, если она нечетная. Число 105,5 при сохранении трех значащих цифр округляют до 106. Еще пример: Число 1234,50 округляют до 1234; число 5465,50 — до 5466; число 43 210,500-до 43 210;
• д) округление производится лишь в окончательном ответе, а все предварительные вычисления проводят с одним — двумя лишними знаками (или числом разрядов, которые удастся получить).

Таким образом, при выполнении вычислений может быть оставлена (как было сказано выше) одна сомнительная цифра, а в окончательном результате, в соответствии со стандартом, оставлять в приближенном числе только верные цифры.

Если руководствоваться этими правилами округления, то количество значащих цифр в числовом значении результата измерений дает возможность ориентировочно судить о точности измерения.

Предельная погрешность, обусловленная округлением, равна половине единицы последнего разряда числового значения результата измерения.