Лекция: Правила округления чисел

Все числовые значения (числа), полученные в результате различного рода измерений (в том числе и геодезических), являются приближенными. Это объясняется тем, что измерительные приборы не являются абсолютно точными, а также тем, что на результаты измерений существенное влияние оказывают внешние условия, в которых проводятся измерения.

Опускание (отбрасывание) излишних цифр младших разрядов называется округлением чисел, а разность между округленным и неокругленным числами называется ошибкой округления.

При геодезических вычислениях числа округляют по правилу, предложенному Гауссом. Это правило состоит в следующем:

— если отбрасываемый остаток числа менее 0,5 единицы предыдущего разряда, оставшиеся цифры не изменяют.

Пример. Если принять число π равным 3,141 593, то оно, округленное до.пяти знаков после запятой, будет равно 3,141 59;

— если отбрасываемый остаток числа более 0,5 единицы предыдущего разряда, последнюю оставшуюся цифру увеличивают на единицу.

Пример. Число π, округленное до четырех знаков после запятой, будет равно 3,1416;

— если отбрасываемый остаток числа равен 0,5 единицы предыдущего разряда, число округляют в сторону четного.

Пример. Число 1,35 так же, как и число 1,45, округляется до 1,4.

Применение правила Гаусса при округлении позволяет:

— легко установить максимально возможную ошибку округления любого числа (она никогда не будет превышать 0,5 единицы последнего знака);

— значительно ослабить влияние ошибок округления на точность окончательного результата при действии с приближенными числами за счет компенсации ошибок округления, имеющих различные знаки – «плюс» и «минус».