Основные правила вычислений

Вычисления — неотъемлемый элемент геодезических работ, как во время измерений, так и в процессе обработки их результатов. Способ и технические средства вычислений зависят от сложности и объема работы. Для вычислений используют различные вычислительные машины. В процессе работы пользуются справочными материалами, таблицами, номограммами.

При вычислении соблюдают общие требования, позволяющие уменьшать вероятность ошибок и получать результат наиболее простым способом:

• — прежде всего, выбирают рациональную схему (алгоритм), обеспечивающую простоту, наглядность и однотипность вычислений; например, результаты измерений и полевых вычислений записывают в стандартных журналах, а последующих (камеральных) вычислений — в бланках или ведомостях;
• — все вычисления сопровождаются контролем — текущим и заключительным. При текущем контроле проверяют правильность промежуточных вычислений, при заключительном — окончательного результата. Для этого вычисления выполняют два работника, параллельно и независимо друг от друга; либо результаты проверяют по контрольным формулам;
• — записи ведут четко и разборчиво; не допускается исправление неверно записанного или вычисленного числа по ранее написанному — ошибочное число зачеркивают одной линией и над ним пишут правильное число.

В геодезических вычислениях приходится иметь дело преимущественно с приближенными числами. Для того чтобы добиться наибольшей степени приближения, соблюдают следующие правила. В приближенном числе выделяют десятичные знаки, значащие цифры и верные цифры. Десятичными знаками считают все цифры, стоящие после запятой, значащими цифрами — все цифры числа, кроме нулей, стоящих перед первой и после последней значащими цифрами (например, в числе 0,0107 четыре десятичных знака и три значащие цифры).

Верными называются цифры числа, «заслуживающие доверия». Например, если при измерении линии с точностью до 1 м получается результат 285,41 м, верными будут цифры 285, последние две цифры неверные, «не заслуживающие доверия». При вычислениях удерживают такое количество значащих цифр, десятичных знаков, знаков логарифма, которое обеспечивает нужную точность результатов и не загружают вычисления неверными или ненужными цифрами.

В тех случаях, когда приближенное число содержит излишнее количество неверных значащих цифр, прибегают к округлению. Обычно руководствуются следующим правилом: при выполнении приближенных вычислений число значащих цифр промежуточных результатов не должно превышать числа верных цифр более чем на одну или две единицы. Окончательный результат может содержать не более одной лишней значащей цифры. Числа округляют по общим правилам: если следующая после оставляемой цифры меньше пяти, ее и последующие цифры отбрасывают, если меньше пяти — к последней оставляемой цифре прибавляют единицу, например, число л последовательно округляют так: 3,14 159; 1,1416; 3,142; 3,14.

Если в числе последняя цифра 5, ее округляют до четной цифры, пример, 10,375 — до 10,38; 0,245 — до 0,24.

При выполнении арифметических действий с приближенными числами целесообразно руководствоваться следующими правилами:

• — при сложении или вычитании чисел с неодинаковым количеством десятичных знаков оставляют столько десятичных знаков, сколько их имеет число с наименьшим количеством десятичных знаков, плюс один запасной знак. В сумме или разности оставляют столько десятичных знаков, сколько имеет число с наименьшим количеством знаков; при умножении или делении чисел с неодинаковым количеством;
• — значащих цифр оставляют столько значащих цифр, сколько их имеет число с наименьшим количеством значащих цифр, плюс одна запасная цифра. В произведении или частном сохраняют столько значащих цифр, сколько их имеет число с наименьшим количеством значащих цифр;
• — при возведении числа в степень в результате оставляют столько значащих цифр, сколько их было в /числе, возводимом в степень;
• — при извлечении корня из числа в результате сохраняют столько значащих цифр, сколько верных цифр имеет подкоренное число.

При вычислениях, связанных с умножением и делением чисел, возведением в степень и извлечением корня, применяют логарифмический, нелогарифмический (натуральный) и бестабличный способы, наиболее часто — нелогарифмический способ, основанный на применении вычислительных машин.