ГОСТ Р 50779.90—2014
Использование тех же формул Microsoft Excel для 6 знаков после запятой дает
х = 1,000010 кг,s = 0,000002 кг, которые в этом случае являются корректными.
Примечания:
1- Данные (4) были представлены в виде {1 + 10! (х, - 1)). где х - данные (2) из примера 1.
2 - Использование нестабильной формулы (3) достаточно для этих и сопоставимых данных, при
использовании компьютера с единицей округления 2.22 * 10 “ или меньше. Однако рекомендуется всегда
использовать формулу (1).
Пример 3 —Угол между двумя векторами.
Рассмотримвычислениеугла$ междудвумявекторамиа иb(см.[14]).
Математическая формула 0 = ЛОВ для вычисления угла имеет вид (см. рисунок 2):
в = cos
’(a Tb)(5)
0 = 2sin’
(6)
В
Рисунок 2 - Угол между двумя векторами
Формула (5) является более простой на вид и приемлема для решения задачи.
Различие формул особенно для применения в метрологии (см. ниже) тем не менее, заметно.
Предположим,чтовекторыпочтипараллельны,каквИС0 10360-6:2001,
где а Ь= 1 -6 ,0 < 6 « 1 .
В соответствии с (5)cos О = l —— = a ’ h = I - &,отсюдаО- у 2 5 .
При получении результатов для значений с плавающей запятой существует ошибка
округления q (см. определение 2.10). Для стандартного формата представления чисел с
плавающей запятой IEEE [1, 2], использующегося на многих компьютерах, q имеет значение
2,2 к 10’16. Так как самые маленькие 5 отличные от нуля, для которых (1 - 6) отлично от
единицы, на компьютере равны q/2, самым маленьким в при вычислении формулы (5)
является Jq, который равен приблизительно 1 * 10арад. Таким образом, угол, менее 1 * 10 в
рад не может быть обнаружен при использовании формулы (5) (если угол не равен нулю).
Значения в, получаемые по формуле (6), имеют меньшую по порядку величины (степени q)
относительную погрешность для любых а и Ь.
Этот пример имеет значение для реализации процедур, установленных в стандарте ИСО
10360-6:2001икасающихсятестированияпрограммногообеспечениядлявычисления
геометрических параметров на основе результатов измерений. Такие вычисления используют при
производственном контроле и при применении геометрических допусков. Стандарт требует, чтобы
единичный вектор, используемый в параметризации таких геометрических фигур как плоскости,
цилиндры и конусы и. полученный при тестировании программного обеспечения был сопоставлен
с контрольным решением, путем сравнения тестового и контрольного угла. Условием приемки
в стандарте установлен угол менее 10я рад. При использовании формулы (5) этот критерий не может
быть удовлетворен независимо от того, насколько близки тестовый и контрольный векторы (только
если угол не равен нулю). При использовании формулы (6) такая проблема не возникает.
Использование устойчивой формулы очень важно. Программное обеспечение для таких вычислений
10