Рассмотрим обработку результатов прямых измерений. При прямом измерении некоторой физической величины А выполняют следующие действия:
1) измеряют физическую величину n раз (А1, А2...Аn);
2) находят среднее значение измеряемой величины Аср по формуле;
3) находят абсолютные погрешности каждого измерения и среднюю абсолютную погрешность всей серии измерений по формуле; в качестве абсолютной погрешности берут либо среднюю абсолютную погрешность, либо приборную погрешность (в зависимости от того, какая из этих погрешностей больше);
4) записывают результаты измерений в виде, представленном формулой;
5) округляют абсолютную погрешность результата до двух значащих цифр, если первая из них 1 или 2, и до одной значащей цифры во всех остальных случаях; среднее значение измеряемой величины округляется или уточняется.
6) подсчитывают относительную погрешность результата.
Пример. Измерение диаметра d шарика производилось пять раз с помощью микрометра, абсолютная погрешность которого = ± 0,01 мм.
Результаты измерения диаметра шарика: d1 = 5,27 мм, d2 = 5,30 мм, d3 = 5,28 мм, d4 = 5,32 мм, d5 = 5,28 мм.