Задача № 1. Округление результатов измерений

При выполнении измерений важно соблюдать определенные правила округления и записи их результатов в технической документации, так как при несоблюдении этих правил возможны существенные ошибки в интерпретации результатов измерений.

Правила записи чисел

1. Значащие цифры данного числа - все цифры от первой слева, не равной нулю, до последней справа. При этом нули, следующие из множителя 10, не учитывают.

Примеры.

а) Число 12,0 имеет три значащие цифры.

б) Число 30 имеет две значащие цифры.

в) Число 12010 8 имеет три значащие цифры.

г) 0,51410 -3 имеет три значащие цифры.

д) 0,0056 имеет две значащие цифры.

2. Если необходимо указать, что число является точным, после числа указывают слово "точно" или последнюю значащую цифру печатают жирным шрифтом. Например: 1 кВт / ч = 3600 Дж (точно) или 1 кВт / ч = 3600 Дж.

3. Различают записи приближенных чисел по количеству значащих цифр. Например, различают числа 2,4 и 2,40. Запись 2,4 означает, что верны только целые и десятые доли, истинное значение числа может быть, например, 2,43 и 2,38. Запись 2,40 означает, что верны и сотые доли: истинное значение числа может быть 2,403 и 2,398, но не 2,41 и не 2,382. Запись 382 означает, что все цифры верны: если за последнюю цифру ручаться нельзя, то число должно быть записано 3,810 2 . Если в числе 4720 верны лишь две первые цифры, оно должно быть записано в виде: 4710 2 или 4,710 3 .

4. Число, для которого указывают допустимое отклонение, должно иметь последнюю значащую цифру того же разряда, как и последняя значащая цифра отклонения.

Примеры.

а) Правильно: 17,0 + 0,2. Неправильно: 17 + 0,2 или 17,00 + 0,2.

б) Правильно: 12,13+ 0,17. Неправильно: 12,13+ 0,2.

в) Правильно: 46,40+ 0,15. Неправильно: 46,4+ 0,15 или 46,402+ 0,15.

5. Числовые значения величины и её погрешности (отклонения) целесообразно записывать с указанием одной и той же единицы величины. Например: (80,555 + 0,002) кг.

6. Интервалы между числовыми значениями величин иногда целесообразно записывать в текстовом виде, тогда предлог "от" означает "", предлог "до"– "", предлог "свыше" – ">", предлог "менее" – "<":

"d принимает значения от 60 до 100" означает "60d 100",

"d принимает значения свыше 120 менее 150" означает "120 <d < 150",

"d принимает значения свыше 30 до 50" означает "30 <d 50".

Правила округления чисел

1. Округление числа представляет собой отбрасывание значащих цифр справа до определенного разряда с возможным изменением цифры этого разряда.

2. В случае если первая из отбрасываемых цифр (считая слева направо) менее 5, то последнюю сохраняемую цифру не меняют.

Пример: Округление числа 12,23 до трех значащих цифр дает 12,2.

3. В случае если первая из отбрасываемых цифр (считая слева направо) равна 5, то последнюю сохраняемую цифру увеличивают на единицу.

Пример: Округление числа 0,145 до двух цифр дает 0,15.

Примечание . В тех случаях, когда следует учитывать результаты предыдущих округлений, поступают следующим образом.

4. Если отбрасываемая цифра получена в результате округления в меньшую сторону, то последнюю оставшуюся цифру увеличивают на единицу (с переходом при необходимости в следующие разряды) , иначе – наоборот. Это касается и дробных и целых чисел.

Пример: Округление числа 0,25 (полученного в результате предыдущего округления числа 0,252) дает 0,3.

4. В случае если первая из отбрасываемых цифр (считая слева направо) более 5, то последнюю сохраняемую цифру увеличивают на единицу.

Пример: Округление числа 0,156 до двух значащих цифр дает 0,16.

5. Округление выполняют сразу до желаемого количества значащих цифр, а не по этапам.

Пример: Округление числа 565,46 до трех значащих цифр дает 565.

6. Целые числа округляют по тем же правилам, что и дробные.

Пример: Округление числа 23456 до двух значащих цифр дает 2310 3

Числовое значение результата измерения должно оканчиваться цифрой того же разряда, что и значение погрешности.

Пример: Число 235,732 + 0,15 должно быть округлено до 235,73 + 0,15, но не до 235,7 + 0,15.

7. Если первая из отбрасываемых цифр (считая слева направо) меньше пяти, то остающиеся цифры не меняются.

Пример: 442,749+ 0,4 округляется до 442,7+ 0,4.

8. Если первая из отбрасываемых цифр больше или равна пяти, то последняя сохраняемая цифра увеличивается на единицу.

Пример: 37,268 + 0,5 округляется до 37,3 + 0,5; 37,253 + 0,5 должно быть округлено до 37,3 + 0,5.

9. Округление следует выполнять сразу до желаемого числа значащих цифр, поэтапное округление может привести к ошибкам.

Пример: Поэтапное округление результата измерения 220,46+ 4 дает на первом этапе 220,5+ 4 и на втором 221+ 4, в то время как правильный результат округления 220+ 4.

10. Если погрешность средств измерения указывается всего с одной или двумя значащими цифрами, а рассчетное значение погрешности получают с большим числом знаков, в окончательном значении рассчитанной погрешности должны быть оставлены соответственно только первые одна или две значащие цифры. При этом, если полученное число начинается с цифр 1 или 2, то отбрасывание второго знака приводит к очень большой ошибке (до 3050 %), что недопустимо. Если же полученное число начинается с цифры 3 и более, например, с цифры 9, то сохранение второго знака, т.е. указание погрешности, например, 0,94 вместо 0,9, является дезинформацией, так как исходные данные не обеспечивают такой точности.

Исходя из этого на практике установилось такое правило: если полученное число начинается со значащей цифры, равной или большей 3, то в нем сохраняется лишь она одна; если же оно начинается со значащих цифр, меньших 3, т.е. с цифр 1 и 2, то в нем сохраняют две значащих цифры. В соответствии с этим правилом установлены и нормируемые значения погрешностей средств измерений: в числах 1,5 и 2,5 % указываются две значащих цифры, но в числах 0,5; 4; 6 % указывается лишь одна значащая цифра.

Пример: На вольтметре класса точности 2,5 с пределом измерений х К = 300 В был получен отсчет измеряемого напряжения х = 267,5 В. В каком виде должен быть записан результат измерения в отчете?

Расчет погрешности удобнее вести в следующем порядке: вначале необходимо найти абсолютную погрешность, а затем – относительную. Абсолютная погрешность х =  0 х К /100, для приведенной погрешности вольтметра  0 = 2,5 % и пределов измерения (диапазона измерения) прибора х К = 300 В: х = 2,5300/100 = 7,5 В ~ 8 В; относительная погрешность  = х 100/х = 7,5100/267,5 = 2,81 % ~ 2,8 % .

Так как первая значащая цифра значения абсолютной погрешности (7,5 В) больше трех, то это значение должно быть округлено по обычным правилам округления до 8 В, но в значении относительной погрешности (2,81 %) первая значащая цифра меньше 3, поэтому здесь должны быть сохранены в ответе два десятичных разряда и указано  = 2,8 %. Полученное значение х = 267,5 В должно быть округлено до того же десятичного разряда, которым оканчивается округленное значение абсолютной погрешности, т.е. до целых единиц вольт.

Таким образом, в окончательном ответе должно быть сообщено: "Измерение произведено с относительной погрешностью = 2,8 % . Измеренное напряжениеХ = (268+ 8) В".

При этом более наглядно указать пределы интервала неопределенности измеренной величины в виде Х = (260276) В или 260 ВX276 В.

В некоторых случаях, точное число при делении определенной суммы на конкретное число невозможно определить в принципе. Например, при делении 10 на 3, у нас получается 3,3333333333…..3, то есть, данное число невозможно использовать для подсчета конкретных предметов и в других ситуациях. Тогда данное число следует привести к определенному разряду, например, к целому числу или к числу с десятичным разрядом. Если мы приведем 3,3333333333…..3 к целому числу, то получим 3, а приводя 3,3333333333…..3 к числу с десятичным разрядом, получим 3,3.

Правила округления

Что такое округление? Это отбрасывание нескольких цифр, которые являются последними в ряду точного числа. Так, следуя нашему примеру, мы отбросили все последние цифры, чтобы получить целое число (3) и отбросили цифры, оставив только разряды десятков (3,3). Число можно округлять до сотых и тысячных, десятитысячных и прочих чисел. Все зависит от того, насколько точное число необходимо получить. Например, при изготовлении медицинских препаратов, количество каждого из ингредиентов лекарства берется с наибольшей точностью, поскольку даже тысячная грамма может привести к летальному исходу. Если же необходимо подсчитать, какая успеваемость учеников в школе, то чаще всего используется число с десятичным или с сотым разрядом.

Рассмотрим иной пример, в котором применяются правила округления. Например, имеется число 3,583333, которое необходимо округлить до тысячных - после округления, за запятой у нас должно остаться три цифры, то есть результатом станет число 3,583. Если же это число округлять до десятых, то у нас получится не 3,5, а 3,6, поскольку после «5» стоит цифра «8», которая приравнивается уже к «10» во время округления. Таким образом, следуя правилам округления чисел, необходимо знать, если цифры больше «5», то последняя цифра, которую необходимо сохранить, будет увеличена на 1. При наличии цифры, меньшей, чем «5», последняя сохраняемая цифра остается неизменной. Такие правила округления чисел применяются независимо от того, до целого числа или до десятков, сотых и т.д. необходимо округлить число.

В большинстве случаев, при необходимости округления числа, в котором последняя цифра «5», этот процесс выполняется неправильно. Но существует еще и такое правило округления, которое касается именно таких случаев. Рассмотрим на примере. Необходимо округлить число 3,25 до десятых. Применяя правила округления чисел, получим результат 3,2. То есть, если после «пяти» нет цифры или стоит ноль, то последняя цифра остается неизменной, но только при условии, что она является четной - в нашем случае «2» - это четная цифра. Если бы нам необходимо было выполнить округление 3,35, то результатом бы стало число 3,4. Поскольку, в соответствии с правилами округления, при наличии нечетной цифры перед «5», которую необходимо убрать, нечетная цифра увеличивается на 1. Но только при условии, что после «5» нет значащих цифр. Во многих случаях, могут применяться упрощенные правила, согласно которым, при наличии за последней сохраняемой цифрой значений цифр от 0 до 4, сохраняемая цифра не изменяется. При наличии других цифр, последняя цифра увеличивается на 1.

Числа округляют и до других разрядов - десятых, сотых, десятков, сотен и т. д.

Если число округляют до какого-нибудь разряда, то все следующие за этим разрядом цифры заменяют нулями, а если они стоят после запятой, то их отбрасывают.

Правило №1. Если первая из отбрасываемых цифр больше или равняется 5, то последняя из сохраняемых цифр усиливается, т. е. увеличивается на единицу.

Пример 1. Дано число 45,769, которое нужно округлить до десятых. Первая отбрасываемая цифра - 6 ˃ 5. Следовательно, последняя из сохраняемых цифр (7) усиливается, т. е. увеличивается на единицу. И, таким образом, округленное число будет - 45,8.

Пример 2. Дано число 5,165, которое нужно округлить до сотых. Первая отбрасываемая цифра – 5 = 5. Следовательно, последняя из сохраняемых цифр (6) усиливается, т. е. увеличивается на единицу. И, таким образом, округленное число будет - 5,17.

Правило №2. Если первая из отбрасываемых цифр меньше, чем 5, то усиление не делается.

Пример: Дано число 45,749, которое нужно округлить до десятых. Первая отбрасываемая цифра - 4

Правило №3. Если отбрасываемая цифра 5, а за ней нет значащих цифр, то округление производится на ближайшее четное число. Т. е. последняя цифра остается неизменной, если она четная и усиливается, если - нечетная.

Пример 1: Округляя число 0,0465 до третьего десятичного знака, пишем - 0,046. Усиления не делаем, т. к. последняя сохраняемая цифра (6) - четная.

Пример 2. Округляя число 0,0415 до третьего десятичного знака, пишем - 0,042. Усиления делаем, т. к. последняя сохраняемая цифра (1) - нечетная.

При округлении оставляют лишь верные знаки, остальные отбрасывают.

Правило 1. Округление достигается простым отбрасыванием цифр, если первая из отбрасываемых цифр меньше, чем 5.

Правило 2. Если первая из отбрасываемых цифр больше, чем 5, то последняя цифра увеличивается на единицу. Последняя цифра увеличивается также и в том случае, когда первая из отбрасываемых цифр 5, а за ней есть одна или несколько цифр, отличных от нуля. Например, различные округления числа 35,856 будут 35,86; 35,9; 36.

Правило 3. Если отбрасываемая цифра равна 5, а за ней нет значащих цифр, то округление производится на ближайшее четное число, т.е. последняя сохраняемая цифра остается неизменной, если она четная и увеличивается на единицу, если она нечетная. Например, 0,435 округляем до 0,44; 0,465 округляем до 0,46.

8. ПРИМЕР ОБРАБОТКИ РЕЗУЛЬТАТОВ ИЗМЕРЕНИЙ

Определение плотности твердых тел. Предположим, твердое тело имеет форму цилиндра. Тогда плотность ρ может быть определена по формуле:

где D – диаметр цилиндра, h – его высота, m – масса.

Пусть в результате измерений m, D, и h получены следующие данные:

Определим среднее значение D̃:

Найдем погрешности отдельных измерений и их квадраты

Определим среднюю квадратичную погрешность серии измерений:

Задаем значение надежности α = 0,95 и по таблице находим коэффициент Стьюдента t α . n =2,8 (для n = 5). Определяем границы доверительного интервала:

Так как вычисленное значение ΔD = 0,07 мм значительно превышает абсолютную ошибку микрометра, равную 0,01 мм (измерение производится микрометром), то полученное значение может служить оценкой границы доверительного интервала:

D = D ̃ ± ΔD ; D = (12,61 ±0,07) мм.

Определим значение h̃:

Следовательно:

Для α = 0,95 и n = 5 коэффициент Стьюдента t α , n = 2,8.

Определяем границы доверительного интервала

Так как полученное значение Δh = 0,11 мм того же порядка, что и ошибка штангенциркуля, равная 0,1 мм (измерение h производится штангенциркулем), то границы доверительного интервала следует определить по формуле:

Следовательно:

Вычислим среднее значение плотности ρ:

Найдем выражение для относительной погрешности:

где

7. ГОСТ 16263-70 Метрология. Термины и определения.

8. ГОСТ 8.207-76 Прямые измерения с многократными наблюдениями. Методы обработки результатов наблюдений.

9. ГОСТ 11.002-73 (ст. СЭВ 545-77) Правила оценки аномальности результатов наблюдений.

Царьковская Надежда Ивановна

Сахаров Юрий Георгиевич

Общая физика

Методические указания к выполнению лабораторных работ «Введение в теорию погрешностей измерений» для студентов всех специальностей

Формат 60*84 1/16 Объем 1 уч.-изд. л. Тираж 50 экз.

Заказ ______ Бесплатно

Брянская государственная инженерно-технологическая академия

Брянск, проспект Станке Димитрова, 3, БГИТА,

Редакционно-издательский отдел

Отпечатано – подразделение оперативной печати БГИТА

Округляют числа в Excel несколькими способами. С помощью формата ячеек и с помощью функций. Эти два способа следует различать так: первый только для отображения значений или вывода на печать, а второй способ еще и для вычислений и расчетов.

С помощью функций возможно точное округление, в большую или меньшую сторону, до заданного пользователем разряда. А полученные значения в результате вычислений, можно использовать в других формулах и функциях. В то же время округление с помощью формата ячеек не даст желаемого результата, и результаты вычислений с такими значениями будут ошибочны. Ведь формат ячеек, по сути, значение не меняет, меняется лишь его способ отображения. Чтобы в этом быстро и легко разобраться и не совершать ошибок, приведем несколько примеров.

Как округлить число форматом ячейки

Впишем в ячейку А1 значение 76,575. Щелкнув правой кнопкой мыши, вызываем меню «Формат ячеек». Сделать то же самое можно через инструмент «Число» на главной странице Книги. Или нажать комбинацию горячих клавиш CTRL+1.

Выбираем числовой формат и устанавливаем количество десятичных знаков – 0.

Результат округления:

Назначить количество десятичных знаков можно в «денежном» формате, «финансовом», «процентном».

Как видно, округление происходит по математическим законам. Последняя цифра, которую нужно сохранить, увеличивается на единицу, если за ней следует цифра больше или равная «5».

Особенность данного варианта: чем больше цифр после запятой мы оставим, тем точнее получим результат.

Как правильно округлить число в Excel

С помощью функции ОКРУГЛ() (округляет до необходимого пользователю количества десятичных разрядов). Для вызова «Мастера функций» воспользуемся кнопкой fx. Нужная функция находится в категории «Математические».

Аргументы:

1. «Число» - ссылка на ячейку с нужным значением (А1).
2. «Число разрядов» - количество знаков после запятой, до которого будет округляться число (0 – чтобы округлить до целого числа, 1 – будет оставлен один знак после запятой, 2 – два и т.д.).

Теперь округлим целое число (не десятичную дробь). Воспользуемся функцией ОКРУГЛ:

• первый аргумент функции – ссылка на ячейку;
• второй аргумент – со знаком «-» (до десятков – «-1», до сотен – «-2», чтобы округлить число до тысяч – «-3» и т.д.).

Как округлить число в Excel до тысяч?

Пример округления числа до тысяч:

Формула: =ОКРУГЛ(A3;-3).

Округлить можно не только число, но и значение выражения.

Допустим, есть данные по цене и количеству товара. Необходимо найти стоимость с точностью до рубля (округлить до целого числа).

Первый аргумент функции – числовое выражение для нахождения стоимости.

Как округлить в большую и меньшую сторону в Excel

Для округления в большую сторону – функция «ОКРУГЛВВЕРХ».

Первый аргумент заполняем по уже знакомому принципу – ссылка на ячейку с данными.

Второй аргумент: «0» - округление десятичной дроби до целой части, «1» - функция округляет, оставляя один знак после запятой, и т.д.

Формула: =ОКРУГЛВВЕРХ(A1;0).

Результат:

Чтобы округлить в меньшую сторону в Excel, применяется функция «ОКРУГЛВНИЗ».

Пример формулы: =ОКРУГЛВНИЗ(A1;1).

Полученный результат:

Формулы «ОКРУГЛВВЕРХ» и «ОКРУГЛВНИЗ» используются для округления значений выражений (произведения, суммы, разности и т.п.).

Как округлить до целого числа в Excel?

Чтобы округлить до целого в большую сторону используем функцию «ОКРУГЛВВЕРХ». Чтобы округлить до целого в меньшую сторону используем функцию «ОКРУГЛВНИЗ». Функция «ОКРУГЛ» и формата ячеек так же позволяют округлить до целого числа, установив количество разрядов – «0» (см.выше).

В программе Excel для округления до целого числа применяется также функция «ОТБР». Она просто отбрасывает знаки после запятой. По сути, округления не происходит. Формула отсекает цифры до назначенного разряда.

Сравните:

Второй аргумент «0» - функция отсекает до целого числа; «1» - до десятой доли; «2» - до сотой доли и т.д.

Специальная функция Excel, которая вернет только целое число, – «ЦЕЛОЕ». Имеет единственный аргумент – «Число». Можно указать числовое значение либо ссылку на ячейку.

Недостаток использования функции «ЦЕЛОЕ» - округляет только в меньшую сторону.

Округлить до целого в Excel можно с помощью функций «ОКРВВЕРХ» и «ОКРВНИЗ». Округление происходит в большую или меньшую сторону до ближайшего целого числа.

Пример использования функций:

Второй аргумент – указание на разряд, до которого должно произойти округление (10 – до десятков, 100 – до сотен и т.д.).

Округление до ближайшего целого четного выполняет функция «ЧЕТН», до ближайшего нечетного – «НЕЧЕТ».

Пример их использования:

Почему Excel округляет большие числа?

Если в ячейки табличного процессора вводятся большие числа (например, 78568435923100756), Excel по умолчанию автоматически округляет их вот так: 7,85684E+16 – это особенность формата ячеек «Общий». Чтобы избежать такого отображения больших чисел нужно изменить формат ячейки с данным большим числом на «Числовой» (самый быстрый способ нажать комбинацию горячих клавиш CTRL+SHIFT+1). Тогда значение ячейки будет отображаться так: 78 568 435 923 100 756,00. При желании количество разрядов можно уменьшить: «Главная»-«Число»-«Уменьшить разрядность».