Математическая обработка данных

Теория к расчету

При проведении мониторинга следует пользоваться стандартными или общепринятыми методами анализа. При отсутствии таковых необходимо самостоятельно выбрать (или даже разработать) подходящий метод.

При выборе метода анализа из числа стандартных или при отсутствии таковых следует учитывать точность, чувствительность, предел обнаружения, селективность, производительность, другие технические и экономические показатели существующих методов.

Математическая обработка полученных данных обычно проводится следующим образом.

Если х₁, х₂ х_{2 …}х_n – отдельные измерения искомой концентрации загрязнителя (результаты параллельных определений), то находят среднее арифметическое по формуле:

,

(1)

где n – число измерений.

Затем вычисляют абсолютную случайную погрешность i -го измерения

,

(2)

среднюю квадратическую погрешность отдельного измерения

(3)

и относительную квадратическую погрешность отдельного измерения

.

(4)

Из (2.3) рассчитывают среднюю квадратическую погрешность среднего арифметического

(5)

и относительную квадратическую погрешность среднего арифметического

.

(6)

Истинное значение искомой концентрации загрязнителя с надежностью (вероятностью) P лежит в доверительном интервале

,

(7)

где – коэффициент Стьюдента, зависящий от числа измерений и ожидаемой (заданной) надежности P.

Коэффициент Стьюдента (t_p) при надежности (р), равной 0,95, в зависимости от числа измерений (n).

Если для некоторого -го измерения

,

(8)

то это измерение отбрасывается как содержащее грубую ошибку и все величины по (1) – (7) пересчитываются заново.

Ошибки любых измерений, в том числе и аналитических, могут быть:

а) систематическими (в анализе они зависят от применяемого метода, неполноты протекания реакций, погрешности приборов, техники исполнения);

б) случайными (зависящими от случайных загрязнений, изменений напряжения в электрической сети, изменений температуры в лаборатории, случайных изменений режима определения);

в) грубыми (из-за ошибок оператора, поломок аппаратуры
и т.п.).

Систематические ошибки можно предвидеть и свести к минимуму, случайные учитываются при математической обработке по (1) – (7), а грубые обнаруживаются на основе критерия (8).

Интерпретация и сравнение полученных данных является наиболее творческой и проводится путем анализа полученного массива результатов и их сравнения с литературными, собственными более ранними, теоретическими и другими данными. При этом анализируются возможные зависимости и взаимосвязи между концентрациями загрязнителей и другими параметрами среды.

При обсуждении пригодности и вариантов применения разных аналитических методов для определения концентрации загрязнителей прежде всего обращается внимание на чувствительность и предел обнаружения этих методов.

Чувствительность (H) метода можно рассчитать по данным калибровки измерительного прибора (фотоколориметра, спектрофотометра и т.д.). При калибровке, используя растворы с известным содержанием загрязнителя, экспериментально строят зависимость некоторого фиксируемого физического параметра (оптической плотности, силы тока и т.п.) от концентрации или количества загрязнителя в пробе. На графике концентрация откладывается по оси абсцисс (x), а физический параметр – по оси ординат (y). Тогда

(9)

или

,

(10)

где D – оптическая плотность; C – концентрация, так как в аналитической химии, как правило, используется линейная часть градуировочного графика.

Предел обнаружения метода (наименьшая концентрация , которая может быть обнаружена с разумной достоверностью) можно рассчитать по формуле

,

(11)

где – средняя квадратическая погрешность отдельного измерения фона , найденная по (2.3) и результатам экспериментального определения фона или через минимально определяемое значение физического параметра

(12)

по калибровочному графику.

Если предел обнаружения загрязнителя выше, чем его ожидаемая концентрация в объекте окружающей среды, необходимо провести концентрирование загрязнителя.

Для этой цели наиболее часто используется экстракция, реже – хроматография. Необходимый коэффициент концентрирования легко получить из сопоставления предела обнаружения метода и ожидаемой концентрации загрязнителя.

Задача № 2 (Пример решения)

В семи пробах донного ила (каждая проба – 100 г) обнаружили соответственно 0,0227; 0,0237; 0,0221; 0,0232; 0,0230; 0,0265 и 0,0255 г U₃O₈. Проведите математическую обработку этих результатов. Найдите доверительный интервал с надежностью 95%. Примените правило для нахождения грубых ошибок. Если такие результаты есть, отбросьте их и найдите новый доверительный интервал.

Решение:

По уравнению (1) находим затем по (2) вычисляем для каждого и получаем следующий ряд значений : -0,0011, -0,0001, -0,0017, -0,0006, -0,0008, 0,0027 и 0,0017, из которого по (3) находим

и из (5) : .

По (4) и (6) , a

В приложении таблица 1 находим при 7 измерениях с надежностью 0,95 и составляем доверительный интервал согласно (7):

Среди значений нет величин, превышающих