Результаты экспериментов с применением геостатистических методов анализа показателей и их взаимозависимости на определенных территориях

Ниже приведены результаты экспериментов, проведенных автором на базе реальных данных, описанных выше с использованием разработанных автором схем геостатистического исследования медико-экологических данных на примере Санкт-Петербурга. (Рисунок 30 и 31 в разделе 2.3.2.). В данном разделе при получении анализа медико-экологических данных и цифровых пространственных моделей распределений факторов, откликов, а также зависимостей откликов от факторов и ошибок интерполяионных значений использовался модуль Arc GIS Geostatistical Analyst, со встроенными математическими операциями, описанным в литературе [68−70].

Цифровая модель поверхности распределения мутагенов в атмосфере

Пространственная структура данных.

В 2000 году из 49-ти существующих пунктов мониторинга атмосферы Роспотребнадзора (ГЦСЭН) в 46-ти были зафиксированы мутагенные вещества (кадмий, свинец, цинк, бензол) [43, 45,75]. В 46-ти пунктах ежедневно фиксировались концентрации этих веществ в атмосфере.

По этим пунктам посчитан суммарный (для 4-х рассматриваемых компонентов) ИЗА за год. В пределах административных делений Санкт-Петербурга пункты мониторинга ГЦСЭН показаны на Рисунке 6.

Блок исследовательского анализа выборки.

Тренд — анализ распределения ИЗА мутагенных веществ в атмосфере показал, что высокое значение загрязнения концентрируется преимущественно в центральных пунктах мониторинга. Нет ярко выраженной тенденции по какому-либо направлению, но наибольшие локализации смещены к северным и северо-восточным частям центральных районов (рисунок 63).

Рисунок 63.

Гистограмма, построенная по 46-ти пунктам ГСЭН показала приближенный к нормальному закон распределения мутагенов в атмосфере (рисунок 64). После кокс-бокс-преобразования с параметром л=0.288, мы получили нормальное распределение ИЗА с параметрами: коэффициент ассиметрии 0.02 (приближенно равно 0 для нормального закона); коэффициент эксцесса 3.46 (приближенно равно 3 для нормального закона).

Значение выборки и числовые параметры Z преобразованы по формуле.

Y=(Z^л-1)/л.

Рисунок 64. Нормальное распределение ИЗА, после преобразования.

Проверка на «нормальность» преобразованных значений ИЗА показана на графике QQPlot (рисунок 65).

Рисунок 65. График QQPlot (проверка преобразованных значений на «нормальность»).

Подбор модели интерполяции

Поскольку данные преобразованы к нормальному закону, с целью более точного пространственного прогноза можно применить геостатистические методы интерполяции — методы кригинга (см. Раздел 2.3.1).

Анализ Тренда, а также сравнительная характеристика видов кригинги показала, что наиболее точная интерполяционная поверхность получается при использовании альтернативного кригинга.

Об этом свидетельствует и подбор функций моделирующих вариаграмму, и подбор характеристик регрессионной прямой (коэффициент детерминации 0.97) (см. рисунок 66).

Рисунок 66. Подбор характеристик регрессионной прямой Анализ вариаграммы и ковариационной функции показал (рисунок 59):

• · Max дистанция (Major Ranqe), на которой существует пространственная зависимость между точками — 0.07 км;
• · Функция, которая наиболее адекватно моделирует вариаграмму и ковариационную функцию — пентасферическая;
• · Порог полудисперсии, до которого существует пространственная зависимость — 1.12.
• · Пространственная ковариационная зависимость имеет тенденцию к северо-востоку.

Рисунок 67. Анализ вариаграммы и ковариационной функции Регрессионная функция (0.282x+0.915) показала в каких точках и на сколько расходится предсказанные (predicted) и истинные (measured) значения ИЗА. График зависимости стандартных ошибок значений от истинного ИЗА демонстрирует диапазон колебаний средних ошибок преимущественно ±0.89. Среднее отклонение от экспериментальной кривой, построенной по методу наименьших квадратов 0.17, отклонение от модельной — 0.16. (см. рисунок 66 и рисунок 68).

Построение интерполяционной поверхности и поверхности стандартных ошибок ИЗА по методу кригинга привело к следующим результатам:

• · Общая тенденция распространения мутогенов — северо-восток (ветер северо-западный), объясняется тем, что большая часть мутагенов — тяжелые металлы;
• · В северных, восточных районах, а также в московском наблюдается уровни ИЗА 1.1−2.1 (ошибки в зависимости от участка на карте);
• · Min стандартная ошибка ИЗА ±0.68 (белый цвет на карте);

Рисунок 68. Среднее отклонение от экспериментальной кривой.

• · Max — ±0.91 (черный цвет на карте);
• · Высокие от 3.24±0.68 до 5.23±0.68 значения ИЗА наблюдаются в Адмиралтейском и частях Петроградского и Центрального районов;
• · Низкие от 0.37 до 0.58 значения ИЗА распространены повсеместно, однако они имеют довольно внушетельную ошибку (0.68) и поэтому прогноз в этих зонах может быть подвергнут сомнению. Но низкие значения ИЗА с точки зрения цели задачи не интересны, мы их не рассматриваем.