Обобщение метода наименьших квадратов на многофакторный линейный случай

Пусть имеется к факторов и известно, что отклик и факторы связаны линейно: у = р₀х₀ + р_гх_г + р₂х₂ + … + p_fcx_k. Выпишем для этого случая матрицы X, Y и В

Исходная система линейных уравнений Y = ХВ;

После преобразований получим.

Скалярные произведения удобно представлять в виде сумм, т. е. матрицу системы нормальных уравнений можно записать в виде.

Чтобы получить ответ, т. е. вектор В, остается обратить матрицу Х^ТХ и умножить обратную матрицу на X^rY.

Пример 2.10.

Дана матрица планирования в кодированном виде (табл. 2.15). Провести обработку данных матричным способом и выписать матрицу коэффициентов.

Таблица 2.15. Матрица планирования.

Проведем обработку данных матричным способом.

В этом случае имеем уравнение.

Детально рассмотренная процедура МНК в матричной форме показывает, как получаются формулы для коэффициентов регрессии. Аналогичным путем можно оценить эффекты взаимодействия, входящие в модель. Для этого надо расширить матрицу X, включив в нее столбцы взаимодействий. В векторе В появляются при этом элементы, соответствующие эффектам взаимодействий. Расширение матрицы X подобным образом называют линеаризацией, что эквивалентно замене эффектов взаимодействия новыми линейными членами. Подобная процедура возможна только тогда, когда все коэффициенты входят в уравнение линейно. Такие уравнения называются линейными по параметрам. В некоторых случаях приходится использовать уравнения, нелинейные по параметрам.

Пример 2.11.

Найти коэффициенты регрессии для ПФЭ с двумя факторами х, и х₂.

Решение. В этом случае линейная модель имеет вид.

т.е. в матричной форме ХВ = Y, где.

Столбцы матрицы X попарно ортогональны, т. е.

Например: Z x_lux_2u = (+1)(+ 1) + (-1)(+1) + (+1)(+ 1) +.

U= 1.

+ (-1Х+1) = 0.

Найдем матрицы X¹ и Х’Х:

Элементы, стоящие на главной диагонали последней матри;

цы, представляют собой суммы? xf_u ? Из условия нормировки и=1.

каждая такая сумма всегда равна числу опытов.

Матрицы (х'х) ¹ и X^lY имеют вид.