После того, как выявлены основные факторы, влияющие на измеряемую величину (параметр), бывает желательно выразить зависимость параметра от факторов в аналитическом виде, это помогает представить результат работы в компактной форме. Кроме того, полученные зависимости могут быть в дальнейшем использованы в инженерных расчетах и в частности при решении задач оптимизации разрабатываемого изделия, т.к. у полученной аналитической функции могут быть найдены экстремальные точки, соответствующие максимальным (или минимальным) значениям параметра. Нахождение такой зависимости, часто помогает выяснению механизма явления или необходимо при выполнении косвенных измерений. Например, при определении температуры раскаленного тела измеряют яркость его свечения на нескольких длинах волн λ. Для абсолютно черного тела достаточно было бы измерить эту яркость на одной длине волны, но реальные тела в лучшем случае в некотором спектральном диапазоне можно считать "серыми", кроме того, абсолютные измерения яркости также требуют специального оборудования. Если считать коэффициент "серости" ε и коэффициент пропорциональности q между отсчетом фотоприемника В и яркостью тела постоянными, но неизвестными экспериментатору, то температуру Т можно найти, используя модификацию формулы Планка:

b₁ = ln(q ε C₁), если ε или q известны, то другую величину отсюда можно найти,

b₂ = -1 / T, т.е. искомая величина. На первый взгляд достаточно выполнить измерения на двух длинах волн, чтобы решить систему из двух уравнений, но, как будет показано в дальнейшем, точность результата можно существенно повысить, увеличив число уравнений.

Например, ищем зависимость параметра y от x₁ и x₂ в виде полинома второй степени:

y = b₁ + b₂x₁ + b₃x₂ + b₄x₁² + b₅x₂² + b₆x₁x₂                               (4.1)

Выражение типа (4.1) называется "модель" - это наше предположение о виде искомой зависимости. Несмотря на наличие в ней квадратов и произведений х₁, х₂, она называется линейной, т.к. линейна относительно неизвестных коэффициентов b_i, а сомножители при этих коэффициентах в каждом конкретном опыте имеют известное значение, это могут быть любые функции уровней факторов х.

где y - столбец результатов эксперимента; b - столбец искомых коэффициентов; A - "матрица планирования" - таблица известных коэффициентов, содержащая значения уровней факторов или функции от них. Вид этой матрицы определяется, во-первых, моделью, во-вторых, конкретным выбором экспериментальных точек в области варьирования факторов.

В матрице планирования столько строчек, сколько есть "экспериментальных точек", (т.е. сколько выполнено опытов при различных сочетаниях уровней факторов) и столько столбцов, сколько искомых коэффициентов модели (4.1). Результаты опытов, выполненных при одной и той же комбинации уровней факторов, как правило, усредняют и им соответствует одна строка в матрице, но можно этого не делать и представить несколько повторных опытов несколькими одинаковыми строками в матрице планирования, это не влияет на алгоритм расчетов, только при оценке адекватности модели (см. ниже) учитываются лишь различные строки матрицы планирования.

Для построения алгоритма нахождения b_i запишем в матричной форме условие минимизации суммы квадратов отклонений экспериментальныx значений y от рассчитанных по модели (4.1) .

S² = (y - Ab)^T(y - Ab)             (4.3)

S² должно быть минимально, или dS² /d b_i = 0 для всех i.

Раскроем это равенство:

d (y^Ty - b^TA^Ty - y^TAb + b^TA^TAb) / d b_i = 0,
-(A^Ty)_i - (y^TA)_i + 2(A^TAb)_i = 0

Учитывая, что равенство выполняется для всех b_i, приходим к матричному равенству A^TA b = A^Ty или

b = (A^TA)^-1 A^Ty                    (4.4)

Последнее равенство и является расчетной формулой, по которой находятся МНК оценки. Проделав несколько повторных измерений в одной экспериментальной точке, можно получить оценку S_у² - дисперсии погрешности y (см. формулу 1.2). Поскольку, как видно из (4.4), b_i является линейной функцией всех y_j, и все они предполагаются независимыми, можно, применяя свойства дисперсии ([6], глава 5), показать, что

или, преобразуя произведения элементов матриц с использованием очевидного равенства C_ij² = C_ji^TC_ij, получить окончательную формулу:

S_bi² = [(A^TA) ^- 1]_iiS_y²                (4.5)

Приведенные выше общие матричные формулы позволяют, в принципе, найти коэффициенты модели при любом количестве факторов и оценить точность их определения (лишь бы число опытов было не меньше числа искомых коэффициентов). Так можно обработать и пассивный (не спланированный заранее) эксперимент, если только уровни факторов в каждом опыте известны. Однако, как видно из (4.5) погрешность определения коэффициентов модели при одной и той же точности непосредственных измерений существенно зависит от матрицы A, которая определяется как видом модели , так и числом и расположением экспериментальных точек на пространстве факторов, а это уже во власти экспериментатора. К этому мы вернемся в разделе 5 "Планирование эксперимента".

Если целью эксперимента было просто определение конкретных величин, связанных с коэффициентами модели, как в рассмотренном примере измерения температуры, то задачу можно считать решенной - определена оценка искомой величины и ее "погрешность". В большинстве случаев, особенно, если модель не обоснована физическими законами следует оценить значимость коэффициентов модели, т.е. выяснить, заметен ли вклад каждого из слагаемых в значение y на фоне случайных погрешностей эксперимента. Оценка значимости коэффициентов проводится по критерию Стьюдента t, как проверка гипотезы Н₀: b_i = 0. (см. разд. 3.2). Если гипотеза Н₀ будет отвергнута, коэффициент b_i считается значимым.

Гипотеза отвергается, если

      (4.6)

Здесь число t_q берется из таблиц t-распределения (при заданном уровне значимости для проверки гипотезы Н₀ и числе степеней свободы, равном числу опытов, по которым оценена S_у², без единицы).

Если в модели обнаружены незначимые коэффициенты, она должна быть упрощена и записана без них. Отбрасывание незначимых коэффициентов модели без изменения значений остальных коэффициентов допустимо лишь в том случае, если матрица A^TA диагональна, тогда, как видно из формулы (4.4), вычисление b_i ведется лишь с использованием элементов i-го столбца матрицы А, а другие столбцы на значение b_i не влияют, т.е. все b_i определяются независимо. В общем случае нужно записать новую модель без незначимых коэффициентов и все вычисления произвести заново.

После того как определены все значимые коэффициенты модели остается проверить, насколько правильным было наше предположение о виде функции y = f(x). Например, если на самом деле зависимость сложнее, чем мы предположили (скажем, y = a + bx + cx², а мы будем искать коэффициенты модели y = b₁ + b₂x, то мы их найдем и они будут значимыми, но полученная модель не имеет ничего общего с действительностью).

Поэтому последний этап решения задачи МНК - проверка адекватности модели. Такая проверка организуется как проверка гипотезы о том, что оценка дисперсии результата S_y², полученная при повторных опытах при одинаковых условиях и оценка S_а², полученная из суммы квадратов отклонений результатов от расчета по модели - это оценки одной и той же дисперсии. Такая гипотеза проверяется по критерию Фишера (см. раздел 3.3):

, где .               (4.7)

Здесь y_j - результат j-го опыта, - результат расчета y в условиях j-го опыта с использованием оценок коэффициентов модели, определенных по (4.4), n - число экспериментальных точек (различных строк в матрице планирования), m - число значимых коэффициентов модели.

Отношение F сравнивается с табличным значением F_q, которое при выбранном уровне значимости берется при k₁ = n - m и k₂, равном числу опытов, по которым оценена S_у², без единицы. Если F < F_q, (а также, если F в 4.7 меньше 1), то модель признается адекватной, т.е. отклонение экспериментальных значений от расчетов по модели можно приписать только случайным погрешностям измерений.

.

далее ...