Стохастическая аппроксимация

Стохастическая аппроксимация — рекуррентный метод построения состоятельной последовательности оценок решений уравнений регрессии и экстремумов функций регрессии в задачах непараметрического оценивания. В биологии, химии, медицине используется для анализа результатов опытов. В теории автоматического управления применяется как средство решения задач распознавания, идентификации, обучения и адаптации. Основоположниками метода стохастической аппроксимации являются Кифер, Вольфовиц, Робинс, Монро .

Поиск решения уравнения регрессии

Пусть каждому значению параметра $x$ соответствует измеряемая опытным путём случайная величина $y$ с функцией распределения $F(y|x)$, причем математическое ожидание величины $y$ при фиксированном параметре $x$ $m(y|x)=m(x)$. Требуется найти решение уравнения регрессии $m(x)=\alpha$. Предполагается, что решение уравнения регрессии единственно, а функции $F(y|x)$ и $m(x)$ неизвестны.

Процедура стохастической аппроксимации для получения оценок корня ${\hat {x}}$ уравнения регрессии $m({\hat {x}})=\alpha$ заключается в использовании полученной на основании опыта обучающей выборки измеряемых случайных величин $y_{1},...,y_{n}$.

Оценка ${\hat {x_{n+1}}}$ искомого корня находится на основе предыдущей оценки ${\hat {x_{n}}}$ с помощью обучающего значения измеренной случайной величины $y_{n}$ с помощью соотношения ${\hat {x_{n+1}}}={\hat {x_{n}}}+a_{n}(\alpha -y_{n})$, где $n\geqslant 1$, ${\hat {x_{1}}}$ - произвольное число.

Если последовательность коэффициентов $a_{n}$ удовлетворяет условиям $a_{n}>0$, $\sum _{n=1}^{\infty }a_{n}=\infty$, $\sum _{n=1}^{\infty }a_{n}^{2}<\infty$, то при $n\to \infty$ оценка ${\hat {x_{n+1}}}$ стремится по вероятности к корню уравнения $m({\hat {x}})=\alpha$.

При некоторых дополнительных требованиях к функции регрессии $m(x)$ оценки ${\hat {x_{n+1}}}$ могут сходится в среднеквадратическом к решению уравнения регрессии .

Примеры

• Твёрдость сплава меди с железом $y$ зависит от времени $x$, в течение которого сплав подвергается воздействию высокой температуры. В этом случае измеряемой случайной величиной является твёрдость сплава $y$, а задача состоит в определении времени ${\hat {x}}$, при котором сплав имеет заданную твёрдость $y=\alpha$.

Поиск экстремума функции регрессии

Оценка ${\hat {x_{n+1}}}$ экстремального значения функции регрессии находится на основе предыдущей оценки ${\hat {x_{n}}}$ и обучающих значений измеренной случайной величины $y_{2n}$ и $y_{2n-1}$ с помощью соотношения ${\hat {x_{n+1}}}={\hat {x_{n}}}+{\frac {a_{n}}{c_{n}}}(y_{2n}-y_{2n-1})$, где $n\geqslant 1$, ${\hat {x_{1}}}$ - произвольное число, $a_{n}$ - последовательность положительных чисел, а последовательности $y_{2n}$ и $y_{2n-1}$ независимы и соответствуют значениям параметра ${\hat {x_{n}}}+c_{n}$ и ${\hat {x_{n}}}-c_{n}$.

Если последовательности коэффициентов $a_{n}$ и $c_{n}$ удовлетворяют условиям $a_{n}>0$, $c_{n}>0$, $c_{n}\to 0$ при $n\to \infty$, $\sum _{n=1}^{\infty }a_{n}=\infty$, $\sum _{n=1}^{\infty }a_{n}c_{n}<\infty$, $\sum _{n=1}^{\infty }({\frac {a_{n}}{c_{n}}})^{2}<\infty$, то при $n\to \infty$ оценка ${\hat {x_{n+1}}}$ стремится по вероятности к экстремальному значению функции регрессии.

При некоторых дополнительных требованиях к функции регрессии $m(x)$ оценки ${\hat {x_{n+1}}}$ могут сходится в среднеквадратическом к экстремуму функции регрессии.

Примеры

• Урожайность участка земли $y$ зависит от количества удобрений $x$. В этом случае измеряемой случайной величиной является урожайность $y$, а задача состоит в определении количества удобрений ${\hat {x}}$, при котором участок земли имеет макcимальную урожайность.

Литература

• Вазан М. Стохастическая аппроксимация. — М.: Мир, 1972. — 295 с.
• Цыпкин Я.З. Основы теории обучающихся систем. — М.: Наука, 1970. — 251 с.
• Цыпкин Я.З. Адаптация и обучение в автоматических системах. — М.: Наука, 1968. — 399 с.