Идемпотентная матрица

Идемпотентная матрица — матрица, идемпотентная относительно умножения матриц, то есть, матрица $P$, для которой выполняется условие $P\cdot P=P$.

Примеры

Примеры идемпотентных матриц:

${\begin{pmatrix}1&0&0\\0&1&0\\0&0&0\end{pmatrix}},$    ${\begin{pmatrix}-26&-18&-27\\21&15&21\\12&8&13\end{pmatrix}}$

Вещественные матрицы порядка 2

Если матрица ${\begin{pmatrix}a&b\\c&d\end{pmatrix}}$ идемпотентна, то

• $a=a^{2}+bc,$
• $b=ab+bd,$ откуда $b(1-a-d)=0$, поэтому либо $b=0$, либо $d=1-a,$
• $c=ca+cd,$ откуда $c(1-a-d)=0$, поэтому либо $c=0$, либо $d=1-a,$
• $d=bc+d^{2}.$

Таким образом, необходимым условием идемпотентности матрицы порядка 2 является её диагональность либо равенство её следа единице. У диагональных идемпотентных матриц $a$ и $d$ могут равняться только нулю или единице.

При $b=c$ матрица ${\begin{pmatrix}a&b\\b&1-a\end{pmatrix}}$ будет идемпотентной при $a^{2}+b^{2}=a$, то есть если $a$ является решением квадратного уравнения

$a^{2}-a+b^{2}=0$ или $\left(a-{\frac {1}{2}}\right)^{2}+b^{2}={\frac {1}{4}},$

которое представляет собой уравнение окружности радиуса 1/2 с центром в точке (1/2, 0).

Однако, равенство $b=c$ не является необходимым условием: любая матрица вида

${\begin{pmatrix}a&b\\c&1-a\end{pmatrix}}$ при $a^{2}+bc=a$ будет идемпотентной.

Свойства

Если матрица $A$ идемпотентна, то матрица $I-A$ также идемпотентна, так как

$(I-A)(I-A)=I-A-A+A^{2}=I-A-A+A=I-A.$

Используя метод математической индукции, нетрудно показать, что если матрица $A$ идемпотентна, то для любого натурального $n$ выполняется $A^{n}=A$.

Если матрица $P$ идемпотентна, то матрица $I=2P-E$ инволютивна, и, наоборот, если матрица $I$ инволютивна, то матрица $P={\frac {1}{2}}(I+E)$ идемпотентна.

Обратимость

Единственная невырожденная идемпотентная матрица — единичная. В самом деле, пусть для идемпотентной матрицы $A$ существует $A^{-1}$. Тогда $A=A^{-1}A^{2}=A^{-1}A=I$.

Собственные значения

Любая идемпотентная матрица всегда диагонализуема и её собственные числа равны нулю и единице.

След

След идемпотентной матрицы равен её рангу. Это позволяет вычислять след матрицы, элементы которой не заданы в явном виде, что бывает полезно, например, в статистике при установлении степени отклонения выборочной дисперсии от теоретической дисперсии.

Приложения

Линейная регрессия

При решении задачи линейной регрессии методом наименьших квадратов необходимо найти оценивающий вектор $\beta$, минимизирующий сумму квадратов отклонений $e_{i}$, которая в матричной форме записывается как

$e^{\mathrm {T} }e=(y-X\beta )^{\mathrm {T} }(y-X\beta ),$

где $y$ — вектор наблюдений зависимой переменной, $X$ — матрица, столбцы которой представляют собой наблюдения независимых переменных. Решением является вектор

${\hat {\beta }}=\left(X^{\mathrm {T} }X\right)^{-1}X^{\mathrm {T} }y,$

а соответствующий вектор отклонений равен

${\hat {e}}=y-X{\hat {\beta }}=y-X\left(X^{\mathrm {T} }X\right)^{-1}X^{\mathrm {T} }y=\left[I-X\left(X^{\mathrm {T} }X\right)^{-1}X^{\mathrm {T} }\right]y=My.$

Здесь $M$ и $X\left(X^{\mathrm {T} }X\right)^{-1}X^{\mathrm {T} }$ — идемпотентные и симметричные матрицы, что позволяет упростить вычисление суммы квадратов отклонений:

${\hat {e}}^{\mathrm {T} }{\hat {e}}=(My)^{\mathrm {T} }(My)=y^{\mathrm {T} }M^{\mathrm {T} }My=y^{\mathrm {T} }MMy=y^{\mathrm {T} }My.$

Идемпотентность $M$ также используется при других вычислениях, например, при определении дисперсии оценивающего вектора ${\hat {\beta }}$.

Пусть $X_{1}$ — матрица, полученная из $X$ удалением некоторых столбцов, и пусть $M_{1}=I-X_{1}(X_{1}'X_{1})^{-1}X_{1}'$. Нетрудно убедиться, что и $M$, и $M_{1}$ идемпотентны и, более того, $MM_{1}=M$. Это следует из того, что $MX_{1}=0$ или, иными словами, отклонения при регрессии столбцов $X_{1}$ на $X$ равны нулю, так как $X_{1}$ может быть идеально проинтерполирован как подмножество $X$ (прямой подстановкой можно также легко показать, что $MX=0$). Отсюда следует, что матрица $(M_{1}-M)$ симметрична и идемпотентна и что $(M_{1}-M)M=0$, то есть $(M_{1}-M)$ ортогональна $M$. Эти результаты играют ключевую роль, например, при выводе F-теста.

Оператор проекции

Идемпотентный линейный оператор $P$ является оператором проекции на образ $R(P)$ вдоль ядра $N(P)$. Оператор $P$ выполняет ортогональную проекцию тогда и только тогда, когда он идемпотентен и симметричен.

См. также

• Нильпотентная матрица

Литература

• Мальцев А. И. Основы линейной алгебры. — М.: Наука, 1975. — 400 с.
• Horn, R. A., Johnson, C. R.. Matrix analysis (англ.). — Cambridge University Press, 1990. — ISBN 0521386322.
• Greene, W. H.. Econometric Analysis (англ.). — 5th edition. — Upper Saddle River, NJ: Prentice Hall, 2003. — ISBN 0130661899.