Операції псевдообернення та проектування (реферат)

Реферат на тему:

Операції псевдообернення та проектування

В даному розділі даються основні поняття з класичної лінійної алгебри. Буде дано одне з кількох визначень псевдооберненої матриці, через яку знаходиться загальний розв’язок системи лінійних алгебраїчних рівнянь. Також будуть наведені деякі методи обчислення псевдообернених прямокутних матриць [1].

1.1. Псевдообернені оператори

Розглянемо систему лінійних алгебраїчних рівнянь.

$$\text{Ax}=b$$, (1.1).

де $$A{R}^{mxn}$$, вектор $$b$$ розмірності $$m$$. Систему (1.1) можна ще представити у векторному вигляді.

$$a_{(j)}^{T}x=b_j$$, $$j=\mathrm{1,2,}\text{.}\text{.}\text{.},m$$. (1.2).

Тут введені наступні позначення.

$$A=\left(\begin{array}{c}{a}_{(1)}^T\\ a_{(2)}^T\\ \\ a_{(m1)}^T\end{array}\right)=\left(\begin{array}{cccc}{a}_1,& a_2,& \dots ,& a_n\end{array}\right)$$

.

При розв’язанні системи алгебраїчних рівнянь можливі наступні варіанти розв’язків.

1. 1Існує єдиний розв’язок системи (1.1), тобто існує єдиний вектор $$x$$

   який задовольняє систему векторних рівнянь (1.2) (мал. 1.1).

   , який задовольняє систему векторних рівнянь (1.2) (мал. 1.1).

1. 2Існує множина розв’язків системи (1.1) (мал. 1.2).

Мал. 1.2.

Тобто існує множина векторів $$x$$

які задовольняють систему (1.1).

1. 3

   .

   Розв’язку системи (1.1) не існує, але можна вказати єдиний вектор

   $$\widehat{x}$$

   який буде знаходитись на найближчій відстані до всіх гіперплощин системи (1.1) (мал. 1.3).

   Розв’язку системи (1.1) не існує, але можна вказати єдиний вектор $$\widehat{x}$$

   який буде знаходитись на найближчій відстані до всіх гіперплощин системи (1.1) (мал. 1.3).

   , який буде знаходитись на найближчій відстані до всіх гіперплощин системи (1.1) (мал. 1.3).

Мал. 1.3.

1. 4Розв'язку системи (1.1) не існує, але можна вказати множину векторів $$\widehat{x}$$, які будуть знаходитись на найближчій відстані до всіх гіперплощин системи (1.1) (мал. 1.4).

Мал. 1.4.

Для матриці $$A$$ розмірності $$m\text{'}n$$ в полі дійсних чисел псевдо-обернена матриця $$A^{+}$$ розмірності $$n\text{'}m$$ визначається наступним чином.

Для $$$$ $$b{R}^m,A^{+}b=\underset{x{\mathrm{}}_x(b)}{\text{arg}\text{min}{x}^2},$$.

$${\mathrm{}}_x(b)=\text{Arg}\underset{x{R}^n}{\text{min}}{\text{Ax}-b}^2=\left\{{\text{x:A}}^{+}b+Z(A)v,v{R}^n\right\}$$ ,.

де $$Z(A)=I_n-A^{+}A$$ .

1.2. Алгоритми псевдоінверсії матриць

Існує декілька методів представлення псевдооберненої матриці $$A^{+}$$ [1, 5]. Наведемо деякі з них.

1.2.1. Метод скелетизації матриць

Для будь-якої матриці $$A$$

розмірності.

можливий такий розклад.

$$A=\text{BC}$$

.

де $$\text{rank}A=\text{rank}B=\text{rank}C=r$$, $$B$$ і $$C$$ мають відповідно розмірності $$mxr,rxn$$. Тоді.

$$A=C^T({\text{CC}}^T{)}^{-1}(B^{T}B{)}^{-1}{B}^T$$

.

1.2.2. Метод сингулярного представлення

Кожна прямокутна матриця $$A$$ розмірності $$m\text{'}n$$ допускає сингулярне представлення у виді.

$$A=\underset{j=1}{\overset{r}{}}{y}_j{x}_j^T{}_j$$

.

де $$r=\text{rank}A$$, $$y_j$$ — нормовані власні вектори матриці $${\text{AA}}^T$$, тобто.

$${\text{AA}}^T{y}_j=y_j{}_j^2,y_i^T{y}_j={}_{\text{ij}},j=\stackrel{}{\mathrm{1,}r},$$.

$$x_j$$ — нормовані власні вектори матриці $$A^{T}A$$, тобто.

$$A^T{\text{Ax}}_j=x_j{}_j^2,x_i^T{x}_j={}_{\text{ij}},j=\stackrel{}{\mathrm{1,}r\text{.}}$$.

Псевдообернена до $$A$$ матриця $$A^{+}$$ має наступне сингулярне представлення.

$$A^{+}=\underset{j=1}{\overset{r}{}}{x}_j{y}_j^T{}_j^{-1}\text{.}$$.

1.2.3. Метод Мура-Пенроуза

Якщо матриця $$A$$ розмірності $$mxn$$

то псевдообернену матрицу можна представити наступною формулою.

$$A^{+}=\underset{{}^2->0}{\text{lim}}{A}^T{\left({\text{AA}}^T+{}^2{I}_m\right)}^{-1}$$

.

Формулу використовують, коли m<n. $$I_m$$

— одинична матриця розмірності m.

$$A^{+}=\underset{{}^2->0}{\text{lim}}{\left(A^{T}A+{}^2{I}_n\right)}^{-1}{A}^T$$

.

Співвідношення зручніше використовувати при m>n, $$I_n$$ — одинична матриця розмірності n.

1.3. Проекційні оператори

Матриця $$A^{+}A$$ є проекційною, яка довільний вектор $$z{R}^n$$ проектує на лінійну оболонку, що натягнута на власні вектор-рядки матриці $$A$$. Справді,.

$$A^{+}A=\underset{j=1}{\overset{r}{}}{x}_j{x}_j^T$$

.

Для будь-якого вектора $$z{R}^n$$ маємо $$A^{+}\text{Az}=\underset{j=1}{\overset{r}{}}{x}_j{x}_j^{T}z$$, де $$r=\text{rank}A$$. Неважко бачити, що вектор $$z$$ є проектується на підпростір, базисом якого є лінійно-незалежні вектор-рядки матриці $$A$$ .

Розглянемо тепер матрицю такого вигляду.

$$Z(A)=I_n-A^{+}A$$

.

Тут $$I_n$$ — одинична матриця розмірності $$nxn$$. Відомо, що $$I_n=\underset{j=1}{\overset{n}{}}{x}_j{x}_j^T$$ .Тобто, якщо ортонормований базис $$x_1,x_2,\dots ,x_r$$ матриці $$A$$ доповнити деякими ортонормованими векторами $$x_{r+1},\text{.}\text{.}\text{.},x_n$$ до повного ортонормованого базису простору $$R^n$$ .

$$$$ Отже $$Z(A)=\underset{j=1}{\overset{n}{}}{x}_j{x}_j^T-\underset{j=1}{\overset{r}{}}{x}_j{x}_j^T=\underset{j=r+1}{\overset{n}{}}{x}_j{x}_j^T$$. Тобто, $$Z(A)$$ — це теж проекційна матриця, але на ортогональне доповнення до лінійної оболонки, натягнутої на власні вектор-рядки матриці $$A$$ .

Крім матриці $$Z(A)$$ слід згадати про такі важливі матриці, які теж являються проекційними.

$$Z(A^T)=I_m-{\text{AA}}^{+}=\underset{j=r+1}{\overset{m}{}}{y}_j{y}_j^T$$.

— проекційна матриця на ортогональне доповнення до лінійної оболонки, натягнутої на власні вектор-стовпчики матриці $$A$$ .

Приведемо декілька корисних співвідношень, в справедливості кожного з яких можна легко переконатися, записавши сингулярний розклад матриць.

$$A^{+}{\text{AA}}^{+}=A^{+}$$

.

$${\text{AA}}^{+}A=A$$

.

$$(A^{+}{)}^T{A}^{+}A=(A^{+}{)}^T$$

.

$$(A^{+}A{)}^T=A^{+}A$$

.

$$(A^{+}{)}^{+}=A$$

.

$$({\text{AA}}^{+}{)}^N={\text{AA}}^{+}$$

.

$$(A^{+}A{)}^N=A^{+}A$$

.

$$Z^N(A)=Z(A)$$

.

$$A^{+}=(A^{T}A{)}^{+}{A}^T=A^T({\text{AA}}^T{)}^{+}$$

.