Псевдообратная блочная матрица - Block matrix pseudoinverse

В математика, а блочная матрица псевдообратная формула для псевдообратный из разделенная матрица. Это полезно для разложения или аппроксимации многих параметров обновления алгоритмов в обработка сигналов, которые основаны на наименьших квадратов метод.

Вывод

Рассмотрим разделенную по столбцам матрицу:

${displaystyle {egin{bmatrix}mathbf {A} &mathbf {B} end{bmatrix}},quad mathbf {A} in mathbb {R} ^{m imes n},quad mathbf {B} in mathbb {R} ^{m imes p},quad mgeq n+p.}$

Если приведенная выше матрица полного ранга, Обратное преобразование Мура – ​​Пенроуза матрицы этого и его транспонирования являются

${displaystyle {egin{aligned}{egin{bmatrix}mathbf {A} &mathbf {B} end{bmatrix}}^{+}&=left({egin{bmatrix}mathbf {A} &mathbf {B} end{bmatrix}}^{ extsf {T}}{egin{bmatrix}mathbf {A} &mathbf {B} end{bmatrix}}ight)^{-1}{egin{bmatrix}mathbf {A} &mathbf {B} end{bmatrix}}^{ extsf {T}},{egin{bmatrix}mathbf {A} ^{ extsf {T}}mathbf {B} ^{ extsf {T}}end{bmatrix}}^{+}&={egin{bmatrix}mathbf {A} &mathbf {B} end{bmatrix}}left({egin{bmatrix}mathbf {A} &mathbf {B} end{bmatrix}}^{ extsf {T}}{egin{bmatrix}mathbf {A} &mathbf {B} end{bmatrix}}ight)^{-1}.end{aligned}}}$

Это вычисление псевдообратного требует (п + п) -квадратная матрица и не использует блочную форму.

Чтобы снизить вычислительные затраты до п- и п-квадратных обращений матриц и для введения параллелизма, рассматривая блоки по отдельности, получаем ^[1]

${displaystyle {egin{aligned}{egin{bmatrix}mathbf {A} &mathbf {B} end{bmatrix}}^{+}&={egin{bmatrix}mathbf {P} _{B}^{perp }mathbf {A} left(mathbf {A} ^{ extsf {T}}mathbf {P} _{B}^{perp }mathbf {A} ight)^{-1}mathbf {P} _{A}^{perp }mathbf {B} left(mathbf {B} ^{ extsf {T}}mathbf {P} _{A}^{perp }mathbf {B} ight)^{-1}end{bmatrix}}={egin{bmatrix}left(mathbf {P} _{B}^{perp }mathbf {A} ight)^{+}left(mathbf {P} _{A}^{perp }mathbf {B} ight)^{+}end{bmatrix}},{egin{bmatrix}mathbf {A} ^{ extsf {T}}mathbf {B} ^{ extsf {T}}end{bmatrix}}^{+}&={egin{bmatrix}mathbf {P} _{B}^{perp }mathbf {A} left(mathbf {A} ^{ extsf {T}}mathbf {P} _{B}^{perp }mathbf {A} ight)^{-1},quad mathbf {P} _{A}^{perp }mathbf {B} left(mathbf {B} ^{ extsf {T}}mathbf {P} _{A}^{perp }mathbf {B} ight)^{-1}end{bmatrix}}={egin{bmatrix}left(mathbf {A} ^{ extsf {T}}mathbf {P} _{B}^{perp }ight)^{+}&left(mathbf {B} ^{ extsf {T}}mathbf {P} _{A}^{perp }ight)^{+}end{bmatrix}},end{aligned}}}$

куда ортогональная проекция матрицы определяются

${displaystyle {egin{aligned}mathbf {P} _{A}^{perp }&=mathbf {I} -mathbf {A} left(mathbf {A} ^{ extsf {T}}mathbf {A} ight)^{-1}mathbf {A} ^{ extsf {T}},mathbf {P} _{B}^{perp }&=mathbf {I} -mathbf {B} left(mathbf {B} ^{ extsf {T}}mathbf {B} ight)^{-1}mathbf {B} ^{ extsf {T}}.end{aligned}}}$

Приведенные выше формулы не обязательно верны, если ${displaystyle {egin{bmatrix}mathbf {A} &mathbf {B} end{bmatrix}}}$ не имеет полного звания - например, если ${displaystyle mathbf {A} eq 0}$, тогда

${displaystyle {egin{bmatrix}mathbf {A} &mathbf {A} end{bmatrix}}^{+}={frac {1}{2}}{egin{bmatrix}mathbf {A} ^{+}mathbf {A} ^{+}end{bmatrix}}eq {egin{bmatrix}left(mathbf {P} _{A}^{perp }mathbf {A} ight)^{+}left(mathbf {P} _{A}^{perp }mathbf {A} ight)^{+}end{bmatrix}}=0}$

Приложение к задачам наименьших квадратов

Учитывая те же матрицы, что и выше, мы рассматриваем следующие задачи наименьших квадратов, которые выглядят как множественные задачи оптимизации или задачи с ограничениями при обработке сигналов. В конце концов, мы можем реализовать параллельный алгоритм наименьших квадратов на основе следующих результатов.

Разделение по столбцам методом переопределенных наименьших квадратов

Предположим решение ${displaystyle mathbf {x} ={egin{bmatrix}mathbf {x} _{1}mathbf {x} _{2}end{bmatrix}}}$ решает чрезмерно детерминированную систему:

${displaystyle {egin{bmatrix}mathbf {A} ,&mathbf {B} end{bmatrix}}{egin{bmatrix}mathbf {x} _{1}mathbf {x} _{2}end{bmatrix}}=mathbf {d} ,quad mathbf {d} in mathbb {R} ^{m imes 1}.}$

Используя псевдообратную блочную матрицу, имеем

${displaystyle mathbf {x} ={egin{bmatrix}mathbf {A} ,&mathbf {B} end{bmatrix}}^{+},mathbf {d} ={egin{bmatrix}left(mathbf {P} _{B}^{perp }mathbf {A} ight)^{+}left(mathbf {P} _{A}^{perp }mathbf {B} ight)^{+}end{bmatrix}}mathbf {d} .}$

Следовательно, у нас есть разложенное решение:

${displaystyle mathbf {x} _{1}=left(mathbf {P} _{B}^{perp }mathbf {A} ight)^{+},mathbf {d} ,quad mathbf {x} _{2}=left(mathbf {P} _{A}^{perp }mathbf {B} ight)^{+},mathbf {d} .}$

Построчное разбиение с помощью недоопределенных наименьших квадратов

Предположим решение ${displaystyle mathbf {x} }$ решает недоопределенную систему:

${displaystyle {egin{bmatrix}mathbf {A} ^{ extsf {T}}mathbf {B} ^{ extsf {T}}end{bmatrix}}mathbf {x} ={egin{bmatrix}mathbf {e} mathbf {f} end{bmatrix}},quad mathbf {e} in mathbb {R} ^{n imes 1},quad mathbf {f} in mathbb {R} ^{p imes 1}.}$

Решение с минимальной нормой дается формулой

${displaystyle mathbf {x} ={egin{bmatrix}mathbf {A} ^{ extsf {T}}mathbf {B} ^{ extsf {T}}end{bmatrix}}^{+},{egin{bmatrix}mathbf {e} mathbf {f} end{bmatrix}}.}$

Используя псевдообратную блочную матрицу, имеем

${displaystyle mathbf {x} ={egin{bmatrix}left(mathbf {A} ^{ extsf {T}}mathbf {P} _{B}^{perp }ight)^{+}&left(mathbf {B} ^{ extsf {T}}mathbf {P} _{A}^{perp }ight)^{+}end{bmatrix}}{egin{bmatrix}mathbf {e} mathbf {f} end{bmatrix}}=left(mathbf {A} ^{ extsf {T}}mathbf {P} _{B}^{perp }ight)^{+},mathbf {e} +left(mathbf {B} ^{ extsf {T}}mathbf {P} _{A}^{perp }ight)^{+},mathbf {f} .}$

Комментарии к обращению матриц

Вместо ${displaystyle mathbf {left({egin{bmatrix}mathbf {A} &mathbf {B} end{bmatrix}}^{ extsf {T}}{egin{bmatrix}mathbf {A} &mathbf {B} end{bmatrix}}ight)} ^{-1}}$, нам нужно вычислить прямо или косвенно^{[нужна цитата ][оригинальное исследование? ]}

${displaystyle left(mathbf {A} ^{ extsf {T}}mathbf {A} ight)^{-1},quad left(mathbf {B} ^{ extsf {T}}mathbf {B} ight)^{-1},quad left(mathbf {A} ^{ extsf {T}}mathbf {P} _{B}^{perp }mathbf {A} ight)^{-1},quad left(mathbf {B} ^{ extsf {T}}mathbf {P} _{A}^{perp }mathbf {B} ight)^{-1}.}$

В плотной и маленькой системе мы можем использовать разложение по сингулярным числам, QR-разложение, или же Разложение Холецкого заменить инверсии матриц числовыми процедурами. В большой системе мы можем использовать итерационные методы такие как методы подпространства Крылова.

Учитывая параллельные алгоритмы, мы можем вычислить ${displaystyle left(mathbf {A} ^{ extsf {T}}mathbf {A} ight)^{-1}}$ и ${displaystyle left(mathbf {B} ^{ extsf {T}}mathbf {B} ight)^{-1}}$ в параллели. Затем мы заканчиваем вычислять ${displaystyle left(mathbf {A} ^{ extsf {T}}mathbf {P} _{B}^{perp }mathbf {A} ight)^{-1}}$ и ${displaystyle left(mathbf {B} ^{ extsf {T}}mathbf {P} _{A}^{perp }mathbf {B} ight)^{-1}}$ также параллельно.

Смотрите также

• Обратимая матрица # Поблочная инверсия

Рекомендации

1. J.K. Баксалары и О. Баксалары (2007). "Частные формулы для обратного преобразования Мура – ​​Пенроуза разбитой по столбцам матрицы". Приложение линейной алгебры. 421: 16–23. Дои:10.1016 / j.laa.2006.03.031.

внешняя ссылка

• Справочное руководство по матрице к Майк Брукс
• Глоссарий линейной алгебры к Джон Буркардт
• Поваренная книга Матрицы к Кааре Брандт Петерсен
• Лекция 8: Решения неопределенных уравнений по наименьшей норме к [1]^{[постоянная мертвая ссылка ]}tanford.edu/~boyd/ Стивен П. Бойд]