Ортогонализация

Теорема 1. Линейная независимость попарно ортогональных векторов

Теорема. Линейная независимость попарно ортогональных векторов

Теорма

Если ненулевые векторы $e_{1}, e_{2}, \dots, e_{n}$ попарно ортогональны, то они линейно независимы.

Доказательство

Составим линейную комбинацию данных векторов: $λ_{1} e_{1} + λ_{2} e_{2} + \dots + λ_{n} e_{n} = θ$
Умножим скалярно обе части равенства на $e_{1}$ , получим:
$λ_{1} (e_{1}, e_{1}) = 0$
Поскольку $e_{1} \neq = θ$ , получаем, что $λ_{1} = 0$ .
Умножая скалярно линейную комбинацию на $λ_{2}, \dots λ_{n}$ , получим, что и оставшиеся коэффициенты равны 0. Следовательно, векторы линейно независимы.
Теорема доказана.

евклидовопространство
Ссылка на оригинал

Теорема 2. Скалярное произведение в ортонормированном базисе

Теорема. Скалярное произведение в ортонормированном базисе

Теорема

В ортонормированном базисе Скалярное произведение двух векторов равно сумме произведений их одноимённых координат.

Доказательство

Действительно, пусть $e_{1}, e_{2}, \dots, e_{n}$ - ортонормированный базис евклидова пространства $L$ . Возьмём два вектора этого пространства $x = x_{1} e_{1} + x_{2} e_{2} + \dots + x_{n} e_{n}, y = y_{1} e_{1} + y_{2} e_{2} + \dots + y_{n} e_{n}$
и запишем их Скалярное произведение: $(x, y) = (x_{1} e_{1} + x_{2} e_{2} + \dots + x_{n} e_{n}, y_{1} e_{1} + y_{2} e_{2} + \dots + y_{n} e_{n})$ Разобьём это скалярное произведение на составляющие по свойству линейности и, учитывая попарную ортогональность векторов и их нормированность, получим: $x_{1} y_{1} (e_{1}, e_{1}) + x_{2} y_{2} (e_{2}, e_{2}) + \dots + x_{n} y_{n} (e_{n}, e_{n}) = x_{1} y_{1} + x_{2} y_{2} + \dots + x_{n} y_{n}$
что и требовалось получить.

евклидовопространство
Ссылка на оригинал

Проекция вектора на вектор

Проекция вектора на вектор
Def. Вектор $\frac{( a , b )}{( b , b )} b$ называется проекцией вектора $a$ на вектор $b$
где $(a, b)$ - скалярное произведение
#линейноепространство
Ссылка на оригинал

Теорема 3. Координаты в ортогональном базисе

Теорема. Координаты в ортогональном базисе

Теорема

Если $e_{i} . e_{2}, \dots, e_{n}$ - ортогональный базис и $a = α_{1} e_{1} + α_{2} e_{2} + \dots α_{n} e_{n}$ , то
$α_{i} = \frac{( a , e _{i} )}{( e _{i} , e _{i} )}, i = 1, 2, \dots, n$

Доказательство

$(a, e_{i}) = (α_{1} e_{1} + α_{2} e_{2} + \dots α_{n} e_{n}, e_{i}) = α_{i} (e_{i}, e_{i})$
откуда получаем необходимое равенство при $i = 1, 2, \dots, n$

Дополнение

Исходя из определения проекции вектора на вектор и теоремы, заключаем, что любой вектор равен сумме своих проекций на векторы базиса.

евклидовопространство
Ссылка на оригинал

Теорема 4. Существование ортонормированного базиса

Теорема. Существование ортонормированного базиса
Если есть два линейно независимых вектора $f_{1}, f_{2}$ , то с их помощью всегда можно получить пару ортогональных векторов.

В качестве первого вектора выбираем любой вектор из данных двух, например, $f_{1}$ , т.е. $e_{1} = f_{1}$
Затем строим второй вектор $e_{2} = f_{2} + α_{1} e_{1}$ , причем $α_{1}$ выбираем так, чтобы выполнялось требуемое условие: $(e_{1}, e_{2}) = 0 ⟺ (e_{1}, f_{2} + α_{1} e_{1}) = 0 ⟺ α_{1} (e_{1}, e_{1}) + (e_{1}, f_{2}) = 0$ , т.е. $α_{1} = - \frac{( e _{1} , f _{2} )}{( e _{1} , e _{1} )}$ .

Аналогично можно поступить с тремя линейно независимыми векторами и так далее. Этот приём лежит в основе алгоритма Грама-Шмидта.

Теорема

В любом конечномерном евклидовом пространстве существует ортонормированный базис.

Доказательство

На основе исходного базиса $f_{1}, f_{2}, \dots, f_{n}$ построим ортогональный базис $e$ , используя следующие равенства:
$e_{1} = f_{1}, e_{2} = f_{2} - \frac{( e _{1} , f _{2} )}{( e _{1} , e _{1} )} e_{1}, \dots e_{n} = f_{n} - i = 1 \sum n - 1 \frac{( f _{n} , e _{i} )}{( e _{i} , e _{i} )} \cdot e_{i}$
Необходимо показать, что ни один из последовательно вычисляемых векторов не является нулевым и что все векторы $e_{i} (i = 1, 2, \dots, n)$ попарно ортогональны.

Воспользуемся Метод математической индукции для $k = 1, \dots, n$ .
При $k = 1$ имеем один ненулевой вектор.

Далее, пусть $e_{1}, e_{2}, \dots, e_{k}$ - ненулевые векторы, образующие ортогональную систему (т.е. попарно ортогональные). Построим ( $k + 1$ )-й вектор: $e_{k + 1} = f_{k + 1} - \sum_{i = 1}^{k + 1} \frac{( f _{k + 1} , e _{i} )}{( e _{i} , e _{i} )} \cdot e_{i}$
Если $e_{k + 1} = 0$ , то $f_{k + 1}$ является линейной комбинацией векторов $e_{1}, \dots, e_{k}$ , которые по заданию алгоритма выражаются через векторы $f_{1}, \dots, f_{k}$
Получается, что векторы $f_{1}, \dots, f_{k}, f_{k + 1}$ линейно зависимы, что невозможно, так как они являются частью базиса.
Теперь покажем, что $e_{k + 1} ⊥ e_{j}$ (ортогонален) для $j = 1, 2, \dots, k$ . Для этого последовательно скалярно умножим $e_{k + 1}$ на $e_{j}$ при $j = 1, 2, \dots, k$ :
$(e_{k + 1}, e_{j}) = (f_{k + 1} - i = 1 \sum k \frac{( f _{k + 1} , e _{i} )}{( e _{i} , e _{i} )} \cdot e_{i}, e_{j}) = (f_{k + 1}, e_{j}) - \frac{( f _{k + 1} , e _{j} )}{( e _{j} , e _{j} )} (e_{j}, e_{j}) = 0$
(поясните, почему из всей суммы осталось только одно слагаемое)
Мы построили ортогональный базис. Чтобы построить ортонормированный, разделим каждый вектор нового базиса на его норму:
$\frac{e _{i}}{∥ e _{i} ∥}$
Теорема доказана.

евклидовопространство
Ссылка на оригинал

Алгоритм Грама-Шмидта

Алгоритм Грама-Шмидта
Из доказательства теоремы о существовании ортонормированного базиса

Алгоритм ортогонализации Грама–Шмидта

Есть базис векторов $⟨ f_{1}, \dots, f_{n} ⟩$ . Чтобы его ортонормировать нужно:

Записать первый вектор:
$e_{1} = f_{1} .$

Построить второй вектор:
$e_{2} = f_{2} - \frac{( f _{2} , e _{1} )}{( e _{1} , e _{1} )} e_{1},$

Для общего шага $k = 3, \dots, n$ выполнить:
$e_{k} = f_{k} - i = 1 \sum k - 1 \frac{( f _{k} , e _{i} )}{( e _{i} , e _{i} )} e_{i},$

Нормировка всех векторов:

\hat e_{i} = \frac{e_{i}}{|e_{i}|},\quad i=1,\dots,m.
$**Результат**: векторы $\hat e_{1},\dots,\hat e_{m}$ образуют [[Ортогональный и ортонормированный базисы#^b58d53|ортонормированный базис пространства]] $\langle f_{1},\dots,f_{n} \rangle\,$ >[!warning] Замечание > > В нашем случае все вектора [[Линейная зависимость и независимость векторов|линейно независимы]], но алгоритм Грама—Шмидта может применяться к [[Линейная зависимость и независимость векторов|линейно зависимым векторам]]. Если на каком-то шаге $e_{k}=0$, исходные $f_{1},\dots,f_{k}$ зависимы. Для сохранения ортогональности выходных векторов и для предотвращения деления на ноль при ортогонализации алгоритм должен отбрасывать нулевые векторы. Количество векторов будет равно количеству [[Линейная зависимость и независимость векторов|линейно независимых векторов]], которые можно выделить среди исходных векторов.$

Примеры

Ортонормируем многочлены $f_{1} = x - 1$ и $f_{2} = x^{2} + 1$ в евклидовом пространстве $R^{n} [x]$ со скалярным произведением $(f, g) = \int_{- 1}^{1} f (x) \cdot g (x) d x$ $g_{1} = f_{1} g_{2} = f_{2} - \frac{( f _{2} , g _{1} )}{( g _{1} , g _{1} )} g_{1} (f_{2}, g_{1}) = \int_{- 1}^{1} (x^{3} - x^{2} + x - 1) d x = \frac{x ^{4}}{4} - \frac{x ^{3}}{3} + \frac{x ^{2}}{2} - 1 ∣_{- 1}^{1} = - \frac{2}{3} - 2 = - \frac{8}{3} (g_{1}, g_{1}) = \int_{- 1}^{1} (x - 1)^{2} d x = \frac{1}{3} (x - 1)^{3}_{- 1}^{1} = \frac{8}{3}$ Таким образом, $g_{2} = x^{2} + 1 + x - 1 = x^{2} + x$
Для нормирования нужно определить векторы $\frac{g _{1}}{∥ g _{1} ∥}$ и $\frac{g _{2}}{∥ g _{2} ∥}$

В пространстве матриц $M_{2 \times 2} (R)$ зададим скалярное произведение как сумму произведений одноимённых элементов матриц.
Ортогонализируем матрицы $A_{1} = (1111)$ и $A_{2} = (1001)$

$(A_{1}, A_{2}) = 2, (A_{1}, A_{1}) = 4,$ $B_{1} = A_{1}$ $B_{2} = A_{2} - \frac{( A _{2} , B _{1} )}{( B _{1} , B _{1} )} B_{1} = A_{2} - \frac{1}{2} B_{1} = (\frac{1}{2} - \frac{1}{2} - \frac{1}{2} \frac{1}{2})$

евклидовопространство
Ссылка на оригинал

Ортогональное дополнение

Ортогональное дополнение
Пусть $L_{1} \leq L$ (Подпространство) и $f_{1}, f_{2}, \dots, f_{m}$ - базис в $L_{1}$ . Мы можем по методу Грама-Шмидта построить ортогональный базис $e_{1}, e_{2}, \dots, e_{m}$ . Дополним его до ортогонального базиса всего пространства $L$ : $e_{1}, e_{2}, \dots, e_{m}, e_{m + 1}, \dots, e_{n}$ .

Рассмотрим подпространство $L_{2}$ , натянутое на векторы $e_{m + 1}, \dots, e_{n}$ , его размерность $dim L_{2} =$ $n - m$ , причем если $a \in L_{1}, b \in L_{2}$ то $a ⊥ b$ (ортогональны)

Def. Подпространства $L_{1}$ и $L_{2}$ , построенные описанным выше способом, называются ортогональными дополнениями друг друга.
При этом $L = L_{1} \oplus L_{2}$

Дополнение

Таким образом, для любого подпространства евклидова пространства можно построить его ортогональное дополнение, причем для любого $x \in L$ справедливо представление $x = x_{1} + x_{2}$ , где $x_{1} \in L_{1}, x_{2} \in L_{2}, x_{1} ⊥ x_{2}$ .
При этом $x_{1}$ называют ортогональной проекцией $x$ на $L_{1}, x_{2}$ ортогональной составляющей $x$ относительно подпространства $L_{1}$ .

Очевидно, что ортогональное дополнение к подпространству состоит из всех векторов, ортогональных каждому вектору данного подпространства.

Пример

Самым простым примером подпространства и его ортогонального дополнения являются координатная плоскость с одной стороны и третья ось с другой в пространстве $V^{3}$

евклидовопространство
Ссылка на оригинал

Теорема 5. Ортогональность линейной оболочки строк матрицы и пространства решений соответствующей ОСЛУ

Теорема. Ортогональность линейной оболочки строк матрицы и пространства решений соответствующей ОСЛУ

Теорема

Пусть дана Матрица
$A = a_{11} a_{21} \dots a_{m 1} a_{12} a_{22} a_{m 2} \dots \dots \dots a_{1 n} a_{2 n} a_{mn}$
Тогда пространство решений $L_{1}$ однородной системы линейных уравнений $A X = θ$ является ортогональным дополнением к линейной оболочке $L_{2}$ строк матрицы и $L_{1} \oplus L_{2} = R^{n}$

евклидовопространство матрица
Ссылка на оригинал

Ортогональные матрицы

Ортогональная матрица
Def. Матрица $A$ называется ортогональной, если $A \cdot A^{T} = A^{T} \cdot A = E$ . Иначе говоря, если обратная матрица совпадает с транспонированной.

Свойства

$det A = \pm 1$ .

Следует из $det A \cdot det A^{T} = det E$ .

Столбцы матрицы $A$ образуют ортонормированную систему.

Если рассмотреть произведение $A^{T} \cdot A$ , равное единичной матрице, нетрудно увидеть, что строки $A^{T}$ это столбцы матрицы $A$ , а их произведения равны нулю, если они не совпадают, и равны единице, если совпадают.
Аналогично для строк.

матрица евклидовопространство
Ссылка на оригинал

По итогам лекции нужно знать:

Понятия:
Метод ортогонализации Грама-Шмидта
Координаты в ортогональном базисе
Свойства ортогональной матрицы
Основные теоретические факты с доказательствами

евклидовопространство

etuMath

Проводник

2. Ортогонализация

Ортогонализация

Теорема 1. Линейная независимость попарно ортогональных векторов

Теорема. Линейная независимость попарно ортогональных векторов

Теорема 2. Скалярное произведение в ортонормированном базисе

Теорема. Скалярное произведение в ортонормированном базисе

Проекция вектора на вектор

Проекция вектора на вектор

Теорема 3. Координаты в ортогональном базисе

Теорема. Координаты в ортогональном базисе

Теорема 4. Существование ортонормированного базиса

Теорема. Существование ортонормированного базиса

Алгоритм Грама-Шмидта

Алгоритм Грама-Шмидта

Ортогональное дополнение

Ортогональное дополнение

Теорема 5. Ортогональность линейной оболочки строк матрицы и пространства решений соответствующей ОСЛУ

Теорема. Ортогональность линейной оболочки строк матрицы и пространства решений соответствующей ОСЛУ

Ортогональные матрицы

Ортогональная матрица

По итогам лекции нужно знать:

Вид графа

Оглавление