Теория линейных пространств

Теория линейных пространств.

Определение:

Линейное пространство (ЛП) – совокупность произвольных объектов, на которых введены две абстрактные операции, условно именуемые сложением (+) и умножением на число (λ).

Элементы линейного пространства будем называть векторами.

эти операции должны удовлетворять следующим свойствам:

x + y = y + x – коммутативность (нулевой элемент, не число!) (противоположный элемент) λx + λy= λ(x + y) λx + μx= (λ + μ)*x

Упражнения:

2) Если 0*x = 0, то

z + 0*x = z + 0*x + 0 = z + 0*x + = z + (0 + 1)*x + y = z + (x + y) = z + 0 = z

3) Существует противоположный элемент = (-1)*x

x + (-1)*x = 1*x + (-1)*x = (1-1)*x = 0*x = 0

Примеры линейных пространств:

Pn – ЛП полиномов степени ≤ n

Определение:

Полиномом степени n называется вектор вида a0 + a1t + a2t2 +…+antn, где ai – заданные числа, t – переменная.

В Pn выполняются обычные сложение и умножение

Если степень полинома равна n Þ не ЛП.

Если степень полинома ≤m<n Þ подпространство

Пример 2.

Пусть [a, b] – числовой отрезок, и имеется совокупность всех непрерывных функций на нем – то это ЛП.

Определение:

Набор векторов a1,a2,…an – ЛНЗ, если только их тривиальная линейная комбинация равна нулю.

Определение:

ЛП имеет размерность n, если в нем есть система из n ЛНЗ векторов, а система - ЛЗ. Эта система из n ЛНЗ векторов называется базисом ЛП

Теорема:

Если B - {a1, a2, …, an} – базис ЛП, то любой вектор x из этого пространства можно единственным образом представить в виде

x = x1a1 + x2a2 + … + xnan, где xi – числа, координаты вектора x в базисе B .

Доказательство:

Т. к. – ЛЗ Þ λi: λ0x + λ1a1 + λ2a2 + … + λnan = 0 λ0 ¹ 0

λ0x = -λ1a1 - λ2a2 - … - λnan Þ

Предположим, есть два разложения:

x =

x = - вычтем их друг из друга:

0 =

т. к. ai – ЛНЗ Þ каждый коэффициент равен нулю Þ координаты равны.

Не существует разного разложения по одному и тому же базису.

Обозначения:

xЛП – элемент ЛП

B – некоторый базис ЛП

[x]B = [x1, x2…xn]B – координаты вектора x относительно базиса В

Связь между координатами векторов разных базисов.

Дано: ЛП

B1 = {a1, a2, …, an}

B2 = {e1, e2, …, en}

[x]B – координаты x относительно базиса В

e1 = α11a1 + α12a2 + … + α1nan,

e2 = α21a1+ α22a2 + … + α2nan

…

en = αn1a1 + αn2a2 + … + α nnan.

Т. е. определена связь между двумя базисами.

A =

det (A) ≠ 0, ЛНЗ Þ A-1

[x]B2 - ?

[x]B1 =

[x]B2 = [x1, x2, …, xn]

x = x1e1 + x2e2 + … + xnen =

=

= α11x1 + α21x2 + … + αn1хn,

= α12x1 + α22x2 + … + αn2xn

…

= α1nx1 + α2nx2 + … + α nnxn.

[x]B1 = AT[x]B2 |*(AT)-1 det(A) ¹ 0 Þ $ A-1

(AT)-1[x]B1 = [x]B2

ЕЛП – евклидовы линейные пространства.

Пространство называется евклидовым, если в нем определено скалярное произведение векторов.

Скалярное произведение векторов:

Свойства:

1 (x, y) = (y, x)

2 (λx, y) = λ(x, y)

3 (x + y, z) = (x, z) + (y, z)

4 (x, x) ≥ 0, равенство равносильно x = 0.

Пример:

L2 [a, b] - ЛП интегрируемых на [a, b] числовых функций.

f(x), g(x) L2 [a, b]

(f, g)=

Определение:

Нормой (длиной) вектора x называется число ||x|| = .

Теорема (неравенство Коши – Буняковского - Шварца):

|(x, y)| ≤ ||x|| * ||y||.

Теорема (неравенство треугольника):

||x + y|| ≤ ||x|| + ||y||.

Доказательство:

|| x + y ||2 = (x + y, x + y) = (x, x + y) + (y, x + y) ≤ (x, x) + 2*||x|| * ||y|| + (y, y) = ( ||x|| + ||y|| )2.

Определение:

Базис B = {e1, e2…en} называется нормированным, если все длины векторов ||ei|| = 1.

Теорема:

Любой базис можно сделать нормированным.

Пусть дан базис B = {e1, e2…en} ||ei|| ≠ 1

, где λ (е1 ¹ 0 т. к. в базисе нулевого вектора быть не может)

.

(т. е. нормировка – умножение на число λ).

Определение:

Базис B = {e1, e2, …, en} называется ортогональным, если все его скалярные произведения (ei, ej) = 0 при i ≠ j.

Теорема:

Пусть B – ортогональный базис, тогда ,где [xi] = [x]B, [yi] = [y]B.

Доказательство:

x = x1e1 + x2e2 + … + xnen

y = y1e1 + y2e2 + … + ynen

(x, y) = ( x1e1 + x2e2 + … + xnen; y1e1 + y2e2 + … + ynen) = (так как В – ортогональный)

Алгоритм ортогонализации базиса.

Пусть B = {e1, e2…en} – произвольный базис. В алгоритме n единообразных шагов.

Шаг 1. e1 – оставляем без изменения.

Шаг 2. вместо e2 включаем в новый базис: , где α1 – ищется из условия ортогональности:

(e1, e2 + α1e1) = α1||e1||2 = -(e1, e2)

то есть .

Шаг 3. вместо e3 включаем в новый базис , где α1, α2 – ищутся из системы:

т. к. е1 и е2 – ЛНЗ и также по неравенству Коши - Буняковского

…

Шаг к. вместо ek помещаем в новый базис

где все αi – ищутся из условий ортогональности:

∆ ¹ 0.

Теорема.

Любой ортогональный набор ненулевых векторов a1, a2, …, ak – ЛНЗ.

Доказательство:

Дано

Рассмотрим их произвольную ЛК, равную нулю:

λ1a1 + λ2a2 +…+ λkak = 0

значит, λ1 = 0.

Аналогично λ2 = 0,…, λк = 0.

Пример:

A =

A-1 =

Изоморфизм ЛП.

Определение:

Два ЛП X и Y называются изоморфными, если между их элементами можно установить взаимно однозначное соответствие: φ: X → Y, удовлетворяющее свойствам:

1.  φ(x/ + x//) = φ(x/) + φ(x//)

2.  φ(λx) = λφ(x).

Определение:

Два евклидовых пространства X, Y называются изоморфными, если между их элементами можно установить взаимно однозначное соответствие: φ: X → Y, удовлетворяющее свойствам:

1. φ(x/ + x//) = φ(x/) + φ(x//)

2. φ(λx) = λφ(x).

3. (x/, x//) = (φ(x/), φ(x//)).

Теорема:

Любые два конечномерных ЛП (евклидовых пространства) одинаковой размерности – изоморфны.

Доказательство:

Пусть есть X и Y, dim(X) = dim(Y) = n.

BX = - базис ортонормирован,

BY = - базис ортонормирован.

φ(X) → Y: [x]Bx = [x]By ~ x = → y =

Почему это изоморфизм?

φ(x/ + x//) = φ(x/) + φ(x//) Рассмотрим отдельно обе части.

Левая часть:

x/ =

x// =

x/ + x// = Þ

Þ y =

Правая часть:

φ(x/) =

φ(x//) =

φ(x/) + φ(x//) =

Очевидно, что левая и правая части равны.

Аналогично: φ(λx) = λφ(x):

Левая часть:

x =

λx =

y =

Правая часть:

φ(x) =

λφ(x) = .

Очевидно, что левая и правая части равны.

Свойства скалярного произведения.

x/ =

x// =

тогда

y/ = φ(x/) =

y// = φ(x//) =

Линейные операторы в ЛП.

Пусть X и Y – два ЛП (конечномерные, но не обязательно одной размерности)

Определение:

Отображение F: X →Y называется линейным оператором (переводящим X в Y), если выполняются:

1. F (x/ + x//) =F (x/) + F (x//)

2. F (λx) = λF (x).

Примеры ЛП.

Операции над линейными операторами.

1)  сложение: (F1 + F2)(x) = F1(x) + F2(x),

2)  умножение на число: (λF1)(x) = λ(F1(x)),

Задание. Почему при сложении операторов и умножении на число получаются ЛП?

3)  Суперпозиция (умножение друг на друга): (F1 °F2)(x) = F1(F2(x))

Эти операции удовлетворяют свойствам:

1.  Свойства сложения:

а) коммутативность: F1 + F2 = F2 + F1;

b) ассоциативность: (F1 + F2) + F3 = F1 + (F2 + F3);

c) существует «нулевой» оператор 0: 0(x) = 0.

2. Свойства умножения на число:

а) сочетательный:

λμF ~ (λμ)F ~ λ(μF)

б) дистрибутивность:

λ(F1 + F2) = λF1 + λF2

(λ1 + λ2)F = λ1F + λ2F

3. Свойства суперпозиции:

а) существует «единица» - тождественный оператор: I(x) = x

b) F1 ° (F2 +F3) = F1 ° F2 + F1 ° F3

Доказательство:

Пусть x – произведение векторов левой части.

F1 ° (F2 +F3) (x) = F1 ° ((F2 + F3) (x)) = F1 ° (F2(x) +F3(x)) = F1 ° (F2(x)) + F1 ° (F3 (x))= F1 ° F2(x) +

F1 ° F3(x) – равно правой части.

c) (F2 + F3) ° F1 = F2 ° F1 + F3 ° F1

d) F1 ° (λF2) = λ(F1 ° F2) - только для линейных операторов.

Матрицы линейных операторов.

Пусть F: X → Y – линейный оператор

Пусть

BX =

BY =

Y = F(x) Þ [y]By = ?[x]Bx

…

Пусть это задано.

Тогда:

[y]By = A[x]Bx,

где - матрица линейного оператора

Пример:

- матрица проектирования

Переход в линейном операторе к новому базису.

Рассмотрим F: ЛП1 → ЛП2

B1 =

B2 =

A =

x, y = F/x

B3 =

B4 =

[x]B3 = C[x]B1

[y]B4 = D[y]B2 где C, D – матрицы разложения.

D-1[y]B4 = AC-1[x]B3 / умножим обе части на D

DAC-1 – новая матрица

Частный случай.

F: ЛП1→ ЛП1

B1 =

B2 =

x, y = Fx, тогда существуют A/,A// такие что:

Ядро и образ линейного оператора.

Определение:

Ядром линейного оператора называется множество kern(F) =

Определение:

Образом линейного оператора называется множество im(F) =

Утверждение:

Ядро является линейным подпространством в ЛП1 (доказать самостоятельно)

Утверждение:

Образ является линейным подпространством в ЛП2

Частный случай: ЛП1 = ЛП2.

Теорема:

Пусть F: ЛП1 → ЛП1, F – линейный оператор. Тогда dim (kern (F)) + dim (im (F)) = dim (ЛП1) = n

Пояснения:

F

Базис в ЛП Þ A: [y] = A[x]

[kern (F)] =

[kern (F)]┴ = [im (F)]

Пример:

Ранг линейного оператора.

F: ЛП1 → ЛП2 [y]B2 = A[x]B1

Определение:

Рангом оператора называется ранг любой его матрицы.

Обоснование:

A// = DA/ C-1 D и C-1 – невырожденные

B

dim (B) = k, det (B) ¹ 0 rank (A/) = rank (A//)

Обратный оператор и его свойства

Определение:

Линейный оператор F-1: ЛП → ЛП называется обратным для оператора

F : ЛП → ЛП, если выполняется:

FF-1 = F-1F = E

Из определения обратного оператора следует, что

справедливо:

F-1Fx = x

Если оператор F имеет обратный, то из условия Fx = 0 следует, что х = 0

Линейный оператор F действует взаимно однозначно ЛП → ЛП, если любым двум элементам х1 и х2 отвечают различные элементы у1 = Fx1 и y2 = Fx2

Если оператор F действует взаимно однозначно из ЛП в ЛП, то отображение F: ЛП → ЛП представляет собой отображение ЛП на ЛП, то есть каждый элемент уÎЛП представляет собой образ некоторого элемента хÎЛП:

у = Fx

Утверждение:

Для того чтобы линейный оператор F: ЛП → ЛП имел обратный, необходимо и достаточно, чтобы этот оператор действовал взаимно однозначно из ЛП в ЛП

Матрицы обратных операторов обратны друг другу

Сопряженный оператор и его свойства.

F: ЛП1 → ЛП2 , причем эти пространства евклидовы, т. е. наделены скалярным произведением.

F*: ЛП2 → ЛП1

Определение:

F* - называется сопряженным к F, если для любого x из ЛП1, и любого у из ЛП2 выполняется:

(y, Fx) = (F*y, x)

Теорема:

Если F – линейный оператор, то F* - также линеен.

Доказательство:

1)  (F*(y/ + y//), x) = (y/ + y//, Fx) = (y/, Fx) + (y//, Fx) = (F*y/, x) + (F*y//, x) = (F*y/ + F*y//, x).

Образ суммы равен сумме образов слагаемых.

2) (F*(λy), x) ( λy, Fx) = λ(y, Fx) = x(F*y, x) ( λF*y, x). ( - равно по определению)

Образ произведения на вектор равен произведению на образ.

Матрица сопряженного оператора.

F: ЛП1 → ЛП2

F*: ЛП2 → ЛП1

B1 – ортонормированный базис в ЛП1

B2 – ортонормированный базис в ЛП2

x, y = Fx

[y]B2 = A[x]B1

y, x = F*y →?

(y, Fx) = (F*y, x)

( [y], [Fx] ) = ( [y], A[x] ) =

( [F*y], A[x] ) = ( A*[y], [x] ) =

Вывод:A* = AT

Теорема:

(F*)* = F.

Собственные значения и собственные вектора линейных операторов

F: , т. е. все векторы матрицы этого оператора – квадратные.

Определение: Число называется собственным значением оператора F, если существует ненулевой вектор x такой, что:

При этом называется собственным вектором числу .

Свойство:

{Совокупность собственных векторов, отвечающих данному }

Пусть B – некоторый базис в котором

Тогда - собственное значение F однородная система (где - новая матрица)

когда есть ненулевое решение, т. е.

Определение:

уравнение называется характеристическим для матрицы A

Теорема:

Все собственные числа оператора F и только они являются корнями характеристического уравнения (многочлена)

Доказательство:

Для любого базиса, т. е. для любой матрицы этого оператора корни одни и те же.

тогда , т. е.

Пример:

кососимметрическая матрица

-

Линейная независимость собственных векторов

F: (евклидовые)

1) Пусть - различные собственные значения линейного оператора F, тогда соответствующие собственные векторы - ЛНЗ

Доказательство (от противного):

Пусть

k+1≤m

тогда (1) Þ здесь не все равны 0 – нетривиальная ЛК

(2)

вычтем (2) из (1): из-за ЛНЗ все коэффициенты должны быть равны 0, но это не так Þ ЛК – нетривиальна Þ противоречие.

Следствие:

Пусть F: - линейный оператор, и его собственные числа - различны (n = dim (ЛП)). Тогда соответствующие собственные векторы образуют базис, , в котором матрица операторов диагональна:

Теорема:

Пусть F: - линейный оператор. Тогда существует базис ЛП, составленный из его собственных векторов.

Определение:

Линейный оператор F: называется самосопряжённым, если , т. е. (x, Fy) = (Fx, y)

Замечание:

Для любого базиса матрицы самосопряжённые операторы симметричны, т. е. , а это значит

1) A – квадратная

2)

Теорема:

Все собственные числа самосопряжённого линейного оператора (симметричной матрицы) – вещественные

Теорема:

Собственные векторы самосопряженного линейного оператора (симметричной матрицы), отвечающие различным собственным значениям, ортогональны.

Доказательство:

Пусть

, и

т. к. скалярные произведения равны нулю Þ ортогональность.

Линейные формы

Определение:

Линейный оператор F: ЛП → R (R - числовая ось) называется линейной формой.

Пусть ЛП – конечномерное евклидово пространство, тогда каждая линейная форма имеет вид: F(x) = (a, x) , где a – некоторый вектор, принадлежащий ЛП.

Если - базис, то вектор

Билинейные формы

Опрделение:

Отображение F: ЛП ЛП (декартово произведение – совокупность всевозможных пар (x, y): xЛП, yЛП) называется билинейной формой, если:

1)

2)

3)

4)

Теорема

Для любой билинейной формы f можно указать единственный линейный оператор

F: ЛП → ЛП такой, что

F(x, y) = (Fx, y)

Как строится матрица билинейной формы:

Пусть - базис в ЛП, тогда матрица билинейной формы равна:

, причём

Квадратичные формы

Определение:

Билинейная форма F называется симметрической, если F(x, y) = F(y, x)

Определение:

Квадратичной формой : ЛП → R называется форма вида ,

где F – симметрическая билинейная форма.

Следствие:

Если в ЛП выделен базис , то квадратичная форма имеет вид

,

где

Пример:

Пусть известно:

Матрица билинейной формы:

Проверка:

Диагонализация квадратичных форм

Пусть

Тогда

1) метод собственных чисел

Пусть A – симметрическая Þ все её собственные числа вещественны, если они все различны, то соответствующие собственные векторы попарно перпендикулярны, а значит, образуют ортогональный базис ЛП, и в этом базисе после нормирования матрица квадратичной формы диагональна.

Как она определяется:

, где ;

Собственные векторы образуют линейное подпространство - нормирование

 

2) метод выделения полного квадрата

Пример 1

, где замена: ;

и образуют косоугольный базис

Пример 2

Замена: ; , т. е.

Закон инерции квадратичных форм

При любом методе диагонализации число положительных и отрицательных квадратов сохраняется одним и тем же.

Знакоопределённость квадратичных форм

, где А: ЛП→ЛП

- базис

А – матрица системы

Определение:

Квадратичная форма называется положительно определённой (полуопределённой), если ()

Теорема:

Если - матрица квадратичной формы относительно некоторого базиса и все , то эта квадратичная форма положительно определена. Верно и обратное.

Доказательство:

, n - размерность пространства.

Все Þ вся сумма положительна.

Следствие:

Квадратичная форма с симметричной матрицей А является положительно определённой (полуопределённой) тогда и только тогда, когда все её собственные числа положительны (неотрицательны).

Замечание:

Всё вышесказанное аналогично и для отрицательно определённых квадратичных форм. Все остальные формы знаконеопределены.

Критерий Сильвестра знакоопределенности квадратичной формы.

Квадратная форма с матрицей А является положительно определенной тогда и только тогда, когда все угловые миноры матрицы А положительны.

Пояснение

Угловой минор – определитель подматрицы, диагональ которой лежит на диагонали матрицы А