Элементы линейной алгебры

Операции сложения, вычитания матриц и умножения на скаляр $$\lambda$$ удовлетворяют следующим законам:

Произведением AB матрицы $$A(m\times p)=\|a_{ij}\|$$ на матрицу $$B(p\times n)=\|b_{ij}\|$$ справа (или матрицы B на матрицу A слева) называется матрица $$C(m\times n)=\|c_{ij}\|$$, где каждый ее элемент определяется по формуле$$c_{ij} =\sum^p_{k=1} a_{ik}b_{kj} = a_{i1}b_{1j} + a_{12}b_{1j} + \dotsc + a_{ip}b_{pj}.$$ Для нахождения произведения AB необходимо, чтобы число столбцов p матрицы A совпадало с числом строк матрицы B.

Пример. Найдем произведение матриц вида$$A= \begin{Vmatrix} 2 2 1 \cr 1 5 -1 \end{Vmatrix}, \quad B = \begin{Vmatrix} 0 1 5 \cr 2 0 2 \cr 5 5 1 \end{Vmatrix}. \\[4pt] AB = \begin{Vmatrix} 2\cdot 0 + 2\cdot 2 + 1\cdot 5 2\cdot 1+2\cdot 0 +1\cdot5 2\cdot 5 +2\cdot 2 + 1\cdot 1 \\[3pt] 1\cdot 0+5\cdot 2 + (-1)\cdot 5 1\cdot 1+5\cdot 0+(-1)\cdot51\cdot 5+5\cdot 2+(-1)\cdot 1 \end{Vmatrix} = \\[3pt]= \begin{Vmatrix} 9 7 15 \cr 5 -4 14 \end{Vmatrix} .$$

Операция умножения произвольных матриц A и B и числа $$\lambda$$ также удовлетворяет определенным законам.

Определители матриц обладают определенными свойствами.

Свойство 1. Определитель матрицы не изменится, если в матрице строки и столбцы поменять местами.

Отсюда следует, что все свойства определителя, справедливые для строк, будут справедливы и для столбцов.

Свойство 2. Если в матрице поменять местами две любые строки (два любых столбца), то определитель матрицы (то есть его значение) изменит знак.

Свойство 3. Общий множитель всех элементов некоторой строки (столбца) матрицы можно выносить за знак определителя.

Свойство 4. Если все элементы какой-либо строки (какого-либо столбца) матрицы равны нулю, то определитель равен нулю.

Свойство 5. Если каждый элемент aij, j=1, 2,..., n строки (столбца i=1, 2,..., n ) с номером i (столбца с номером j ) матрицы есть сумма двух чисел, то есть aij=bij+cij, то определитель матрицы можно записать в виде суммы двух определителей: у одного элементами i -ой строки ( j -го столбца) являются числа bij, у другого элементами i -ой строки ( j -го столбца) являются числа cij.

Свойство 6. Определитель матрицы, у которой элементы каких-либо двух строк (столбцов) пропорциональны, равен нулю.

Свойство 7. Если к элементам некоторой строки (столбца) матрицы прибавить соответствующие элементы другой строки (столбца), умноженные на одно и то же число $$\lambda$$, то определитель матрицы не изменится.

Свойство 8. Определитель матрицы равен сумме произведений элементов ai1, ai2,..., ain любой строки номера i (элементов a1j, a2j, ..., a_{nj} любого столбца номера j ) матрицы на их алгебраические дополнения Ai1, Aj2, ..., Ain ( Aj1, Aj2, ..., Ajn).

Свойство 9. Сумма произведений элементов какой-либо строки (какого-либо столбца) определителя на алгебраические дополнения другой строки (другого столбца) равна нулю, то есть если $$i\ne j$$, то ai1Aj1+ai2Aj2+...+ainAjn=0.

Правило вычисления определителей. Используя свойство 7, получить из данного определителя другой определитель (имеющий такое же числовое значение), у которого все элементы некоторой строки (некоторого столбца), кроме одного, будут равны нулю, а затем, используя свойство 8, преобразовать последний определитель к определителю порядка на единицу меньше исходного.

Пример. Вычислим определитель A вида (пояснения к цифрам - ниже):$$A = \begin{pmatrix} 1 -1 2 1 \cr -1 0 3 3 \cr 1 -1 3 1 \cr 2 -2 7 1 \end{pmatrix} \mathrel{\mathop{=}\limits^{(1)}} \begin{pmatrix} 1 -1 2 1 \cr -1 0 3 3 \cr 0 0 1 0 \cr 0 0 3 -1 \end{pmatrix} \mathrel{\mathop{=}\limits^{(2)}} \\[3pt] = (-1) (-1)^{1+2} \begin{pmatrix} -1 3 3 \cr 0 1 0 \cr 0 3 -1 \end{pmatrix} = \begin{pmatrix} -1 3 3 \cr 0 1 0 \cr 0 3 -1 \end{pmatrix} \mathrel{\mathop{=}\limits^{(3)}} 1 \cdot \begin{pmatrix} -1 3 \cr 0 -1 \cr \end{pmatrix} = \\= 1 - 0 = 1.$$

Пояснения к цифрам (выполняемым от равенства к равенству эквивалентным преобразованиям): (1) - вычитание из 3-й строки 1-ой строки и вычитание из 4-й строки - 1-й строки, предварительно умноженной на 2; (2) - разложение по элементам 2-го столбца, используя свойство 8; (3) - разложение по элементам 2-й строки.

Обратной к матрице $$A(n\times n)$$ матрицей называется матрица A-1, такая, что $$A\cdot A^{-1}=E$$ .

Теорема. Для того чтобы у матрицы $$A(n\times n)$$ имелась обратная, необходимо и достаточно, чтобы $$\det (A)\ne 0$$ (матрица A была не особой), причем обратную матрицу можно получить по формуле$$A^{-1} = \frac {1}{\det (A)}A^*.$$

Пример. Пусть$$A= \begin{Vmatrix} 2 2 0 \cr 4 3 1 \cr 2 2 1 \end{Vmatrix}.$$ Ее определитель$$\det (A)= \begin{vmatrix} 2 2 0 \cr 4 3 1 \cr 2 2 1 \end{vmatrix} =-2\ne 0.$$ Вычислим все алгебраические дополнения для нахождения обратной матрицы по вышеприведенной формуле:$$\begin{alignat*} 3 A_{11} = \begin{pmatrix} 3 1 \cr 2 1 \end{pmatrix}= 1, \quad A_{12} =-\begin{pmatrix} 4 1 \cr 2 1 \end{pmatrix}=-2, \quad A_{13} = \begin{pmatrix} 4 3 \cr 2 2 \end{pmatrix}= 2, \\ A_{21} =-\begin{pmatrix} 2 0 \cr 2 1 \end{pmatrix}=-2, \quad A_{22} = \begin{pmatrix} 2 0 \cr 2 1 \end{pmatrix}= 2, \quad A_{23} =-\begin{pmatrix} 2 2 \cr 2 2 \end{pmatrix}= 0, \\ A_{31} = \begin{pmatrix} 2 0 \cr 3 1 \end{pmatrix}=-2, \quad A_{32} =-\begin{pmatrix} 2 0 \cr 4 1 \end{pmatrix}=-2, \quad A_{33} = \begin{pmatrix} 2 2 \cr 4 3 \end{pmatrix}=-2. \end{alignat*}$$ Тогда присоединенная (союзная) матрица имеет вид$$A^* = \begin{Vmatrix} 1 -2 -2 \cr -2 2 -2 \cr 2 0 -2 \end{Vmatrix}, \quad A^{-1} =\frac {1}{\det (A)}A^* = \begin{Vmatrix} -0{,}5 1 1 \cr 1 -1 1 \cr -1 0 1 \end{Vmatrix} .$$ Проверка:$$AA^{-1} = \begin{Vmatrix} 2 2 0 \cr 4 3 1 \cr 2 2 1 \end{Vmatrix} \cdot \begin{Vmatrix} -0{,}5 1 1 \cr 1 -1 1 \cr -1 0 1 \end{Vmatrix} = \begin{Vmatrix} 1 0 0 \cr 0 1 0 \cr 0 0 1 \end{Vmatrix} =E.$$ Можно также проверить, что A-1A=E (проделайте самостоятельно).

С матрицами связаны очень важные характеристики процессов (систем), описываемых матрицами, - собственные числа и собственные вектора.

Собственное ( характеристическое ) число $$\lambda$$ квадратной матрицы порядка n - это такое число, для которого существует ненулевое решение матричного уравнения вида $$AX=\lambda X$$ . Собственным вектором X матрицы A, соответствующим собственному числу $$\lambda$$, называется это решение X уравнения.

Для того чтобы найти собственное число, необходимо решить алгебраическое уравнение n -ой степени $$\det (A-\lambda E)=0$$. Это уравнение называется характеристическим уравнением.

Если найдено собственное число $$\lambda$$, то соответствующий ему собственный вектор определяется как ненулевое решение матричного уравнения $$(A-\lambda E)X=0$$.

Пример. Найдем собственные значения и векторы матрицы $$A= \begin{Vmatrix} 1 2 \cr -1 4 \end{Vmatrix}$$. Запишем характеристическое уравнение $$\det (A-\lambda E)=0$$, которое будет иметь вид:$$\det (A-\lambda E)= \left\|\vmatrix 1 -\lambda 2 \cr -1 4-\lambda \endvmatrix \right\| =(1-\lambda )(4-\lambda )+2=\lambda ^2-5\lambda +6=0.$$ Следовательно, есть два характеристических числа матрицы A: $$\lambda _1=2$$, $$\lambda _2=3$$. Найдем собственный вектор, соответствующий числу $$\lambda _3=3$$, то есть ненулевое решение уравнения (A-3E)X=0 или уравнения, записанного в координатной форме:$$(A-3E) = \left( \begin{Vmatrix} 1 2 \cr -1 4 \end{Vmatrix} - 3 \begin{Vmatrix} 1 0 \cr 0 1 \end{Vmatrix} \right) \begin{Vmatrix} x_1 \cr x_2 \end{Vmatrix} = \\= \left( \begin{Vmatrix} 1 2 \cr -1 4 \end{Vmatrix} - \begin{Vmatrix} 3 0 \cr 0 3 \end{Vmatrix} \right) \begin{Vmatrix} x_1 \cr x_2 \end{Vmatrix} = \begin{Vmatrix} -2 2 \cr -1 1 \end{Vmatrix}\, \begin{Vmatrix} x_1 \cr x_2 \end{Vmatrix} =0.$$ Отсюда, по правилам умножения матриц и равенства матриц получаем систему$$\begin{cases} -2x_1+2x_2=0, \\ -x_1+x_2 =0 \end{cases}\kern-10pt$$ и ее ненулевое решение x1=1, x2=1. Собственный вектор, соответствующий собственному числу $$\lambda =3$$, имеет вид$$X= \begin{Vmatrix} 1 \cr 1 \end{Vmatrix}.$$ Проверьте самостоятельно, что собственный вектор, соответствующий собственному числу $$\lambda =2$$, равен$$X= \begin{Vmatrix} 2 \cr 1 \end{Vmatrix}.$$

Системой m линейных алгебраических уравнений с n неизвестными x1, x2,..., xn называют совокупность уравнений (каждое из которых может содержать от 1 до n неизвестных):$$\begin{cases} a_{11}x_1 + a_{12}x_2 +\dotsc+ a_{1n}x_n =b_1 \\ a_{21}x_1 + a_{22}x_2 +\dotsc+ a_{2n}x_n =b_2 \\ \hdotsfor{1} \\ a_{m1}x_1 + a_{m2}x_2 +\dotsc+ a_{mn}x_n =b_m \\ \end{cases}$$ Числа aij (i=1, 2,..., m; j=1, 2,...,n) называются коэффициентами системы , а числа bi (i = 1, 2,., m) - свободными членами .

Решением системы называется совокупность чисел x1, x2,..., xn, которые обращают каждое уравнение системы в верное числовое равенство (тождество).

Система называется совместной, если существует хотя бы одно решение, а в противном случае, - несовместной . Если система имеет только одно решение, то она называется определенной, разрешимой единственным образом . Если имеется два и более решений, то система называется неопределенной .

Рассмотрим три матрицы вида$$A= \begin{Vmatrix} a_{11} a_{12} \dotsc a_{1n} \\ a_{21} a_{22} \dotsc a_{2n} \\ \hdotsfor{4} \\ a_{m1} a_{m2} \dotsc a_{mn} \end{Vmatrix}, \quad X = \begin{Vmatrix} x_1 \\ x_2 \\ \dotsc \\ x_n \end{Vmatrix} , \quad B= \begin{Vmatrix} b_1 \\ b_2 \\ \dotsc \\ b _n \end{Vmatrix} .$$

С помощью этих матриц систему уравнений можно записать в виде: AX=B. Это равенство проверяется непосредственно, используя правило перемножения матриц и условие равенства двух матриц. Такое равенство называется матричной записью системы уравнений.

Если $$B\equiv 0$$, то система называется однородной . Всякая однородная система совместна, так нулевой вектор X=0 всегда удовлетворяет соответствующему матричному уравнению.

Если m=n (то есть A - квадратная матрица $$(n\times n)$$ ), то система называется системой из n уравнений с n неизвестными или системой порядка n. В этом случае можно говорить об определителе $$\det (A)$$, который именуется определителем системы.

Рассмотрим эту систему отдельно:$$\begin{cases} a_{11}x_1 + a_{12}x_2 +\dotsc+ a_{1n}x_n =b_1 \\ a_{21}x_1 + a_{22}x_2 +\dotsc+ a_{2n}x_n =b_2 \\ \hdotsfor{1} \\ a_{n1}x_1 + a_{n2}x_2 +\dotsc+ a_{nn}x_n =b_n \\ \end{cases}$$

Из множества существующих методов решения систем уравнений мы рассмотрим два метода - метод Крамера и метод Гаусса.

Теорема(Крамера). Если $$\det (A)$$ системы не равен нулю, то система имеет единственное решение, определяемое по формулам (Крамера):$$x_1 = \frac {\det (A_1)}{\det (A)}, \quad x_2 = \frac {\det (A_2)}{\det (A)}, \quad \dotsc, \quad x_n = \frac {\det (A_n)}{\det (A)},$$ где Ak, k=1, 2,..., n - матрица, получаемая из матрицы A заменой элементов k -го столбца столбцом свободных членов, матрицей-столбцом B:$$A_k = \begin{Vmatrix} a_{11} a_{12} \dotsc a_{1,k-1} b_1 a_{1,k+1} \dotsc a_{1n} \cr \hdotsfor{8} \cr a_{n1} a_{n2} \dotsc a_{n,k-1} b_n a_{n,k+1} \dotsc a_{nn} \end{Vmatrix} .$$

Метод Гаусса является одним из самых простых и самых старых. Этот метод реализуется так называемой вычислительной схемой (алгоритмом) единственного деления (или схемой с выбором ведущего элемента). Мы рассмотрим теперь систему общего вида.

Решим этим методом (шагами, этапами схемы) систему$$\begin{cases} a_{11}x_1 + a_{12}x_2 +\dotsc+ a_{1n}x_n =b_1 \\ a_{21}x_1 + a_{22}x_2 +\dotsc+ a_{2n}x_n =b_2 \\ \hdotsfor{1} \\ a_{n1}x_1 + a_{n2}x_2 +\dotsc+ a_{nn}x_n =b_n \\ \end{cases}$$

1-ый шаг. Пусть (для простоты рассуждений) $$a_{11}\ne 0$$. Если это не так, то меняем местами уравнения, чтобы было выполнено это условие. Разделив первое уравнение на $$a_{11}\ne 0$$, получим:$$x_1 + a_{12}^{(1)} x_2 +a_{13}^{(1)} x_3 + \dotsc + a_{1n}^{(1)} x_n =b_1^{(1)}, \quad a_{1i}^{(1)} = \frac {a_{1i}}{a_{11}} , \quad b_1^{(1)} = \frac {b_1}{a_{11}}.$$

Умножая это уравнение поочередно на a21, a31, ..., an1 и вычитая полученные после этого уравнения поочередно из 2 -го, 3 -го, ..., n -го уравнений исходной системы, получим эквивалентную ей систему вида$$\left. \begin{matrix} x+a_{12}^{(1)} x_2 +a_{13}^{(1)}x_3 + \dotsc + a_{1n}^{(1)}x_n = b_1^{(1)} \hfill \null\\ a_{22}^{(1)} x_2+a_{23}^{(1)}x_3 + \dotsc + a_{2n}^{(1)}x_n = b_2^{(1)} \hfill\null \\ \hdotsfor{1} \\ a_{n2}^{(1)} x_2+a_{n3}^{(1)}x_3 + \dotsc + a_{nn}^{(1)}x_n = b_n^{(1)} \hfill \null\\ \end{matrix} \right \}$$ где $$a^{(1)}_{ij}=a_{ij}-a_{1j}^{(1)}a_{i1}$$, при j, $$j\ge 2$$ ; $$b_i^{(1)}=b_i-a_{i1}b^{(1)}_1$$, $$i\ge 2$$. К последнему (n-1) -му уравнению системы снова применим указанные выше действия.

2-ой шаг. Пусть $$a_{22}^{(1)}\ne 0$$. Делим второе уравнение системы, полученной из исходной на предыдущем этапе, на $$a_{22}^{(1)}$$ ; умножаем полученное уравнение соответственно на $$a_{32}^{(1)}$$, $$a_{42}^{(1)}$$, ..., $$a_{n2}^{(1)}$$ и вычитаем из 3-го, 4-го, ..., n -го уравнений; в результате второго этапа получим следующую систему:$$\left. \begin{matrix} {x_1 + a_{12}^{(1)} x_2+ a_{13}^{(1)} x_3 +\dotsc + a_{1n}^{(1)}x_n = b_1^{(1)} } \hfill\null\\ {x_2 + a_{23}^{(2)} x_3 + \dotsc + a_{2n}^{(2)}x_n = b_2^{(2)} } \hfill\null\\ \hdotsfor{1} \\ {a_{n3}^{(2)}x_3 + \dotsc + a_{nn}^{(2)}x_n = b_n^{(2)}} \hfill\null \\ \end{matrix} \right \}$$ где $$a_{ij}^{(2)}=a_{ij}^{(1)}-a^{(2)}_{2j}a_{i2}^{(1)}$$, $$b_i^{(2)}=b_i^{(1)} - b_2^{(2)}a_{i2}^{(1)}$$, $$j,i\ge 3$$.

n-й шаг. В результате выполнения n шагов получим систему вида$$\left. \begin{matrix} x_1 + a_{12}^{(1)}x_2 + a_{13}^{(1)}x_3 + \dotsc + a_{1n}^{(1)}x_n = b_1^{(1)} \hfill\null\\ x_2 + a_{23}^{(2)}x_3 + \dotsc + a_{2n}^{(2)}x_n = b_2^{(2)} \hfill\null\\ \hdotsfor{1} \\ x_{n-1} +a _{n-1,n}^{(n-1)} x_n = b_{n-1} ^{(n-1)} \hfill\null\\ x_n = b_n^{(n)} \hfill\null \end{matrix} \right \}$$

Проделанная совокупность n шагов называется прямым ходом метода Гаусса . Решение системы находится с помощью обратного хода метода Гаусса, который состоит в следующем.

Из последнего уравнения находим xn, затем подставляем это значение в предпоследнее уравнение и находим xn-1, затем оба x_n и xn-1 подставляем в (n-2) -е уравнение и находим xn-2 и т.д., пока не найдем из 1 -го уравнения последнее неизвестное x_1.

Под пространством мы до сих пор понимали реально существующее пространство трех измерений: ширины, длины и высоты. Результатом такого процесса абстрагирования от конкретной сущности 1, 2, 3-мерных пространств явилось понятие n -мерного пространства (пространства размерности n, n>3 ). Это есть результат обобщения геометрического пространства. Могут быть рассмотрены различные типы абстрактных многомерных (размерности $$n\in N$$ ) и даже бесконечномерных пространств.

Множество E назовем линейным пространством, а его элементы - векторами этого пространства, если:

Множество всех упорядоченных наборов из n чисел $$\smu{2} x=(x_1,x_2,..., x_n)$$ для которых определены операции сложения и умножения этих наборов и умножения набора на число по законам, приведенным выше, называется n -мерным арифметическим пространством . Число n - размерность пространства, элемент x=(x1, x2,..., xn) - вектор пространства, а числа xi - координаты вектора x .

Обозначают n -мерное векторное пространство через Rn.

Линейное пространство называют евклидовым, если в нем определено скалярное произведение, удовлетворяющее свойствам скалярного произведения векторов (см. выше).

Обозначают евклидово пространство размерности n через En.

Пространство X называется метрическим (метризуемым), если в этом пространстве можно определить некоторым образом метрику $$\rho (x,y)$$ любых двух элементов или аналог расстояния между элементами x, y , причем вводимое расстояние должно удовлетворять аксиомам метрики (расстояния):

Нормой вектора x=(x1, x2,..., xn) в евклидовом пространстве называется неотрицательный скаляр (число)$$\|x\| = \sqrt{(x,x)} = \sqrt{x^2_1+x^2_2+\dotsc+x^2_n}.$$

"Норма" вектора является обобщением понятия "длина" геометрического вектора и удовлетворяет следующим законам:

Пусть n -мерные векторы a1, a2, ..., ak. Вектор$$a=\lambda _1a_1+\lambda _{2a2} + \dotsc + \lambda _ka_k$$ называется линейной комбинацией векторов a1, a2,..., ak .

Естественным базисом n-мерного пространства или базисными векторами называются векторы вида $$\smu{2} e_1=(1,0,0,\dotsc,0)$$, $$\smu{2} e_2=(0,1,0,\dotsc,0), \dotsc, e_n=(0,0,0,\dotsc,1)$$ . Любой вектор n -мерного пространства является линейной комбинацией базисных векторов. Коэффициентами n -мерного вектора при представлении его в виде линейной комбинации базисных векторов служат координаты вектора.

Пример. Действительно, легко проверить, что любой вектор x=(x1,x2,...,xn) представим как x=x1 e1+x2e2+...+xn en.

Арифметический вектор x=(x1, x2, ..., xn) из En можно понимать как направленный отрезок в n -мерном геометрическом пространстве, а базис (e1,e2,...,en) - как попарно перпендикулярные орты n -мерной системы координат. Векторы x1, x2,...,xk из n -мерного пространства называются линейно-независимыми, если равенство $$c_1x_1+c_2x_2+\dotsc+c_kx_k=0, \quad c_i=\const$$ справедливо только при нулевых значениях всех постоянных. Если равенство возможно при каком-то хотя бы одном $$c_i\ne 0$$, то x1, x2, ..., xk называют линейно-зависимыми .

Пример. Векторы e_1=(1,0,0), e_2=(0,1,0), e3=(0,0,1) линейно-независимы, так как справедлива эквивалентность: c1e1+c2e2+c3e3= (c1,c2,c3)=0 $$\iff$$ c1=c2=c3. Векторы a_1=(1,2,3), a_2=(2,4,6) - линейно-зависимые, так как c1a1+c2a2=0 при c1=2, c2=-1.

Если векторы x1, x2,..., xk линейно-зависимы, то по крайней мере один из них является линейной комбинацией остальных. Например, если $$c_1\ne0$$, то$$x_1= -\frac {c_2}{c_1}\,x_2 - \frac {c_3}{c_1}\,x_3 -\dotsc - \frac {c_k}{c_1}\,x_k =\alpha _2x_2 +\alpha _3x_3 + \dotsc + \alpha _kx_k .$$