Численное решение систем линейных алгебраических уравнений
2.5. Итерационные методы решения СЛАУ
2.5.1. Метод простой итерации
Рассмотрим систему линейных алгебраических уравнений
![\mathbf{Au}= \mathbf{f}.](/sites/default/files/tex_cache/f744670e7de0e0859aa7433f71aa536c.png)
Проведем несколько равносильных преобразований. Умножим обе части системы
на один и тот же скалярный множитель затем прибавим к правой и левой частям системы вектор
Систему уравнений можно теперь записать в виде, удобном для итераций:
![]() |
( 2.15) |
где
Теперь построим последовательность приближений к решению системы. Выберем
произвольный вектор — начальное приближение к решению. Чаще всего его просто полагают нулевым вектором. Скорее всего, начальное приближение не удовлетворяет (2.15) и, следовательно, исходной системе. При подстановке его в исходное уравнение возникает невязка
Вычислив невязку, с помощью (2.15) можно уточнить приближение к решению, считая, что
![{\mathbf{u}}_1 ={\mathbf{u}}_0 + \tau{\mathbf{r}}_0.](/sites/default/files/tex_cache/d2c8a5e4f269e5ed4555092ef8e7b4fc.png)
По первому приближению снова вычисляется невязка, процесс продолжается. В
ходе итерации получаем Эквивалентная формулировка метода, называемого методом простых итераций, заключается в следующем. Решение (2.15) находится как предел последовательности
приближений, члены которой связаны рекуррентным соотношением (оно эквивалентно приведенному выше, из записи исключен вектор невязки):
![]() |
( 2.16) |
(или любому произвольному вектору). Если предел
такой последовательности существует, то говорят о сходимости итерационного процесса к решению СЛАУ.
Существуют другие формы записи метода итераций, например
![]() |
( 2.17) |
Канонической формой записи двухслойного итерационного процесса называется следующая:
![]() |
( 2.18) |
При ,
последняя формула соответствует однопараметрическому итерационному процессу — рассмотренному выше методу простых итераций. При
,
— n -шаговому явному итерационному процессу,
при
,
— методу простой итерации без итерационного параметра. В случае, когда
, итерационный метод называется неявным — для вычисления следующего приближения к решению придется решать (как правило, более простую, чем исходную) систему линейных уравнений.
Теорема (достаточное условие сходимости метода простой итерации ).
Итерационный процесс (2.16) сходится к решению СЛАУ
со скоростью геометрической прогрессии при выполнении условия:
Доказательство.
Пусть — точное решение системы (2).
Вычитая из (2.16)-(2.15), получим
, или, обозначив погрешность
,
получим для эволюции погрешности уравнение
Справедлива цепочка неравенств:
, где
Отсюда следует, что при
Из неравенства можно получить оценку количества итераций,необходимых для достижения точности
т.е. для выполнения условия
Эта оценка имеет вид
![$ k \ge \left({\ln{\frac{\mathbf{\varepsilon}}{\|{{\mathbf{\varepsilon}}_0}\|}}}\right)/\ln{q} $.](/sites/default/files/tex_cache/0b963c8733f6e9f6d7c9d885b8631c31.png)
Теорема (критерий сходимости метода простой итерации (без доказательства)). Пусть СЛАУ (2.15) имеет единственное решение. Тогда для сходимости итерационного процесса (2.16) необходимо и достаточно, чтобы все собственные значения матрицы по абсолютной величине были меньше единицы.
Сравним по количеству арифметических действий прямые и итерационные методы. Метод Гаусса без выбора главного элемента при требует
![$ \approx (\frac{2}{3}n^3) $](/sites/default/files/tex_cache/c0dd954144b05c7f65b9054d03a8661b.png)
![\approx (2n^2 \cdot I)](/sites/default/files/tex_cache/ffc62ea2314ba429a8fe8f0cf6151598.png)
![I \ll n.](/sites/default/files/tex_cache/808360a8522bcdb7d54984aac497f728.png)