Дискретизация обыкновенных дифференциальных уравнений конечными разностями приводит к линейным уравнениям; если рассматривается краевая задача, то уравнения образуют совместную линейную систему.

Прямым методом решения линейной системы называется любой метод, который позволяет получить решение с помощью конечного числа элементарных арифметических операций: сложения, вычитания, деления и т.д. Этот метод основан на сведении матрицы, системы A к матрице простой структуры - диагональной (и тогда решение очевидно ) и треугольной - разработка эффективных методов решения таких систем. Например, если А является верхней треугольной матрицей:

;

решение отыскивается с помощью последовательных обратных подстановок. Сначала из последнего уравнения вычисляется , затем полученные значения подставляются в предыдущие уравнения и вычисляется и т.д.

; ;

или в общем виде:

, i=n, n-1, ., 1.

Стоимость такого решения составляет сложений умножений(а также и делении, которыми можно пренебречь).

Сведение матриц А к одному из двух указанных выше видов осуществляется с помощью ее умножения на специально подобранную матрицу М, так что система преобразуется в новую систему .

Во многих случаях матрицу М подбирают таким образом, чтобы матрица МА стала верхней треугольной.

Прямые методы решения СЛУ нельзя применять при очень больших, из-за нарастающих ошибок, округлениях, связанных с выполнением большого числа арифметических операций. Устранить эти трудности помогают итерационные методы. С их помощью можно получить, начиная с вектора , бесконечную последовательность векторов, сходящихся к решению системы( m- номер итерации )

.

Метод является сходящимся, если это состояние справедливо для произвольного начального вектора .

Во всех методах, которые рассмотрены ниже, матрица А представляется в виде А=М-N ( ниже показано, как это наполняется ) и последовательно решаются системы

.

Формально решением системы является:

где - обратная матрица. Решение итерационным методом упрощается еще и потому, что на каждом шагу надо решать систему с одними и теми же матрицами. Очевидно, что матрица М должна быть легко обращаемой, а для получения желаемой точности надо выполнить определенное число итераций.

Критерием окончания итерационного процесса является соблюдение соотношения:

или ,

где - вектор невязок уравнений , ии - допустимая погрешность СЛУ по неувязке или приращению вектора неизвестных на итерации.