1. Phương pháp loại biến Gauss giải hệ phương trình đại số tuyến tính:

Thí dụ cho hệ

$\begin{array}{}{a}_{\text{11}}{x}_1+a_{\text{12}}{x}_2+a_{\text{13}}{x}_3+a_{\text{14}}{x}_4=a_{\text{15}}\\ a_{\text{21}}{x}_1+a_{\text{22}}{x}_2+a_{\text{23}}{x}_3+a_{\text{24}}{x}_4=a_{\text{25}}\\ a_{\text{31}}{x}_1+a_{\text{32}}{x}_2+a_{\text{33}}{x}_3+a_{\text{34}}{x}_4=a_{\text{35}}\\ a_{\text{41}}{x}_1+a_{\text{42}}{x}_2+a_{\text{43}}{x}_3+a_{\text{44}}{x}_4=a_{\text{45}}\\ \begin{array}{}\}\}\}\end{array}\\ \end{array}$ (1)

Giả sử phần tử chính . Chia phương trình thứ nhất cho $a_{\text{11}}$, ta có

$x_1+b_{\text{12}}{x}_2+b_{\text{13}}{x}_3+b_{\text{14}}{x}_4=b_{\text{15}}$, (2)

với $b_{\mathrm{1j}}=\frac{a_{\mathrm{1j}}}{a_{\text{11}}}(j=\mathrm{2,}\mathrm{3,}\mathrm{4,}5)$.

Dùng phương trình (2) để loại ẩn $x_1$ khỏi các phương trình số 2, 3, 4 của hệ (1): Muốn vậy, nhân phương trình (2) tuần tự với $a_{\text{21}},a_{\text{31}},a_{\text{41}}$ và tuần tự lấy các phương trình số 2, 3, 4 trừ đi các tích tương ứng vừa nhận được, ta có ba phương trình:

$\begin{array}{}{a}_{\text{22}}^{(1)}{x}_2+a_{\text{23}}^{(1)}{x}_3+a_{\text{24}}^{(1)}{x}_4=a_{\text{25}}^{(1)}\\ a_{\text{32}}^{(1)}{x}_2+a_{\text{33}}^{(1)}{x}_3+a_{\text{34}}^{(1)}{x}_4=a_{\text{35}}^{(1)}\\ a_{\text{42}}^{(1)}{x}_2+a_{\text{43}}^{(1)}{x}_3+a_{\text{44}}^{(1)}{x}_4=a_{\text{45}}^{(1)}\\ \begin{array}{}\}\}\end{array}\\ \end{array}$ (3)

trong đó

$a_{\text{ij}}^{(1)}=a_{\text{ij}}-a_{\mathrm{i1}}{b}_{\mathrm{1j}}(i=\mathrm{2,}\mathrm{3,}4;j=\mathrm{2,}\mathrm{3,}\mathrm{4,}5)$ (4)

Bây giờ chia phương trình thứ nhất của hệ (3) cho phần tử chính $a_{\text{22}}^{(1)}$ ta có:

$x_2+b_{\text{23}}^{(1)}{x}_3+b_{\text{24}}^{(1)}{x}_4=b_{\text{25}}^{(1)}$, (5)

trong đó

$b_{\mathrm{2j}}^{(1)}=\frac{a_{\mathrm{2j}}^{(1)}}{a_{\text{22}}^{(1)}}(j=3\text{,}4\text{,}5)$.

Bằng cách tương tự như khi loại $x_1$, bây giờ ta loại $x_2$ khỏi các phương trình thứ ba và thứ tư, ta có:

$\begin{array}{}{a}_{\text{33}}^{(2)}{x}_3+a_{\text{34}}^{(2)}{x}_4=a_{\text{35}}^{(2)}\\ a_{\text{43}}^{(2)}{x}_3+a_{\text{44}}^{(2)}{x}_4=a_{\text{45}}^{(2)}\\ \begin{array}{}\}\end{array}\\ \end{array}$. (6)

trong đó

$a_{\text{ij}}^{(2)}=a_{\text{ij}}^{(1)}-a_{\mathrm{i2}}^{(1)}{b}_{\mathrm{2j}}^{(1)}(i=\mathrm{3,}4;j=\mathrm{3,}\mathrm{4,}5)$. (7)

Chia phương trình thứ nhất của hệ (6) cho phần tử chính $a_{\text{33}}^{(2)}$, ta có:

$x_3+b_{\text{34}}^{(2)}{x}_4=b_{\text{35}}^{(2)}$, (8)

trong đó

$b_{\mathrm{3j}}^{(2)}=\frac{a_{\mathrm{3j}}^{(2)}}{a_{\text{33}}^{(2)}}(j=\mathrm{4,}5)$.

Sau đó nhờ (8) ta loại $x_3$ khỏi phương trình thứ hai của hệ (6), nhận được:

trong đó

$a_{\mathrm{4j}}^{(3)}=a_{\mathrm{4j}}^{(2)}-a_{\text{43}}^{(2)}{b}_{\mathrm{3j}}^{(2)}(j=\mathrm{4,}5)$ (9)

Như vậy ta đã đưa hệ (1) về hệ tương đương có ma trận các hệ số là ma trận tam giác

$\begin{array}{}{x}_1+b_{\text{12}}{x}_2+b_{\text{13}}{x}_3+b_{\text{14}}{x}_4=b_{\text{15}}\\ x_2+b_{\text{23}}^{(1)}{x}_3+b_{\text{24}}^{(1)}{x}_4=b_{\text{25}}^{(1)}\\ x_3+b_{\text{34}}^{(2)}{x}_4=b_{\text{35}}^{(2)}\\ a_{\text{44}}^{(3)}{x}_4=a_{\text{45}}^{(3)}\\ \begin{array}{}\}\}\}\end{array}\\ \end{array}$ (10)

Từ (10) xác định các ẩn

$\begin{array}{}{x}_4=a_{\text{45}}^{(3)}/a_{\text{44}}^{(3)}\\ x_3=b_{\text{35}}^{(2)}-x_4{b}_{\text{34}}^{(2)}\\ x_2=b_{\text{25}}^{(1)}-x_4{b}_{\text{24}}^{(1)}-x_3{b}_{\text{23}}^{(1)}\\ x_1=b_{\text{15}}-x_4{b}_{\text{14}}-x_3{b}_{\text{13}}-x_2{b}_{\text{12}}\\ \begin{array}{}\}\}\}\end{array}\\ \end{array}$ (11)

Vậy thủ tục giải hệ phương trình đại số tuyến tính bậc nhất quy về hai quá trình:

a) Quá trình thuận: đưa hệ (1) về dạng tam giác (10);

b) Quá trình nghịch: tìm ẩn theo các công thức (11).

Nếu phần tử chính của hệ bằng không thì chỉ cần thay đổi chỗ của các phương trình trong hệ tương ứng để làm cho phần tử chính khác không.

Số phép tính số học $N$ cần thực hiện trong phương pháp Gauss bằng

$N=\frac{\mathrm{2n}(n+1)(n+2)}{3}+n(n-1)$.

Vậy số phép tính số học xấp xỉ tỷ lệ với luỹ thừa bậc ba của số ẩn.

2. Phương pháp căn bậc giải hệ phương trình đại số tuyến tính trong trường hợp ma trận $A$ là ma trận đối xứng

Phương pháp này thuận lợi trong trường hợp hệ phương trình

A x = b (12)

có ma trận $A$ là ma trận đối xứng, điều thường gặp trong các bài toán kỹ thuật.

Theo phương pháp này ma trận $A$ được biểu diễn thành tích của hai ma trận tam giác chuyển vị

$A=T^{\text{'}}T$ (13)

trong đó

Nhân hai ma trận $T^{\text{'}}$ và $T$ và cho tích bằng ma trận $A$, ta suy ra cá công thức tính các phần tử $t_{\text{ij}}$:

(14)

Như vậy ta đã thay hệ (12) bằng hai hệ tương đương

T' y = b, T x = y 15)

hay

$\begin{array}{}{t}_{\text{11}}{y}_1=b_1\\ t_{\text{12}}{y}_1+t_{\text{22}}{y}_2=b_2\\ \text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\\ t_{\mathrm{1n}}{y}_1+t_{\mathrm{2n}}{y}_2+\text{.}\text{.}\text{.}\text{.}+t_{\text{nn}}{y}_n=b_n\\ \begin{array}{}\}\}\}\end{array}\\ \end{array}$ (16)

$\begin{array}{}{t}_{\text{11}}{x}_1+t_{\text{12}}{x}_2+\text{.}\text{.}\text{.}\text{.}+t_{\mathrm{1n}}{x}_n=y_1\\ t_{\text{22}}{x}_2+\text{.}\text{.}\text{.}+t_{\mathrm{2n}}{x}_n=y_2\\ \text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\text{.}\\ t_{\text{nn}}{x}_n=y_n\\ \begin{array}{}\}\}\}\end{array}\\ \end{array}$ (17)

Từ đó suy ra các công thức tính:

$y_1=\frac{b_1}{t_{\text{11}}},y_i=\frac{b_i-\sum _{k=1}^{i-1}{t}_{\text{ki}}{y}_k}{t_{\text{ii}}}(i>1)$ (18) (19)

Vậy quá trình thuận gồm tính các phần tử của ma trận $T$ theo các công thức (14). Quá trình nghịch là tính các ma trận cột $y$ và $x$ theo các công thức (18), (19).