在高等代数中,一次方程组(即线性方程组)发展成为线性代数理论;而二次以上方程发展成为多项式理论。前者是向量空间、线性变换、型论、不变量论和张量代数等内容的一门近世代数分支学科,而后者是研究只含有一个未知量的任意次方程的一门近世代数分支学科。作为大学课程的高等代数,只研究它们的基础。高次方程组(即非线性方程组)发展成为一门比较现代的数学理论-代数几何。
线性代数是高等代数的一大分支。我们知道一次方程叫做线性方程,讨论线性方程及线性运算的代数就叫做线性代数。在线性代数中最重要的内容就是行列式和矩阵。行列式和矩阵在十九世纪受到很大的注意,而且写了成千篇关于这两个课题的文章。向量的概念,从数学的观点来看不过是有序三元数组的一个集合,然而它以力或速度作为直接的物理意义,并且数学上用它能立刻写出物理上所说的事情。向量用于梯度,散度,旋度就更有说服力。同样,行列式和矩阵如导数一样(虽然‘dy/dx’在数学上不过是一个符号,表示包括‘Δy/Δx’的极限的长式子,但导数本身是一个强有力的概念,能使我们直接而创造性地想象物理上发生的事情)。因此,虽然表面上看,行列式和矩阵不过是一种语言或速记,但它的大多数生动的概念能对新的思想领域提供钥匙。然而已经证明这两个概念是数学物理上高度有用的工具。
线性代数学科和矩阵理论是伴随着线性系统方程系数研究而引入和发展的。 十七世纪日本数学家关孝和提出了行列式(determinant)的概念,他在1683年写了一部叫做《解伏题之法》的著作,意思是“解行列式问题的方法”,书里对行列式的概念和它的展开已经有了清楚的叙述。而在欧洲,另一个提出行列式概念的是德国的数学家,微积分学奠基人之一莱布尼兹(Leibnitz,1693年)。
1750年克莱姆(Cramer)在他的《线性代数分析导言》(Introduction d l'analyse des lignes courbes alge'briques)中发表了求解线性系统方程的重要基本公式(既人们熟悉的Cramer克莱姆法则)。
1764年,Bezout把确定行列式每一项的符号的手续系统化了。对给定了含n个未知量的n个齐次线性方程,Bezout证明了系数行列式等于零是这方程组有非零解的条件。Vandermonde是第一个对行列式理论进行系统的阐述(即把行列式理论与线性方程组求解相分离)的人。并且给出了一条法则,用二阶子式和它们的余子式来展开行列式。就对行列式本身进行研究这一点而言,他是这门理论的奠基人。
参照克莱姆和Bezout的工作,1772年,Laplace在《对积分和世界体系的探讨》中,证明了Vandermonde的一些规则,并推广了他的展开行列式的方法,用r行中所含的子式和它们的余子式的集合来展开行列式,这个方法如今仍然以他的名字命名。1841年,德国数学家雅可比(Jacobi)总结并提出了行列式的最系统的理论。另一个研究行列式的是法国最伟大的数学家柯西(Cauchy),他大大发展了行列式的理论,在行列式的记号中他把元素排成方阵并首次采用了双重足标的新记法,与此同时发现两行列式相乘的公式及改进并证明了laplace的展开定理。相对而言,最早利用矩阵概念的是拉格朗日(Lagrange)在1700年后的双线性型工作中体现的。拉格朗日期望了解多元函数的最大、最小值问题,其方法就是人们知道的拉格朗日迭代法。为了完成这些,他首先需要一阶偏导数为0,另外还要有二阶偏导数矩阵的条件。这个条件就是今天所谓的正、负的定义。尽管拉格朗日没有明确地提出利用矩阵。
大约在1800年,高斯(Gauss)提出了高斯消元法并用它解决了天体计算和后来的地球表面测量计算中的最小二乘法问题。(这种涉及测量、求取地球形状或当地精确位置的应用数学分支称为测地学。)虽然高斯由于这个技术成功地消去了线性方程的变量而出名,但早在几世纪中国人的手稿中就出现了解释如何运用“高斯”消去的方法求解带有三个未知量的三方程系统。在当时的几年里,高斯消去法一直被认为是测地学发展的一部分,而不是数学。而高斯- 约当消去法则最初是出现在由Wilhelm Jordan撰写的测地学手册中。许多人把著名的数学家Camille Jordan误认为是“高斯- 约当”消去法中的约当。
矩阵代数的丰富发展,人们需要有合适的符号和合适的矩阵乘法定义。二者要在大约同一时间和同一地点相遇。
1848年,英格兰的J.J. Sylvester首先提出了矩阵(matrix)这个词,它来源于拉丁语,代表一排数。在1855年矩阵代数得到了Arthur Cayley的进一步发展。Cayley研究了线性变换的组成并提出了矩阵乘法的定义,使得复合变换ST的系数矩阵变为矩阵S和矩阵T的乘积。他还进一步研究了那些包括矩阵的逆在内的代数问题。1858年,Cayley在他的矩阵理论文集中提出著名的Cayley-Hamilton理论,即断言一个矩阵的平方就是它的特征多项式的根。利用单一的字母A来表示矩阵是对矩阵代数发展至关重要的。在发展的早期公式
det(AB)=det(A)det(B)为矩阵代数和行列式间提供了一种联系。数学家Cauchy首先给出了特征方程的术语,并证明了阶数超过3的矩阵有特征值及任意阶实对称行列式都有实特征值;给出了相似矩阵的概念,并证明了相似矩阵有相同的特征值;研究了代换理论。
数学家试图研究向量代数,但在任意维数中并没有两个向量乘积的自然定义。第一个涉及一个不可交换向量积(既V×W不等于W×V)的向量代数是由Hermann Grassmann在他的《线性扩张论》(Die lineale Ausdehnungslehre)一书中提出的(1844)。他的观点还被引入一个列矩阵和一个行矩阵的乘积中,结果就是现在称之为秩数为1的矩阵,或简单矩阵。在19世纪末美国数学物理学家吉布斯(Willard Gibbs)发表了关于《向量分析基础》(Elements of Vector Analysis)的著名论述。其后物理学家狄拉克(P.A.M. Dirac)提出了行向量和列向量的乘积为标量。我们习惯的列矩阵和向量都是在20世纪由物理学家给出的。
矩阵的发展是与线性变换密切相连的。到19世纪它还仅占线性变换理论形成中有限的空间。现代向量空间的定义是由Peano于1888年提出的。 二次世界大战后随着现代数字计算机的发展,矩阵又有了新的含义,特别是在矩阵的数值分析等方面。由于计算机的飞速发展和广泛应用,许多实际问题可以通过离散化的数值计算得到定量的解决。于是作为处理离散问题的线性代数,成为从事科学研究和工程设计的科技人员必备的数学基础。