传说唐代尚书杨损，廉洁奉公，任人唯贤。有一次，要在两名小吏中提升一人，主管提升工作的官员感到很难决断，便请示杨损。杨损认为，作为一个官员，不仅要有高尚的品德，还要有一定的文化水平。于是，他说：“一个官员应具备的一大技能是速算。让我出题来考考他们，谁算得快就提升谁。”杨损出了一道题：
“有人在林中散步，无意中听到几个强盗在商讨如何分赃。他们说，如果每人分6匹布，则余5匹；每人分7匹布，则缺少8匹。试问共有几个强盗几匹布？”两个小吏听过题目后，便用筹算解联立一次方程组。后来，先得出正确结果的小吏果真升了官，大家心服口服。
这个故事反映出我国古代人民对于解联立一次方程组的熟练程度。事实上，在2000多年前的《九章算术》中，已系统地叙述了联立一次方程组的解法，这是中国古代数学的杰出贡献之一。
《九章算术》是我国至今有传本的一部经典数学著作，内容极为丰富，它几乎集中了过去和当时的全部数学知识，将246个问题分为九章，所以叫做《九章算术》。
《九章算述》不是出自某一个人的手笔，不是一个时代的作品。它是经过历代名家的修订和增补，才逐渐成为定本的。它成书于何时，目前学术界尚无统一结论，据推测起码在公元1世纪之前。《九章算术》对我国以及一些外国的数学发展有很大影响，直到16世纪我国的数学著作大都还是受它的体例影响。
一元一次方程问题在古埃及时已经出现。巴比伦人已经知道某些特殊的二次、三次方程的解法，例如：两个正方形面积之和是1000，其中一个边长是另一个边长的 23少10，问各长多少？这相当于解联立方程
x2 y2=1000，y=12x-10.
当时实际的解只是由观察某些简单的数字关系而得到答案。
《九章算术》的第8章“方程”，给出了联立一次方程组的普遍解法，并且使用了负数，这在数学史上具有非常重要的意义。
我国古代是用算筹来运算的，未知数不用符号表示，只是将各个系数用算筹依次布列成方阵的形式。“程”是变量的总名，也有计量、考核、程式的意思。“方程”的名称，就来源于此。
《九章算术》第8章的第1题为：
“今有上禾三秉、中禾二秉，下禾一秉，实三十九斗；上禾二秉，中禾三秉，下禾一秉，实三十四斗；上禾一秉，中禾二秉，下禾三秉，实二十六斗。问上、中、下禾实一秉各几何？
“禾”指黍米，一“秉”即一捆，“上禾三秉，中禾二秉，下禾一秉，实三十九斗”就是说：三捆上等黍米，两捆中等黍米，一捆下等黍米，一共可打出黍米谷39斗。
设上、中、下禾，每捆各出谷x、y、z斗，则用现代的方程来表达，可得
3x 2y z=39，
2x 3y z=34，
x 2y 3z=26.
在《九章算术》中列出的方程形式为：
在方程中只能看到系数，看不到未知数，文字采用直排，而且阅读时是从右到左的。由于这种方程中，未知数不用符号表示出来，实际上就是现代的分离系数法。书中给出的解法是联立一次方程组的普遍解法。除了符号、名词和计算工具不同外，和现代使用的消元法实质一样。
第8章中还有四元及五元的方程组，也是用类似的方法来解的。
在国外，线性方程组的完整解法，直到17世纪末才由微积分的发明人莱布尼茨着手拟定。可见，从时间上来说，《九章算术》的解法实是在世界数学史上一大光辉成就，值得中国人自豪！
自从《九章算术》提出了多元一次联立方程后，多少世纪没有显著的进步。贾宪、秦九韶、李治等人曾研究过一元高次方程。元朝杰出数学家朱世杰集前人之大成，建立了四元高次方程组理论，并称为“四元术”。他用天元、地元、人元、物元表示四个未知数，相当于现在的x、y、z、u。朱世芝的《四元玉鉴》一书，举例说明了一元方程、二元方程、三元方程、四元方程的布列方法和解法。其中有的例题相当复杂，数字惊人的庞大，不但过去从未有过，就是今天也很少见。可见朱世杰已经非常熟练地掌握了多元高次方程组的解法。
在外国，多元方程组虽然也偶然在古代的民族中出现过，例如巴比伦人借助数表处理过某种二元二次方程组，但较系统地研究却迟至16世纪，1559年，法国人彪特才开始用不同的字母A，B，C……来表示不同的未知数。而过去不同未知数用同一符号来表示，以致含混不清。正式讨论多元高次方程组已到18世纪，由探究高次代数曲线的交点个数而引起。1764年，法国人培祖提出用消去法的解法，这已在朱世杰之后四五百年了。