传说唐代尚书杨损，廉洁奉公，任人唯贤。有一次，要在两名小吏中提升一人，主管提升工作的官员感到很难决断，便请示杨损。杨损认为，作为一个官员，不仅要有高尚的品德，还要有一定的文化水平。于是，他说：“一个官员应具备的一大技能是速算。让我出题来考考他们，谁算得快就提升谁。”杨损出了一道题：
“有人在林中散步，无意中听到几个强盗在商讨如何分赃。他们说，如果每人分６匹布，则余５匹；每人分７匹布，则缺少８匹。试问共有几个强盗几匹布？”两个小吏听过题目后，便用筹算解联立一次方程组。后来，先得出正确结果的小吏果真升了官，大家心服口服。
这个故事反映出我国古代人民对于解联立一次方程组的熟练程度。事实上，在２０００多年前的《九章算术》中，已系统地叙述了联立一次方程组的解法，这是中国古代数学的杰出贡献之一。
《九章算术》是我国至今有传本的一部经典数学着作，内容极为丰富，它几乎集中了过去和当时的全部数学知识，将２４６个问题分为九章，所以叫做《九章算术》。
《九章算述》不是出自某一个人的手笔，不是一个时代的作品。它是经过历代名家的修订和增补，才逐渐成为定本的。它成书于何时，目前学术界尚无统一结论，据推测起码在公元１世纪之前。《九章算术》对我国以及一些外国的数学发展有很大影响，直到１６世纪我国的数学着作大都还是受它的体例影响。
一元一次方程问题在古埃及时已经出现。巴比伦人已经知道某些特殊的二次、三次方程的解法，例如：两个正方形面积之和是１０００，其中一个边长是另一个边长的23少１０，问各长多少？这相当于解联立方程
x2+y2=1000，y=12x-10。
当时实际的解只是由观察某些简单的数字关系而得到答案。
《九章算术》的第８章“方程”，给出了联立一次方程组的普遍解法，并且使用了负数，这在数学史上具有非常重要的意义。
我国古代是用算筹来运算的，未知数不用符号表示，只是将各个系数用算筹依次布列成方阵的形式。“程”是变量的总名，也有计量、考核、程式的意思。“方程”的名称，就来源于此。
《九章算术》第８章的第１题为：
“今有上禾三秉、中禾二秉，下禾一秉，实三十九斗；上禾二秉，中禾三秉，下禾一秉，实三十四斗；上禾一秉，中禾二秉，下禾三秉，实二十六斗。问上、中、下禾实一秉各几何？
“禾”指黍米，一“秉”即一捆，“上禾三秉，中禾二秉，下禾一秉，实三十九斗”就是说：三捆上等黍米，两捆中等黍米，一捆下等黍米，一共可打出黍米谷３９斗。
设上、中、下禾，每捆各出谷ｘ、ｙ、ｚ斗，则用现代的方程来表达，可得
3x+2y+z=39，
2x+3y+z=34，
x+2y+3z=26。
在《九章算术》中列出的方程形式为：
在方程中只能看到系数，看不到未知数，文字采用直排，而且阅读时是从右到左的。由于这种方程中，未知数不用符号表示出来，实际上就是现代的分离系数法。书中给出的解法是联立一次方程组的普遍解法。除了符号、名词和计算工具不同外，和现代使用的消元法实质一样。