中国传统数学经16世纪末开始接受和消化西方数学以后，到18世纪初出现了明显的转折，向西方数学学习转变成对传统数学的整理和研究。造成这种情形的原因主要是由于统治阶级政策的变化。1723年，雍正下令驱逐西方传教士，切断了西方科学传入中国的主要渠道。同时又在国内实行高压政策屡兴文字狱，加强思想控制，于是，一批有作为的知识分子被迫编辑“四库全书”，把精力投入到了整理古典文献上面。
对古算书的发掘和整理
明清之间中国算书大量散失，数学的研究工作处在一个沉寂时期。为了复兴传统文化，加强思想统治，清帝乾隆决定开设四库全书馆，收集各种藏书和佚书。从1773年起到1787年结束，四库全书馆共编辑《四库全书》3503部，共79337卷。《四库全书》分经、史、子、集四个部分，天文算书属子部。比起经书史书来，算书要少得多，但由于研治经书或史书都要掌握数学知识，所以古典数学也很被当时的学者所重视，许多古典数书得到了校勘、注释和研究。
《四库全书》的编辑，使大量失散的算书得到了搜集。汉、唐、宋、元以及明清的各家算书都不同程度地得到发现和重刻。如《九章算术》、《海岛算经》、《孙子算经》、《五曹算经》、《夏侯阳算经》、《辑古算经》、《测圆海镜》等等，都是在当时被重新发现的。《四库全书》子部天文算法类“算书之属”共收算书25部，计97卷。另外，天文算法类“推步之属”也包含了一些数学著作。这些算书的被发掘和整理，有效地推动了传统数学的研究。
《四库全书》的编辑也使流传在外的古算书得到了校勘的机会，如戴煦（1724～1777）和孔继涵（1739～1783）对《算经十书》的校勘，李潢（？～1811）对《九章算术》、《海岛算经》、《辑古算经》等书所作校注和研究。李潢还专门撰写了《九章算术细草图说》、《海岛算经细草图说》和《辑古算经考注》，对古算书作了详细的疏通工作。后来，沈钦裴又对李潢的《九章算术细草图说》进行了核算，对《海岛算经》再补演细草，还对《数书九章》中大衍求一术进行校注。这时期为发掘和整理古代数学贡献较大的，还有陈际新、屈曾发、吴兰修、孔广森、张敦仁、凌廷堪、刘衡、陈杰、阮元、罗士琳等人。他们在数学中的创造性贡献不大，但使埋没湮灭数百年的古代科学遗产能重见于世，无疑也是对古代数学的一个很大的贡献。
研究成果
中国古代数学名著的发掘和整理给清代中后期的数学研究起了催化作用，促使了一些爱好数学的知识分子展开了对古代数学的研究。其中成绩较突出的有焦循、汪莱和李锐。
焦循（1763～1820）字里堂，江苏扬州人。博学多才，经、史、历、算、声韵、训诂诸学，无所不精，尤对古代数学深有研究。著有《里堂学算记》，共载录《释轮》、《释椭》、《释弧》、《天元一释》和《加减乘除释》等5种16卷。另有《开方通释》等多种。焦循的数学成就主要是对算术中的基本运算律的讨论。中国古代数学注重算法的产生和应用，不注重对各种算法逻辑法则的提炼。焦循打破了这种状况，开创了我国数学中关于基本运算律的讨论。例如，在《加减乘除释》一书中，焦循给出了以下几个基本运算律。
焦循的《天元一释》和《开方通释》两书对古代天元术和正负开方术的阐释也很适当，提纲挈领条理清楚。
汪莱（1768～1813）字孝婴，号衡斋，安徽歙县人。出身贫寒家庭，靠自学成材。1807年，考上八旗官学教习，到北京从事教学工作，1796年起著《衡斋算学》共七册，集中反映了他在数学，特别是球面三角和代数方程论方面的研究成果。另有《衡斋遗书》9卷。
《稀斋算学》中的球面三角形内容主要在第一册和第四册之中。其中第一册按任意球面三角形和直角球面三角形两种情况，详细讨论了球面三角形有解和无解的条件；第四册则以40条定理，论述了球面三角形只有一解的条件。
李锐（1768～1817），字尚之，号四香，江苏苏州人，与焦循、汪莱一起被时人称为“谈天三友”。早年曾校注秦九韶、李冶的著作，1797年到杭州参加浙江学政阮元幕府，参与纂修《畴人传》46卷。1803年为扬州知府张敦仁幕宾。张敦仁酷爱数学，与李锐互有影响，李锐撰有《勾股算术细草》、《弧矢算术》和《方程新术草》等，而其力作是《开方说》。
《开方说》代表了19世纪我国方程理论的最高水平。“开方”是沿用古代传统数学中的名词，其意义不仅指数字的开方，而且还指包括数字开方在内的一切求根问题。《开方说》的确切含义应该是“方程论”。《开方说》共3卷，上卷讨论了在有理数范围内方程系数的变号与正根的个数之间的关系，结论为：符号变化一次有一个正根，变化二次有二个正根，变化三次有三或一个正根，变化四次有四或二个正根。这个结论与笛卡儿符号法则相同。李锐还注意到了，高次方程正根的个数并不一致地等于符号变化的次数，如符号变化三次，但有时只有一个正根，符号变化四次有时只有二个正根。所缺少的根李锐称之为“无数”。“无数”是否虚的，李锐并不认识。
《开方说》中下两卷对根的讨论范围从正根扩大到了负根，其中最值得注意的有两个方面，一是李锐提出了方程求根与降次的关系，即方程求出一个根后，原方程可降低一次，从而它的第二个根可以从降次后的方程解出。二是关于重根的概念。
19世纪初，焦循、汪莱、李锐等人的数学成就与世界数学的状况相比已显出明显的差距，但是，他们的辛勤劳作和出色成就仍在中国数学史上占有光辉的一页。