公元724年4月末的一天，将近正午时分。唐代京都长安城的丽正殿书院的院子里人头攒动，因为这里将要进行一次“立表测影”天文测量，而且主持这项测量的是有名的高憎一行，所以吸引了许多人。一则“立表测影”是难得见到的问况还可以一睹高僧一行的风采。
一行是这位高僧的法名，他的俗名叫张遂。张遂小时候就勤奋好学，尤其喜欢研究天文学和数学。到期了青年时代，他的求知欲望更强了。有时，为了搞清楚一个疑难问题，常常不辞辛劳，到很远的地方去向有学问的人请教。
当时，在长安城南，有一座规模宏大的道观——立都观。观内的藏书有万卷之多，更有一位学问很深的道长，叫尹崇。冲着这两条，好学的张遂就成了这里的常客。尹崇很喜欢这位好学的青年人，俩人很快就成了朋友。张遂经常向尹崇讨教，又从尹崇那里借阅许多藏书，学问上的长进非常快。
有一次，张遂向尹崇借阅一部《太玄经》。这是西汉时的大学问家杨雄写的哲学书，非常深奥难懂。几天后，张遂读完了这部书，还写了一篇心得文章《义决》，并根据自己的理解绘制了一幅《大衍玄图》。当张遂去还书时，尹崇很是惊讶，说：“这部书我曾经读了一年多，还没有完全读通，你怎么只读了几天就不再钻研下去了呢？”
张遂回答说：“我已经把书读完了，并且写了心得，画了一幅《大衍玄图》，正想请您指教呢！”说着把文章和画递给尹崇看。尹崇看了文章和图，连声称赞张遂是“颜回再生”。颜回是孔子最有才华的学生，后来人们就把才华出众的青年比作颜回。从此，张遂作为一个青年学者的名声，很快就在长安城里传开了。
那时，正是女皇武则天当政，武则天的侄子武三思野心勃勃，一心想继承皇位。所以平时结吉交名流，想借此来抬高自己的名望和身价。张遂出了名，自然成了武三思拉拢的对象。张遂是个正直的青年，不愿卷入皇室权力斗争的旋涡中去，为了躲避权贵的纠缠和迫害，便跑到河南嵩山脚下的嵩岳寺出家当了和尚，拜嵩岳寺主持高僧普寂为师，取法名为“一行”。一行每天除了学习佛经，打坐修行外，就是自学天文、数学。普寂越来越觉得这个弟子非同一般，于是就对他说：“一行，我看你是个人才，不是我教得了的，为了让你增长见识，将来好有更大的成就，你还是出去游学吧！”
张遂拜别了师父，按他的指点到浙江天台山国清寺去拜师学习。两三年里，一行读完了国清寺收藏的《周髀算经》、《九章算术》、《海岛算经》、《孙子算经》、《夏侯阳算经》、《张丘建算经》、《缀术》、《缉古算经》等珍籍。直到公元710年，才重新回到嵩岳寺。
就在一行在国清寺埋头攻读的时候，唐朝的政局也发生了重大的变化，先是武则天病死，接着是唐中宗李显被毒死。公元710年，李旦即位。不久就让位于李隆基，这就是唐玄宗唐明皇。唐明皇是个有为君主，登基后连连下求贤诏书，加上张遂的祖先曾对朝廷有功，张遂就被征调进京，极受唐明皇的器重，让他负责改革历法，制造天文和计时仪器。公元724年，一行奉命领导了一次全国规模的天文测量。各支测量队奔赴天南地北，观察日影、星辰的变化，并把测得的数据全部及时送回长安，由张遂汇总计算。
一天，张遂正在长安城外的天文台仰观星空，突然，被他派到河南阳城的一支天文测量队的队长南宫，匆匆赶回京城来见张遂。原来，张遂交给他的测量任务中有一项要求，就是测量各地不同的“北极高度”。因为地球是圆的，各地地平线与北极星连线的角度不同，肉眼看到的北极星的高度也就不同。怎样测算这个角度呢？南宫不能解决这个问题，特地赶回来向张遂请教。张遂听完南宫的话说：“这几天，各队都派人来京，向我提出同样的问题。我反复思考后，做成了这把尺子，取名‘复矩’，也许可以解决这个难题。”说着，他从怀中取出“复矩”来。原来这是一把直角拐尺，角间有一弧形刻度，角顶有丝线，系着一个铜锤。一行抬头找准了北极星，然后将拐尺举起，长的一边对准自己的眼睛，同时指向北极星；这时铜锤自然下垂，垂线与短边的夹角大小可以从弧上刻的度数一目了然。张遂指着这个夹角说：“这就是地平线与北极的夹角，北极的高度也就很容易算出来。”
实际上，张遂发明的“复矩”不仅能测出北极高度，而且这个度数同时就是北半球的纬度。因为地球是圆形的，子午线穿过南北两极，当人站在北极时，北极星正好在人的头顶，与地平线垂直成90°；如果站在赤道时，看北极星与地平线几乎重合，成0°。沿着子午线走，北极星的高度也就逐渐变化。用“复矩”可以测量纬度，更重要的是，有了纬度的数据就可以计算出整个子午线的长短。张遂通过实测后，计算出每度弧长132.03公里，与现代用科学仪器测出的每弧度长111.2公里相比，当然不很精确，但张遂毕竟完成了人类第一次实测子午线，据历史记载，在张遂之后的90年，也就是814年，阿拉伯人才在幼发拉底河平原上进行了一次子午线的实测。
张遂在天文学上的贡献是多方面的，他还是世界上第一个发现恒星运动的人。这比西方天文学家发现恒星运动现象要早1000多年。
公元727年，他在刚刚修完“大衍历”后，不幸染病身亡，当时这位伟大的天文学家只有45岁。
1977年7月，中国科学院紫金山天文台把新发现的并被国际上承认的4颗小行星以4位中国古代科学家的名字来命名，其中一颗就是以张遂的名字命名的。让张遂留在浩渺寰宇，观苍天，察星字，这是他的心愿，也是后人对他最好的纪念。