姚崇入朝为官，负责理案刑狱，这个时候正是武则天热火朝天地任用酷吏办案时期，他秉公执法，解救了许多遭诬陷的人，引起朝野注目，官职连连晋升。公元698年，姚崇被武则天破格提拔为尚书，兼相王李旦府长史。五年后，姚崇因为得罪了武则天的男宠张易之、张昌宗兄弟，被派往边境做安抚大使去了。在临行前，姚崇推荐张柬之出任宰相。公元705年，武则天病重，姚崇从边关回京，张柬之与其密谋杀死张昌宗兄弟，姚崇知道“二张”的恶劣，认为铲除“二张”是非常必要的。张柬之还要逼武则天让位给太子李显，姚崇却不愿意参与这件事。在张柬之逼宫的时候，姚崇没有参加。李显复位后，任用姚崇、张柬之为宰相，还加封姚崇为梁县侯。此后，姚崇被贬亳州。接着又发生了张柬之被杀、武三思和韦后掌权，太子杀死武三思，韦后和安乐公主合力毒死中宗，掌握朝中大权；李隆基杀死韦后拥立李旦继位等宫廷政变。姚崇却因为人在地方幸免于难。
张柬之等人在一举铲除“二张”之后，武则天被迫退位，迁到上阳宫居住。扬眉吐气的中宗带着文武百官前去请安，很多大臣都是礼仪性地问武则天好，接着便相互庆贺起来。只有姚崇不合时宜地痛哭流涕。张柬之、桓彦范等人吃了一惊，在新主子面前对着旧主子哭，这是干什么呀？张柬之对他说：“姚公啊，今天是什么日子，不是哭的时候吧？你恐怕要惹出祸端来了。”姚崇却很坦然地说：“我侍奉武皇帝已经有些年头了，突然间要离开她，总会有所触动。这是发自内心的感情，实在控制不住啊！我参加你们组织的诛杀凶逆的举动，是尽做臣子的义务，不敢说有什么功劳；今天因为与旧主子告别而伤感，也是做臣子应有的节操，如果因此获罪，我也心甘情愿。”这事儿很快被中宗知道了。中宗老大的不高兴，姚崇我白白让你做丞相了，既然你不愿意在我身边，那就打发你到亳州去得了。姚崇就这样被贬到亳州做刺史去了。有人说，姚崇有先见之明，他预见到武皇帝退位，朝中必定会出现大的波动，甚至是一场恶斗。为了不致陷入更深的旋涡，于是想出了这个既有人情味，又能保全自己的脱身之计。我们不能排除姚崇有这种判断力，但是，我们也不可否认，他的表现也同样是出于对武则天深厚的感情。
之所以这样说还要从姚崇与武则天的交往来看。
姚崇承袭了父亲身上的武将气质，为人豪迈，崇尚气节。进入仕途后，因为才华出众，青云直上。武则天时，被提拔为夏官郎中（兵部的高级官员）。就是这时，东北的契丹族不断侵扰中原，武则天不断地派兵抵御，就是没打出几个漂亮仗。因为派兵次数比较多，所以兵部军事繁忙。姚崇的才干在这个时候才充分地发挥出来了，纷繁复杂的军务，到了他的手里，便被处理得干净利落，井井有条。兵部统属于中央，姚崇的能力很快被武则天发觉了。武则天爱才是出了名的，她十分赏识姚崇的才干，马上让他做兵部侍郎。这种知遇之恩，姚崇铭记于心。主管领导对下属的器重，往往会更大程度地激发下属的工作热情。武则天的赏识，让姚崇卯足了干劲，他的才干进一步被激发出来。他在做宰相的时候，经常兼任兵部尚书，所以对兵部之事了如指掌；边防哨卡、军营分布、兵器储备、兵员情况全都装在他心里。每每奏报都分析得鞭辟入里，武则天大为叹服。
姚崇被任命为侍郎后，可以直接参与朝政的议论。公元697年，武则天对大臣们说：“之前，周兴、来俊臣等人审理案件，朝中的大臣多被牵连其中，以谋反罪居多。国家法律摆在这儿，我怎能带头违反呢？我也曾怀疑其中有冤情，是滥用刑罚造成的，所以才派近臣到监狱中去审问。结果呈上来给我看的，都是他们手写的状纸，且都是自己认的罪，我这才不怀疑了。自从周兴、来俊臣死后，我再没听说有谋反的事情了。那么，之前所杀的人中，是不是有被冤枉的呢？”姚崇因为做过刑部的官员，办案公道，救过不少人，所以对这方面情况比较熟悉。他在朝廷为官也有些年头，对武则天较为了解，他知道武则天重用过一些酷吏滥杀无辜，却没有被人控制。一些正直之臣还在主管刑法，在这个问题上是能够听得进去意见的。他针对武则天所提出的问题，坦诚而直率地发表了自己的看法：“自垂拱以来，很多人被告得家破人亡，这些人基本上都是被冤枉的。告密的人因为诬告别人而立功，天下的人都开始用这样的方式编造别人的罪行，这种情况比汉朝的党锢之争还要严重。被皇上派到监狱中查问的人，连自保都不能做到，又怎么敢替人申辩呢？而被审问的人如果要翻案，又惧怕遭受那些人的毒手。现在老天保佑，皇上你醒悟过来了，杀死了这批小人，使朝廷得以安宁。我用我以及我全家百余口的性命担保，现在朝野官员没有一个谋反的。皇上你以后要是再收到类似的奏报，请将它们收存起来，不要追究。倘若以后有证据证明有人谋反，我情愿担当知而不告之罪。”这话说得已经相当严厉了，批评和建议都有，一般的皇帝很难忍受大臣的当面斥责。唐朝之所以出现盛世局面，与统治者的广开言路是不无关系的。武则天不但没有生气，反而表现得很高兴。她有些欣慰地说：“之前的宰相任由事态发展，结果害我成为滥行刑罚的君主。你的说法，很符合我的心意。”接着赐给他千两银。从此，姚崇和武则天有了更进一步的了解。
一年后，姚崇被任命为宰相，后来就有了被张易之陷害遭贬之事。公元705年神龙政变以后，中宗继位。五年后，中宗暴毙，睿宗李旦继位。因为姚崇曾做过相王（李旦）府的长史，所以，相王李旦继承皇位后，马上提升姚崇做了宰相。而此时，太平公主在朝中颇有势力，不断干预朝政。太平公主是睿宗李旦的妹妹，武则天的亲生女儿，无论是长相还是性格都很像武则天，一直受到武则天的器重和宠爱。太平公主也是一个有雄心壮志的女子，希望跟武则天走同样的路，过过皇帝瘾。为了防患于未然，姚崇与宋璟联名上奏，建议把太平公主迁往洛阳居住，并将手握重兵的几个王派到地方上去当刺史。脑袋短路的睿宗，竟然把姚崇等人的话转告给了太平公主。太平公主听了气得直哆嗦，太子李隆基为了保存实力，便主动指控姚崇等人故意挑拨皇上与兄妹之间的关系，应该给予惩罚。于是，姚崇被贬为地方刺史。从姚崇被封为兵部尚书，同中书门下三品，到被贬为刺史，在职不到一年。这是他第二次出任宰相。
随着太平公主势力的膨胀，她的揽权活动也越来越猖獗。李隆基见形势越发严峻，便瞒着睿宗，把太平公主和她的党羽一起铲除了。公元713年，玄宗到新丰进行军事检阅。参加的军队有二十万人，因为人数众多，安排失当，旗帜连出五十多里。军容不整，秩序紊乱。玄宗看后，差点儿没气断了气。这带的是什么兵？这样的军队上战场，不是给人家送战利品去了么？于是招姚崇赶往行宫。按照当时的传统，皇帝出巡，方圆三百里内的州郡大大小小的官员都要到皇帝的行宫去朝见。当时姚崇是同州刺史，又得到玄宗的秘密召唤，所以马不停蹄地前往玄宗的行宫。姚崇到的时候，玄宗正在打猎。玄宗问他擅不擅长打猎之事，姚崇从小就懂骑射，自然实话实说，于是，玄宗让他参加打猎队伍。姚崇在猎场上驰骋自如，速度与力度掌握得很好，玄宗看后大加赞赏。狩猎后，玄宗咨询他国家大事，他同样对答如流。玄宗越听越觉得姚崇是个人才，不由得称赞道：“你是治世能人，不应该只做小小的刺史，应该做我的宰相，”
姚崇了解玄宗的为人，他胸襟开阔，善于纳谏。又是刚刚上任，必定要燃起几把火来。姚崇猜透了玄宗想要革旧立新的心理。便故意激了他一下，没有叩头谢恩。玄宗感到诧异，这样的好事，要是换作别人早就乐颠颠地“谢皇上，谢皇上”了，可是这位姚大人，还真是与众不同，好像我给他个烫手的山芋似的。于是便问：“姚爱卿，你是不是有什么话要说啊？”姚崇故意在玄宗面前走了好几圈，而后停下来看着玄宗的眼睛说：“我有十点建议要上奏，如果皇上觉得为难，那么我这个宰相就不能做了。”玄宗心想，好你个姚崇还跟我讲起条件来了。有个性，我喜欢。但凡有些气量的领导都能接受下属的傲慢，因为领导知道，你再傲慢也是为我做事的，并且这事对我很重要。玄宗就让姚崇说说看。
姚崇便逐一讲出十条建议，征询玄宗的意见。大意是：一，从玄宗你当皇帝后，朝廷用严刑峻法来治理天下，我请求皇上，用仁德来治理国家，可否？玄宗听后哈哈大笑说：“这有何难？我倒是衷心希望你这么做。你接着说第二点。”姚崇见玄宗答应得如此痛快便放开了胆，接着说出了自己的第二点建议。姚崇说：“朝廷自从在青海被吐蕃战败以后，就没有后悔之意；我请求皇上国家在十年内不在边疆打仗可以吗？”玄宗沉思了一下说：“朕能办到，你的第三点建议是什么？”姚崇从容地说：“自从武则天太后临朝称制以来，宦官们往往代表朝廷发言。我请求皇上不要再让宦官干预朝政！”玄宗眉头舒展说：“这个问题我也考虑很久了，是该撤了这股歪风了。”玄宗又问姚崇第四点建议。姚崇说：“自从武氏诸亲占据朝中重要位置以后，又一连发生了很多事。韦皇后被贬为庶人，安乐公主、太平公主干涉朝政，导致官场秩序混乱；我请求以后不要让国戚担任国家重要机关的领导人，以前巧立名目任命的官吏一律撤销不算，不知皇上你意下如何？”玄宗高兴起来：“我早就想这么做了，爱卿你的建议正合朕的心意。你接着往下说！”姚崇见玄宗越发来了兴致，自己也跟着激动起来，便慷慨激昂地说：“近些年来，奸佞的小人触犯王法，都是因为得到宠臣的庇护而免遭惩罚；我请求皇上严肃法治，皇上觉得呢？”玄宗更加拍手称是：“对于这种现象，我也是深恶痛绝的。”接着，姚崇又从朝臣贪污腐败；先皇劳民伤财营造寺院；君臣之礼；广开言路；将外戚专权名列史册几方面向玄宗征求意见。玄宗听完后，久久不能平静。这样的真知灼见，让经历过唐宫一系列变故的玄宗深有感触，于是第二天便正式任命姚崇为宰相。这是姚崇第三次做宰相。
姚崇当上宰相后，带头裁减冗员，整顿吏治，注重才能，使玄宗统治前期的官场高效、清明。姚崇对行政管理方面的工作得心应手。他和庐怀慎都是玄宗的宰相，姚崇儿子死后，请了十天假，积压了一大堆政务。庐怀慎力不从心，慌了手脚，于是跑到玄宗那里作检讨。玄宗说：“我把天下大事都委托给姚崇管理了，你只管坐镇就好了。”意思就是说，你不用担心。十天后，姚崇上班，很快裁决了这批积压下来的政务，可见姚崇是做官的天才。
姚崇在漫长的职业生涯中虽然总是起起落落，但每次都能全身而退，这多半归功于他对人性的把握和事件发展的判断力。就在玄宗要提拔姚崇为宰相的时候，现任宰相张说知道了这件事。他忌惮姚崇的才能，便指使其他人弹劾姚崇。玄宗信任姚崇，没有接受弹劾的建议。张说不死心还派人向玄宗建议姚崇去做河东总管，玄宗自然不肯，还差点把提建议的人给杀了。姚崇当上宰相后，张说慌了手脚，于是想找玄宗的弟弟岐王做靠山。姚崇知道这件事后，知道张说不会善罢甘休，便抢先一步告了张说一状。
这一天，玄宗上完了朝，群臣们都已离去，只有姚崇装作脚生了病一瘸一拐地往外走。玄宗看见姚崇这个样子自然要关心一下，于是问他是怎么回事。姚崇说：“我的脚坏了。”玄宗便问他是不是很疼。姚崇回答说：“臣的痛苦不在脚上，臣的忧虑在心里。”玄宗听他话里有话便问他是怎么回事。他说：“岐王是皇上的弟弟，张说是辅佐大臣。他们秘密乘车出门，可能会有事情发生啊！我很担心这件事。”玄宗明白姚崇所指，便把张说贬为相州刺史，管理地方去了。