虽然女皇一直没有动“二张”，但是“二张”心虚，见到女皇病重，惟恐大臣们在这个时候对自己不利，便开始联络同党，拉拢亲张大臣，准备在适合的时候谋乱。他们这一动作，立即引起了反张大臣的注意。有人写了招贴，希望大家提高警惕。一时间，街头巷尾都传说张氏兄弟要谋反。消息传到武则天耳里，她不信，也不予理睬。直到许州人杨元嗣上书说：“张昌宗曾召术士李弘泰占相，弘泰言昌宗有天子相，劝于定州造佛寺，以示天下归心。”武则天才猛然警醒。武则天对天命一说尤其敏感，只要一听说哪个人利用谶语造势，她立马就打起十二分精神。这还真不能掉以轻心，一定要查清楚。再者，事情都闹到大臣上书的地步了，就不能装作不知道了，总得给天下一个说法。于是命令宰相韦承庆、司刑崔神庆、左台中宋璟一同审讯张昌宗。
审讯完毕，丞相韦承庆上书说，张昌宗已经自首了，可以免治他的罪，只要把散布谣言的弘泰问罪就可以了。宋璟可不干了，好不容易找到一个铲除贼子的机会，竟然放过他，这不是遭天谴么？宋璟不妥协地上奏：“张昌宗已经得到这样的荣华富贵了，他还要招术士占相，目的是什么？弘泰声称占卜到纯乾，是天子的卦。如果张昌宗真认为是妖言惑众，为什么不把他交给相关部门办理？虽然是先已奏闻，终是包藏祸心，依法应抄家问斩。请皇上把他收监，一一查明他的罪过。”武则天听罢，许久没有说话。她本就身体不好，心烦意乱，出了这么一档子棘手的事，还没有理清思路，不知如何办才好。宋璟又说：“如果不将他收押，恐怕他会蛊惑众人。”武则天叹了口气说：“就到这里吧，等详细查明情况再上书讨论。”宋璟只好退下。这个时候，谏官李邕又进谏说：“但凡宋大人上奏的事，都出于安邦定国的考虑，绝不是为自己谋福利，请皇上准其所奏。”武则天皱了一下眉头道：“爱卿还是下去吧，稍后再说。”
这时候武则天还是有点儿信任“二张”，毕竟“二张”没有做出实质性的谋反动作。所谓的谶语，不过是别人说，张昌宗并没说。她想保住张昌宗，于是想出了个好点子，就是调宋璟出京，让他审理幽州都督的贪腐案件，又想让宰相李峤出使陇蜀之地。宋璟不仅自己不去，也不同意派李峤去。他对武则天说：“地方的案件应该交由侍御史或监察御史来审理，中央大臣不插手此事。而陇蜀之地也没有异常情况，李峤是御史中丞，按规定也不应到地方上管理这些事。”大臣们见宋璟等人不听从调遣，胆子都大了起来，纷纷上奏请求武则天惩处“二张”。司刑少卿桓彦范上奏说：“张昌宗无功得宠，却包藏祸心。他招致祸患，是皇天降怒；皇上不降罪，是违背天意的……”好嘛，把老天爷都搬出来了，可见张昌宗与朝臣的积怨有多深。崔玄韦等也纷纷上奏，请求处置张昌宗。
武则天看这个架势，无法再跟朝臣抗衡下去了，只好将张昌宗交给有司处置，有司立即决定处以死刑。武则天有气无力地说道：“昌宗已经自己奏报了。”宋璟义正言辞地说：“昌宗是因为写着他阴谋的飞书已经传到宫中，才迫不得已自首的，不是出于自愿。谋反是大逆不道的事情，不能因为自首就免了他的罪过，如果张昌宗不能服刑，那还要国法干什么？”武则天希望宰相们法外开恩，饶他死罪，大臣们就是不肯。武则天知道，自己无论从身体还是从力量上都不能跟朝臣们较劲了，于是闷闷不乐地让张氏兄弟到御史台受审。
宋璟审问“二张”罪案。还没有定案，武则天就急急忙忙地派来使者宣布敕令，特赦张氏兄弟。宋璟气得直跺脚：“事先没有把他杀了，真是太遗憾了！”事后，武则天命令张昌宗到宋璟家去谢罪，宋璟是个牛脾气，劈头盖脸就是一句：“公事就在公家的地方说，如果是私会，法律是不讲私交的。”张氏兄弟悻悻而归，但终究是保全了性命。
这时的武则天处于两难境地，她知道张氏兄弟确实有罪，她也知道这些进谏的大臣都是忠心耿耿的人。即使大臣们与她针锋相对，她也没有怪罪他们。大臣们嫉恨“二张”也是因为自己贪图享乐，过度宠爱他们所致。张氏兄弟陪自己这么些年，耗费了大好的青春，总不能就这样把他们给解决了吧？武则天老了倒显得心慈手软了些，面对朝中挺张和反张势力的争斗只能尽量安抚。
神龙政变
公元705年，也就是神龙元年，武则天病重不能上朝。宰相张柬之为剿灭“二张”、逼迫武则天退位发动了宫廷政变，史称“神龙政变”。
张柬之当上宰相后，极力团结反张、反武势力，希望恢复大唐统治，他推荐杨元琰为右羽林军将军。这个杨元琰也是有雄心壮志的人，颇为留恋李唐的统治。曾经在与张柬之泛舟时，提到过恢复李家统治的事情。如今张柬之当上了宰相，他就有了用武之地。张柬之又推荐桓彦范、敬晖和右散骑常侍李湛为左、右羽林将军，让他们控制禁军，为胁迫武则天退位做准备。
桓彦范是润州丹阳人，得祖上的荫庇成为三卫之一的右翊卫，狄仁杰对他的评价是：有能实现远大抱负的才能。他为官历任监察御史、司刑少卿，也是一位响当当的权臣。当宋璟请求治张昌宗的罪，武则天不予应允时，他直接批评女皇是放纵他们的所作所为，要求把张昌宗交付三司审判。也曾经多次上书，奏请武则天赦免所有的政治犯，言辞激烈，被女皇采纳。他在张柬之牵头发动的宫廷政变中，发挥了很大的作用。他参与谋划，先行控制军权，遂调为左羽林将军，为政变铺路。
崔玄韦系出名门，明经考试成为官员，先后被任命为尚书省库部员外郎、天官郎中、凤阁舍人等职位，后被提拔为文章左丞，成为武则天晚年的重要宰相之一。这个人很有意思，几乎不吃荤，他被升为宰相时，官员们都设斋表示庆祝。武则天还以为他们要干什么坏事，赶紧把他降回原职，做天官侍郎，后又见他做官清正廉明，才明白是怎么一回事，于是又拜他为相、兼任太子左庶子。他建议将“二张”除掉，让太子、相王侍奉武则天。他弟弟任职司刑少卿，主张诛杀二张。崔玄韦也是神龙政变的谋划者。
狄仁杰推荐的敬晖，通过科考进入仕途，初时被任命为刺史。在打击突厥骚扰的过程中，因为保护卫州而立功，被提升为夏官侍郎，就是兵部侍郎，后又被提升为洛州长史。武则天对他很是器重，巡狩西京时，让他做神都副留守，还多次赞扬他。后被提升为中台右丞。他也是这次兵变的策划人之一，张柬之在兵变前把他安排在左羽林将军的位置上。
张柬之不仅团结了一批汉族官员，同时对少数民族的官员也尽量进行劝服。他们控制御林军之后，找到靺鞨族的羽林卫大将军李多祚说：“将军在此做官多少年了？”李多祚回答说：“三十年了。”张柬之激励他说：“将军你的地位已经达到钟声鼎沸的地步了，位及武臣，不是先帝的恩惠么？”李多祚觉得确实是这样的。张柬之看出了李多祚的心思，便进一步说：“难道将军不想报答先帝的恩泽么？现在先帝之子在东宫，逆贼张易之兄弟专擅独权，朝廷危在旦夕。宗庙社稷就仰仗将军你了，如果你想报恩，现在就是时候了。”李多祚听了热血沸腾，激动地说：“我即使抛弃妻子也要跟随你们。”于是两人对天地发誓，同仇敌忾，接着大家聚在一起商议下一步行动。
紧接着，左羽林军将军敬晖又向冬官侍郎朱敬则询问计策，朱敬则胸有成竹地说：“你假借皇太子的命令，带领北军诛杀易之兄弟，两飞骑就可以解决问题！”敬晖认为这个计策很好，于是采取行动控制北军。所谓的北军是驻屯在玄武门的左右羽林军等军队的统称，只有控制了北军，政变才有可能成功。
要发动一场政变，光有几个文臣武将是不够的。张柬之还活动了一些人，成王李千里在张柬之的动员下，也参与其中，可见张柬之的说服能力还是很强的。就连女皇的孙女婿、典膳郎王同皎也被劝说，共同进行政变前的准备。武则天的的表外甥、右卫郎将杨执一也在张柬之的组织下向张柬之、崔玄韦集团倾斜，愿意协助他们铲除张易之兄弟，拥立中宗复位，逼迫武则天退位。太子婿右卫郎将杨慎交，也参与到这件事中来。推荐张柬之为宰相的姚崇回到京城时，也赞同铲除“二张”，但是对逼武则天退位有所保留。羽林军将领赵承恩、司刑详事冀仲甫、检校司农少卿翟世言等人，也都团结在张柬之周围。
当然，张柬之的最终目的是恢复李家王朝的统治，打着诛杀“二张”的口号是想团结能够团结的人。事实上，就算“二张”有武则天庇护，有一群乌合之众支持，也用不着这样劳师动众地发动一场政变。
神龙元年，女皇病重不能上朝。她下令大赦天下，并改元。张柬之认为女皇病重是一个机会，如果不在这个时候发动政变，再想恢复李唐的统治恐怕就很难了。一切准备就绪，政变即将到来。