鄂州陷落时，临安受到空前的震动。这时度宗已经病死，由他的幼子赵显继位，即宋恭帝。赵显只有四岁，由太皇太后谢氏主持朝政，十二月二十一日，太皇太后下了一道“哀痛诏”，号召各路军民起兵勤王，保卫京师临安。由于南宋政治十分腐败，政权已经摇摇欲坠，各地文武将官大都感到元军锋锐，无法抵抗，因而存心观望。响应这个号召的，只有文天祥和张世杰两人。
文天祥是第二年（1275年）正月十三日才接到这道“哀痛诏”的。他涕泣不能成声，决心应召勤王，挽救南宋王朝。南宋人民本来很痛恨元军的烧杀掳掠，只要有人倡导，就成千上万参加勤王军。文天祥又素孚人望，三天之间，就募集了一两万人。他把自己的财产充做军饷，准备粮食，只要命令一到，就开向京师。
元军继续沿江东下，群臣、太学生纷纷要求丞相贾似道率兵抵抗。贾似道迫于形势，不得不亲自出征。他抽召各路精兵十三万，舳舻百里，于二月间到达芜湖，和从鄂州败退下来的夏贵会合。伯颜、阿术从江北、江南两路夹攻，南宋水陆两军都遭到惨败。贾似道乘小船从鲁港逃到扬州，后来被罢了官。三月初伯颜大军进占建康（今江苏南京），镇江、江阴等地官吏都望风而逃。威迫临安的形势已经形成，临安第一次实行戒严。
这时文天祥的勤王军集中于吉州，要求从速入京。丞相王蝓非常高兴，主张速召这支军队来拱卫临安。知枢密院（主管军队）兼参知政事（右丞相）陈宜中却从中阻梗，说文天祥“猖狂”，他的行动是“儿戏无益”，要他留屯隆兴府（今江西南昌）。王蝓一气之下，离职出京去了。直到七月间，朝廷觉得临安空虚，才颁旨催促文天祥率兵入京。八月十七日，诏令文天祥为工部尚书，兼都督府参赞军事。八月下旬，勤王军抵达临安。
文天祥做了到前线和元军决战的准备，而丞相陈宜中、留梦炎却畏敌如虎，积极策划议和。文天祥上疏反对朝廷姑息养奸，并建议把东南一带划分为四镇，给地方官以实权，让他们去收复失地。陈宜中、留梦炎不加理睬，文天祥十分愤慨。由于常州告急，平江（今江苏苏州）受到威胁，文天祥率领勤王军到平江前线作战。
勤王军在初次作战中表现非常英勇，除守卫平江外，文天祥还派出三千人支援常州。淮军将领张全不能很好配合，让勤王军孤军作战。勤王军在兵力悬殊下，仍然夜以继日地和元军浴血苦斗。有一支由尹玉率领的赣州义军共五百人，遭到元军的日夜合围，一直前仆后继进行冲杀，结果除几人冲出外，其他全部壮烈牺牲。
元军元帅伯颜兵分三路加紧发动进攻，一路沿长江入海，取澉浦、华亭（今上海松江县），一路取常州，另一路由建康经广德攻打余杭县西北的独松关。其中第三路是到临安的捷径，宋军防御空虚，朝廷最为担心。陈宜中、留梦炎议定调文天祥驻扎余杭，守独松关。当文天祥回师余杭的时候，独松关已经失陷。伯颜亲率大军攻陷常州，全城上万人都被杀死，只有七个人伏桥坎下才幸免于难。三路元军很快包围临安，南宋朝廷或者与元军决一死战，或者投降，没有第三条路好走。文天祥和张世杰主张坚守阵地，和元军作殊死战。陈宜中一心想要议和，留梦炎看到形势不妙，偷偷跑出临安，后来投降了元军。太皇太后召集大臣议事，来朝的官员只有六人，南宋朝廷已陷于极度混乱之中。
这时闽、广两路平静无事，江西、湖南也还有很多地方在宋朝手中。文天祥勤王军有三四万人，京师义民可动员二十万。文天祥和张世杰商议，背城借一，以战为守；如守不住，则分两路到江西、两淮活动，继续斗争。太皇太后和陈宜中加紧进行议和活动，派人到伯颜营中，请求称侄纳币，准许议和。伯颜不许，求称侄孙，也不行。太皇太后无可奈何，准备奉表称臣，岁纳银、绢各二十五万两匹，以乞求保存小朝廷。伯颜根本不让南宋保存朝廷名义，坚持非丞相亲自来请降不可，并指定于德祐二年（1276年）正月十五日到长安镇商议投降事宜。
丞相陈宜中害怕被扣留，没敢去议降。朝廷派赵吉甫、贾余庆献上传国玉玺和恭帝赵显的降表，向伯颜请降。表中赵显已削去帝号，自称“国主”，并“以两浙、福建、江西、湖南、二广、四川、两淮现有州郡，悉上圣朝”，把土地也献出来。伯颜仍要求派宰相来接洽投降事宜。
元军兵临城下，太皇太后诏命文天祥为右丞相兼枢密使，都督诸路兵马，要他出来维持残局。几位执政大臣在左丞相吴坚的府第计议对策，他们都认为到伯颜营中谈判是非去不可的。但谁也不愿去，而属意于文天祥。文天祥自忖国事至此，不能顾惜一身了。而且他幻想要以大义来说动伯颜退兵，最终决定挺身而出。太皇太后命文天祥和吴坚、贾余庆、谢堂等人到伯颜营中去。吴坚胆小怕事，不敢抗争；谢堂遇事唯唯诺诺，没有主意：贾余庆是卑鄙小人，一味奉迎元军，以求取得新朝官位。这场尖锐的谈判，势必由文天祥来担任主要角色。他深感自己责任重大，下定决心：不为利诱，不被威屈，不辱使命。
伯颜大营设在临安郊外的皋亭山明因寺。文天祥到来后，昂首阔步入见伯颜。营中刀枪森列，元军杀气腾腾，他视若等闲，十分坦然。伯颜首先问：“丞相来谈投降的事啊？”文天祥不承认是投降，而说是来谈判的。他严肃地说：“投降是前丞相一手经办的，我一概不知道。太皇太后命我为丞相，先来军前商量。”伯颜连忙改口说：“丞相来勾当大事，这很好嘛！”文天祥直截了当地问：“本朝承帝王正统，衣冠礼乐所在，北朝究竟想把它作为国家来对待呢，还是要毁它的社稷？”
伯颜只好说：“皇上（指元世祖忽必烈）的诏书说得很明白：社稷必不动，百姓必不杀。”
文天祥义正词严地指出：“现在两国丞相亲订盟好，你们应当退兵平江或嘉兴，把和议情况奏闻北朝，北朝诏令下来后再作续议。”
伯颜正是为了灭宋而来，怎么肯退兵呢？他露出胜利者的倨傲、骄横的神气，威胁着文天祥。
文天祥以高亢的声调继续说：“依我所说，双方讲和，是为上策；不然南北兵祸不已，对你们也没有好处。”文天祥的强硬态度使伯颜感到诧异，他从没有见过宋朝的使节敢于这祥对待元军的统帅；但也不相信文天祥不能屈服，声色俱厉地恐吓着要把他置于死地。文天祥毫不畏惧，大义凛然地回答：“我是宋朝的状元宰相，但欠一死报国，斧锯鼎镬，在所不惧。”军营中元军将官见到文天祥竟是这祥一个顶天立地的男子，都十分惊奇钦佩。伯颜和几个将领进去商量后出来对南宋的使节说，吴坚、贾余庆、谢堂等人回临安城见太皇太后，文丞相暂留下来，大家商议完毕，即可回去。这是伯颜的一条毒计，他对南宋大臣的情况了如指掌：吴坚、谢堂等老朽，他根本不放在眼里；文天祥声望很高，登高一呼，从者逾万，这对元军是极大的威胁。如果把他放回去，就会率勤王军抵抗，对元军不利，因此伯颜决定把他扣留下来。
文天祥提出抗议，伯颜耍起无赖，笑而不答。文天祥愤怒地质问：“我是为商议宋元双方大事来的，为什么把我扣留起来？”伯颜无法正面回答，叫人把他带到伴馆中，软禁起来。
第二天，太皇太后派吴坚等人送来降表，伯颜接受降表，南宋朝廷正式投降。文天祥被邀进军营时，仪式已经结束。看到这个情景，他怒火中烧。他痛恨灭亡宋朝的元军，对一些大臣的无能也很气愤，特别憎恶那些想当新贵的败类。
重举义旗
伯颜胁迫宋朝一批大臣做“祈请使”，奉表到大都陛见元世祖忽必烈。文天祥也一同去，但他没有使节的身份，形同囚徒。押解的元军对文天祥严加防范，而且不时侮辱他。他们一行从临安出发，沿运河北上，经杭县到平江，又经无锡、常州，走了十天才到镇江。第二天，渡江到瓜州去拜见元军元帅阿术。一些大臣竭力奉承，唯独文天祥怒目而视，始终不发一言。文天祥和他的随行人员千方百计准备从镇江逃脱。元军江防极严，所有船只都被管制。到了第九天，居然有一个船户，敬重文丞相，甘愿冒死送他们到真州（今江苏仪征）。在一个月黑风高的夜里，他们从镇江逃脱，来到真州。
真州守将苗再成对宋朝忠心耿耿，一心想要恢复旧河山，对文天祥的到来十分高兴。他认为以丞相、枢密的威望作号召，江淮的宋朝将领同仇敌忾，要挽回颓局是大有希望的。他把考虑多时的想法告诉文天祥：两淮兵力足以复兴，只要淮东制置使李庭芝和淮西制置使夏贵能同心协力。西面佯攻建康，东面以通州、泰州军打湾头、扬于桥两个元军据点，扬州大军进攻瓜步，真州军队直捣镇江。各路军队同日行动，元军顾此失彼，只要拿下建康、镇江，两浙元军没有退路，伯颜就可以生擒了。文天祥听了，喜不自制，认为中兴机会在此一举。他连忙写信给李庭芝、夏贵和各州郡将领。这个战略是正确的，如能实行，可以沉重打击元军。但它已无法实现了，因为几天前夏贵已经投降，而李庭芝不相信文天祥这样的重要人物在元军的严密戒备中竟能逃脱，认为他是被放出来攻城的奸细，并移文真州要苗再成加以杀害。苗再成怀疑此事，怕错杀忠良，只是把文天祥一行十二人骗出城去，叫他们自找生路。
“误把忠良按剑猜”，被自己人怀疑比被敌人侮辱更难忍受，文天祥痛苦的心情到了极点，他们打算到扬州去和李庭芝说个清楚。但也有人反对，说到扬州正好送上虎口。最后他们决定不去扬州，经历了千辛万苦，才从高邮、泰州到了通州（今江苏南通）。
通州守将杨师亮对文天祥热情接待，让他到州衙好好休息。两个多月来，颠沛流离，这时才算过着比较安定的日子。文天祥把他从离开临安到达通州一路上所写的诗一百多首，编了集子叫《指南录》，表示心向南方，矢志不移。他还写了一篇序，叙述自己从离开平江府入卫独松关到出使北营、镇江脱险、历尽艰辛到达通州的经过。这不仅是他的一篇简要的自传，也是极其宝贵的历史资料。在通州，文天祥获得一个使他异常兴奋的消息：吉王赵罡、信王赵昺在驸马都尉杨镇等人的护卫下，到温州重新建立朝廷，挽狂澜于即倒。陆秀夫、张世杰等也到温州来。陈宜中本来就逃到了温州。文天祥由海路到温州来朝觐二王。从通州扬帆出海时，文天祥驻立船头，口占七绝一首：“几日随风北海游，回首扬子大江头。臣心一片磁针石，不指南方不肯休。”诗中表示他南行的赤子之心和继续战斗的决心。
经过十三天，船在台州（今浙江临海）靠岸。文天祥由陆路赶到温州，原来二王已把大元帅府移到福州。文天祥写了奏章，派人星夜送到福州行在。主持朝政的陈宜中也派人来温州，和文天祥商议吉王即帝位事宜。有了皇帝，就象征着宋朝的存在，文天祥完全赞同，并上书劝进，自己暂留温州候命。
吉王在福州登基，改元景炎，他就是端宗皇帝。信王晋封为卫王。陈宜中任左丞相兼枢密使，张世杰为枢密副使，陆秀夫为直学士，文天祥为观文殿学士、侍读，朝廷召他立即到福州来。
文天祥脱险来到温州的消息传开后，在浙、闽各地的同僚、旧部，不少人赶来温州和他商议重举义旗的事。他们准备在浙、闽发展水军，如能拥有几百艘海船，则可望收复江淮、浙东失地，同时杨师亮可在通州一带策应。文天祥把这一计划写信报告陈宜中，但陈宜中并不热心，使得计划无法执行。文天祥亲自来到福州，朝廷授予他右丞相兼枢密使、都督诸路军马等职，但他没有受命，主要原因是他不满左丞相陈宜中的为人行事。临安被围时，陈宜中悄然出走，收复浙东、淮东的计划，又未被采纳，这是陈宜中的私心在作怪。因为两渐是陈宜中为宰执大臣时失去的，他想依靠张世杰收回，不让文天祥得此功劳。宋朝一向重文轻武，张世杰是武将，他收复两浙，也不可能掌握朝廷大权，陈宜中仍然可以稳坐在左丞相的位置上；但如果文天祥收复两浙，成为中兴功臣，原来他又曾任右丞相兼枢密使，就很可能独操朝廷威柄。文天祥已经洞察了陈宜中这个心计，因此他上表力辞。朝廷只好改任他为枢密使、同都督诸路军马。陈宜中以私心误大事，南宋末年国家艰危，大臣不能同心同德对付敌人，这就注定了他们必然会失败。
文天祥打算到广州招集兵马，作北伐的准备。这时元军进行了新的部署，分数路向南进攻。一路攻占浙闽州县，一路进兵江西，另一路由鄂州南下，取潭州。但广州守将投降元军，开督府于广州的计划无法实现了。