李德裕身在浙西却心系朝廷，献上六首《丹寂箴》，对敬宗不坐朝议政，不纳忠言，任用群小，沉溺于酒色，一一提出诚恳的批评和劝诫。敬宗虽不能一一接受，倒也十分欣赏他的忠诚，听说他是名相李吉甫之子，很有召回京城、委以重任的意思。恰逢此时，牛僧孺害怕因进谏而得罪敬宗，请求外任为武昌节度使。这对李德裕来说不啻天赐良机，但又因李逢吉从中作梗，宰辅的职位再次与他失之交臂。
仕途险恶，距宰相位仅一步之遥的李德裕忽遭厄运，但一贬再贬却使他积累了雄厚的政治资本。
借朋党之事打击牛党
宝历二年二月，裴度因声望甚高，并以山南西道节度使身份入朝拜相。而李逢吉党则大为惊恐，屡次放出谣言诬陷裴度。敬宗虽然年少，却能看出李逢吉的阴谋，反而益加倚重裴度。十一月，李逢吉罢知政事，出为山南东道节度使，出镇襄州，从此以后，再也没有入朝执政。十二月八日，敬宗被害，宦官拥立文宗。朝中党争，在此之前是李吉甫、裴度与李逢吉之间的斗争。从文宗大和年间起就变为李德裕与李宗闵、牛僧孺之间的斗争。
文宗即位之初，裴度与另一宰相韦处厚相得益彰，注意革除前朝之弊，大和初唐的政治大有可称之处。大和三年(公元829年)八月，李德裕应召入朝，任兵部侍郎，结束了长达八年的贬谪生涯，似乎预示着一个美好的前景。加上裴度的推荐，李德裕正准备入相。而此时的李宗闵为吏部侍郎，勾结宦官，抢在李德裕之前当上了宰相。裴度虽然为宰相，可是年高体弱，已经无所作为。李宗闵觉得李德裕在朝中始终是一个威胁，九月，李德裕便被李宗闵排挤到滑州担任刺史。此时正值滑州刺史李昕兵败之际，滑州“物力殚竭，资用乏荒”，李宗闵可谓“用心良苦”。可是李宗闵觉得滑州还是不够偏远，于是借剑南西川节度使因病求代之机，十一月份调李德裕去接替，企图让李德裕永世不得翻身。
第二年正月，李宗闵引另一个牛党核心人物牛僧孺自武昌节度使入相，同时援引的还有杨虞卿等党人。杨虞卿因结党营私，利用科试舞弊纳贿而臭名昭著。
李德裕新任的剑南西川，南接南诏，西邻吐蕃。唐朝经过安史之乱国力大衰后，西蜀人民的生命财产安全受到严重威胁，百姓惶惶不可终日。李德裕赴任后，痛矫前弊，在军事设施和军队建设方面花了不少心血，这些给吐蕃和南诏以极大震慑；维州守将、吐蕃大将军悉怛谋自愿投降。李德裕对他的诚意悉心考察，接受了，不费一兵一卒占领了西川扼守吐蕃的重镇维州，文宗得知惊喜不已。李德裕建议乘机直捣吐蕃心腹。大多数大臣赞同李德裕的意见，他们很希望借此机会洗雪长期以来国家所蒙受的奇耻大辱。但牛僧孺反对，认为这样有弃信义。但文宗听从了牛僧孺的建议，命李德裕将维州和悉怛谋等三百多降兵一并交付吐蕃，李德裕连连上书表示反对，可是在牛僧孺的干涉下，文宗严厉命令执行，李德裕只好照办。果不其然，这些降兵皆遭凌辱残杀。南诏又趁机攻占了三个县。西川监军宦官回朝后，将悉怛谋等人惨遭杀害的情况告诉了文宗，还说从此以后再也不会有人来投诚了。文宗听了十分懊恼，迁怒于牛僧孺，大和六年，罢牛僧孺相，出为淮南节度使，同时召李德裕入朝为兵部尚书。大和七年二月，擢为中书侍郎。六月，李宗闵亦被罢，出为山南西道节度使。李德裕借文宗问朋党之事的机会，大肆渲染朋党的危害，一一打击牛党骨干成员。
大和七年，郑注、李训结纳宦官头子王守澄，密谋攻击李德裕。原来李训是肃宗朝宰相李揆族孙，李逢吉是其从父。为了帮助李逢吉，李训与他人合谋，制造冤狱来中伤裴度，但被人揭发，流放岭南，遇赦返回洛阳。而此时的李逢吉为东都留守，贼心不死的他想再度入相。于是派李训持金帛珍宝数十万，贿赂郑注，郑注又把李训推荐给王守澄，王守澄又荐引给文宗。几个人狼狈为奸，沆瀣一气，利用李宗闵以与李德裕为敌，召李宗闵自山南西道节度使为相。李宗闵一上任，李德裕立即厄运降临，复为他曾经当了八年的浙西观察使，此后七年如浮萍飞蓬，辗转飘零于各地。
排挤李德裕，实际上是以王守澄为首的宦官集团和以郑注、李训等擅权的朝官与牛党三方联手共同策划的阴谋。他们为了抵制并排挤李德裕，又擢李训为翰林侍讲学士。同时将李德裕的老朋友御史大夫郑覃左迁秘书监，李绅也遭排挤。
大和九年三月，左丞王瑶、户部侍郎李汉(这几个人都是牛党人员)在李宗闵的授意下诬告李德裕，妄图置李德裕于死地。事情是这样的：李德裕初任浙西观察使，奉诏安排宫人杜仲阳于道观，供其衣食。而杜仲阳正是漳王的养母，因为漳王的原因，放逐杜仲阳于润州故里。李汉、王瑶趁机诬告李德裕厚赂杜仲阳，结托漳王，图谋不轨。严禁大臣与诸王交结，这是玄宗以来不可更改的祖训，因为这对皇帝来说最具威胁。文宗知道后大怒，于蓬莱殿召来王涯、路隋、王瑶、李汉、郑注等，当面对质，幸亏路隋以命担保，才免李德裕一死，但左迁李德裕为太子宾客，分司东都，没有一丝一毫实权。四月，李德裕又因对文宗所谓“大不敬”而贬为袁州刺史。
终于有了施展政治才干的良机
李德裕被贬后，反对他的三方势力相互倾轧，演绎了一幕更为惊心动魄的权力斗争。“狡兔死，走狗烹”，郑注、李训借李宗闵之手排挤了李德裕后，又借杨虞卿案于本年六月贬李宗闵为明州刺史。七月，又告发李宗闵交结宦官求为宰相，再贬为处州刺史。八月又贬为潮州司马，李宗闵的党徒杨虞卿、李汉等都被贬黜。这实际上是有志于除去朋党的文宗借郑注、李训之手，将牛、李两党各打五十大板。驱逐了牛、李两党后，郑、李准备趁热打铁，铲除宦官集团。十一月二十一日，发生了震惊天下的“甘露之变”，郑注、李训等人事败被宦官所杀，文宗也被宦官软禁起来。
武宗即位，李德裕如鱼得水，“错综万务，应变开阔”的政治才干，使他成为“唐中世第一等人物”，踏上了政治权力的巅峰。
开成五年(公元840年)正月，宦官头目仇士良拥立穆宗的儿子、文宗的弟弟为帝，是为武宗。武宗之立并非宰相本意，于是武宗即位后首先便罢了杨嗣复、李钰的宰相，杀了文宗所宠爱的刘弘逸、薛季棱，这样无意中为李德裕扫除了部分政治上的绊脚石。七月，李德裕被召入朝，九月拜相，翻开了他一生中最为辉煌的一页。
李德裕在拜相谢恩时，就朋党、藩镇和宰相之权三个问题向武宗进言：一、要辨群臣的邪正，这是针对文宗朝朋党纷争而言的，要防止小人为了一党私利而交结宦官。二、朝政要归中书，即宰相和下属机构，以防止宦官专政。三、宰相任职时间不宜过长。急于想有所作为的武宗十分赞赏李德裕的主张，更加信任他了。朝外，李德裕拜相后，李绅由宣武节度使改淮南节度使。第二年因汉江发大水，毁坏民居多不可数，李德裕借此削去山南东道节度使牛僧孺的实权，改为太子少师，而牛党另一重要人物李宗闵此时为太子宾客，分司东都，不为武宗喜欢，不足为惧。这样，朝中有武宗信任，朝外有同党相应，李德裕因此有了施展政治才干的良机。
会昌元年(公元841年)九月，幽州镇守军叛乱，统帅史元忠被逐，牙将陈行泰为留后，上书朝廷，要求封为节度使。李德裕向来对军中擅自拥立统帅深恶痛绝，但他也没有断然拒绝。他对武宗说：“河北事态，我很熟悉，以往朝廷急于安稳局势，才急忙下诏应允，但终不得长久稳定，不如放一放，幽州军必再发生变乱。”果然不久，陈行泰在变乱中被杀，张绛又自请节度使之职，朝廷听李德裕安排，又置之数月不理。闰九月，雄武军节度使张仲武派特使吴仲舒到京城，要求讨伐张绛。这时李德裕生病告假，但仍在家中接见了吴仲舒，详细询问张仲武的军力并考察其为人，认为张仲武确实效忠朝廷，于是全力支持。结果张仲武以极少兵力讨平了张绛，并在后来征讨回鹘中立了战功。在这件事上，李德裕处乱不惊、静观其变，表现了过人的远见卓识和善于审时度势、把握机会的政治才干。
被朝廷倚为重臣
会昌二年，李绅由淮南节度使拜相，李德裕的力量更加壮大。他得以集中精力着手来解决回鹘问题。回鹘是西北地区古老的游牧民族，和唐朝时战时和，加上各民族的分裂、融合、迁徙，关系十分复杂。武宗登基后，另一个部落黠戛斯击溃了回鹘部落，使之分裂为马介部和温没斯部，游荡在唐廷边境，对唐构成严重威胁。而此时的唐朝经过安史之乱后，国力大衰，如何有效地抵御这些散兵游勇，实在是一件棘手的事情。
李德裕审时度势，一方面不拘一格选人才，提拔英勇善战但遭贬谪的将领积极备战，在军事上对敌人起到一定的威慑作用；另一方面不主张轻率用兵，对有意倾心于唐朝的温没斯部厚待有加，济以粮食，授予温没斯官爵。这样不至于树敌太多，减少唐朝边境的敌对力量，以便集中力量打击顽固不化的马介部。会昌三年正月，马介率兵进逼振威，唐军出兵反击，大破回鹘，马介受伤窜逃，后被族人杀掉。剩余之敌来幽州投降，回鹘对唐朝北部边境的威胁得到彻底解决。
会昌三年，李德裕进位司空、司徒，想急流勇退，但武宗不许：“你每次请求辞相位，都使我无所适从。现在国家大事没有处理完，你怎么能一走了之呢？”由此可见武宗对他的倚重。
武宗所谓“国家大事”就是指昭义镇节度使叛乱问题。昭义镇地处唐廷心腹，与河北连横。早在文宗时，李德裕就奏请改其节度使刘从谏为宣武镇节度使，防止他在一个地方经营太久，易与河北藩镇勾结，但这个奏请未被采纳。武宗即位不久，刘从谏死，其侄刘稹冒充其子，仿照河北藩镇要求朝廷承认他承袭父位。众大臣认为国力不济难以讨伐，主张姑息迁就。李德裕从政治角度考虑，认为昭义镇和河北诸镇不同。河北诸镇几代皇帝都被迫应允其子嗣袭位，而昭义地处中原，如开先例，则其他诸军会纷纷仿效，中央集权则名存实亡，后果不堪设想。
以前唐朝命各道兵马合剿叛军的时候，各道兵马为了向国家多要经费，经常故意拖延，或者暗中与叛军商定，借其一县一地虚报战绩。鉴于此，李德裕命令各道只许占领州城，不要县邑。对于那些逗留观望者，李德裕命令各道互相监督，或派监军。这些都收到了良好的效果。
战斗正艰难进行，突然又节外生枝，派出剿灭刘稹的副将杨弁发动叛乱，与刘稹勾结。许多人认为应该罢兵，李德裕对武宗说：“杨弁绝不可饶恕！如果两处用兵军力不支，宁可赦免刘稹，也要剿灭杨弁。”这才坚定了武宗用兵的信心。会昌四年二月，官军收复太原，杨弁被斩。七月，支持刘稹的邢、洛、磁三郡被收复，刘稹处境危急，部将郭谊杀掉刘稹，投降邀功。如何收拾这样的局面，武宗束手无策，李德裕不愧为一个精明的政治家，他洞悉其奸，认为：“刘稹不过是一个乳臭未干的小子，所谓谋求袭位，全是郭谊阴谋指使的。现在郭见大势已去，刘稹灭亡在即，又杀掉刘稹，只不过是在搞政治投机罢了，不杀掉他，将来必为后患。”于是假装接受郭谊的投降，趁机处决了这个动乱的幕后主使。
昭义镇的叛乱被平定后，朝廷的威信大大增强，地方藩镇再也不敢轻举妄动。李德裕因功晋封为卫国公。
已经坐到了火山口上
会昌灭佛，是李德裕政治生涯中最后一篇杰作，如同划过天际的巨星作最后一闪，从此便陨落海角天涯，使人不由得想起了那句谶语：“玉杯破碎无复全！”
李德裕在集中精力剿灭昭义镇叛军的时候，仍然没有忽视自己的老对手。会昌三年，李德裕借口李宗闵、牛僧孺与刘从谏交结，不宜置之东都(洛阳)，由太子宾客分司贬为湖州刺史，扳倒了这只匍匐在自己卧榻之侧的老虎。刘稹败后，李德裕得到李宗闵与其交结的证据，再贬之为漳州长史，又流放封州。到宣宗即位，内迁李宗闵郴州司马，调令虽下，但未来得及离开贬所便去世。同时，在诛杀叛将郭谊的同时，又杀刘从谏父子所欣赏的人物李仲京、王渥等十二家，甚至株连其子侄甥婿，连襁褓中的小孩也不能幸免。其中李仲京是李训之兄，王渥是王瑶之子，他们的父辈、祖辈都曾排挤过李党。甘露之变后，他们都逃亡到刘从谏帐下，苟延残喘，刘氏父子兵败，他们已是丧家之犬，根本构不成威胁，可是李德裕实在是在党争中吃够了牛党的苦头，便决计斩尽杀绝，不让一个人漏网。
会昌年间，在武宗的支持下，李德裕主持全国的灭佛工作，一共拆毁佛寺4600多所，没收寺院上等良田数千万顷，强令僧尼还俗26万多人，解放寺院奴婢15万多人。除幽州、成德、魏博、泽潞等闹独立的藩镇节度使拒不执行中央命令外，其余地区都认真执行，并取得了良好效果，佛教同国家争夺政治、经济利益的矛盾有所缓和，历史上称为“会昌灭佛”。
但是，再高明的政治家也要根据实际情况实事求是。当时佛教赖以生存的社会条件依然存在，移风易俗不是一蹴而就的事情。26万多僧尼突然失去了民间施舍，衣食住行全无着落，他们流散社会，到处抢劫财物，造成社会的极大不稳定，有的甚至跑到没有灭佛的藩镇当兵，为虎作伥，对国家的安全构成极大威胁。“会昌灭佛”这副漂亮的大手笔上多少有些瑕疵：谁能想到，就是这小小的瑕疵成为那些日夜伺机反扑的政敌们再好不过的借口。
其实，在李德裕权力鼎盛、在朝中说一不二的时候，处于劣势的牛党成员也并非缄默不语，他们已发出过不同的声音。会昌五年，宦官及牛党后期代表人物白敏中就攻击李德裕专权，怂恿韦弘质上书言宰相权太重。只不过此时李德裕是棵大树，加上有武宗的支持，以牛党的力量难以撼动。此时的李德裕根本没有意识到他正坐在火山口上。
会昌六年三月二十三日，33岁的武宗因服用金丹而死。三天后，宣宗即位。宣宗是宪宗的第十三子，是武宗的叔父。武宗在位，根本不把这个叔父放在眼中，多有不敬。所以宣宗一直对武宗心怀忌恨，并对武宗所器重的李德裕也心怀不满，当李德裕在宣宗登基仪式上奉册完毕，宣宗对侍臣说：“刚才走近我的就是李太尉？他每一次看我都令我毛骨悚然。”李德裕功高震主，却不知功成自退。“卧榻之侧，岂容他人酣睡？”四月上旬，宣宗即位，罢李德裕相，出为江陵尹、荆南节度使。接着宣宗宣布复兴佛教，实际上否定了武宗及李德裕的所有功绩。五月，白敏中拜相，牛党东山再起。第二年二月，白敏中令其党羽李咸诬告李德裕执政时所犯错误，李德裕再贬为太子少保，分司东都。六月，白敏中推荐牛党后期另一重要人物令狐绚为考功郎中、知制诰。十二月，李德裕被贬为潮州司马。一朝天子一朝臣，宣宗王朝，已经没有任何一个人能为李德裕说话，他只有被动挨打的份儿了。