他革除陈规陋习，以儒家伦理道德教化百姓，并对不接受教育者绳之以法，几年之内便使得江南弊风尽除。

李德裕还依据方志，整顿当地祠庙，保存供奉前代名臣贤后的祠庙，其余四郡淫祠一千一十所全部拆毁，同时又拆毁私邑山房一千四百六十处，以肃清盗贼。

长庆四年唐敬宗继位，敬宗年少，奢侈无度，虽曾敕令各地不准贡献，但不久便派使者往各地征收贡品。

七月唐敬宗命浙西进贡脂朅妆具，共需用银二万三千两，金一百三十两。李德裕考虑到当时财政困难，向下面摊派又会加重百姓负担，因而上疏朝廷，讲述浙西现状。

请朝廷罢造脂朅妆具，不久，朝廷又命浙西进献盘绦缭绫一千匹，李德裕再次上疏，以太宗命李大亮停献名鹰、玄宗禁止在江南捕鴶诸鸟的故事为鉴戒。

极力劝谏敬宗要以太宗、玄宗为榜样，学习汉文帝简朴的风尚，请求停进缭绫，唐敬宗采纳，但当时李逢吉当政，李德裕始终不能回朝。

宝历二年唐文宗继位，加授李德裕为检校礼部尚书，太和三年李德裕被召拜为兵部侍郎，裴度还打算推荐他为宰相，但吏部侍郎李宗闵因得宦官之助，抢先拜相。

他担心李德裕威胁自己的地位，将他外放为郑滑节度使，李德裕在浙西八年，虽远离朝廷，仍常上疏议政，回朝不到十日，又被李宗闵排挤出京。

幸亏侍讲禁中的郑覃常称赞李德裕，尽管宗闵一党散布流言，文宗征召李德裕回朝任职的心愿却从未断绝。

太和四年李宗闵引荐牛僧孺为宰相，凡与李德裕亲善的官员，都被排挤出朝廷，同年十月，李德裕改授检校兵部尚书、成都尹、剑南西川节度使、管内观察处置使、西山八国云南招抚使。

裴度虽对李宗闵有旧恩，此时也因推荐李德裕，遭到李宗闵的嫉恨，被免去宰相之职，外放为山南西道节度使，牛僧孺、李宗闵一党的权势显赫一时。

当时西川正值南诏入侵之后，民不聊生，而前任节度使郭钊却因病难以理事，李德裕到任后，着手整顿边防。

他用一个月的时间对当地的山川、城邑、道路、关隘，进行调查研究，并绘制与南诏、吐蕃有关的军事地图。

同时，李德裕又遣使入南诏，请求南诏遣返被俘工匠，南诏遂将俘获的僧道、工匠四千余人放回唐朝，他治理西川两年，西拒吐蕃，南平蛮蜒，境内安宁，民生略有恢复。

太和六年唐文宗召李德裕入朝，拜为兵部尚书，同时将牛僧孺罢为淮南节度使。

太和七年二月，李德裕拜相，加授同平章事，进封赞皇县伯，食邑七百户，六月，唐文宗又免去李宗闵的宰相之职，让李德裕接任中书侍郎、集贤殿大学士。

太和八年唐文宗患病。郑注通过宦官王守澄向文宗献药，而李训又通过郑注的引荐，入宫讲解《周易》，都受到文宗的器重。