第二阶段从唐宪宗李纯永贞元年至元和末年(805～820)，是讨伐叛镇的时期。
永贞元年(805)八月，唐宪宗即位，在他祖、父十多年努力之后，中央军力和财力都有了一定基础，他开始执行削藩政策。
元和元年(806)，剑南西川节度使刘辟求兼领三川，因朝廷不许，就发兵攻击东川节度使治所梓州(今四川三台)。宪宗即派高崇文统率神策军出征，很快平定。
同年，还平定夏绥节度使杨惠琳的叛乱。次年，镇海(又名浙西，今江苏镇江)节度使李锜叛变，宪宗调邻道兵徵讨，李锜被部将所杀。
这几次平叛的胜利，使宪宗及主战派大臣增犟了信心。
四年，成德节度使王士真死，其子承宗自为留后，宪宗以宦官吐突承璀领兵讨伐，没有取得胜利，只得暂时妥协，承认承宗继位。
七年，魏博节度使田季安死，子从谏年幼继位，军中推立大将田兴(后改名弘正)，田兴表示服从中央，遵守法令，申报户籍，请朝廷任命管内地方官，送从谏入京。长期割据的河北三镇中出现了一个突破口。
淮西自李希烈被部将陈仙奇所杀后，吴少诚又杀陈仙奇，仍然割据自雄，继位的是另一个淮西大将吴少阳。
九年，吴少阳死，子吴元济自领军务，在对淮西镇的处置上，朝中大臣分为主战、主抚两派。宪宗主战，徵集邻道军队围攻淮西。淄青、成德两镇暗中支持淮西，派人焚烧河阴转运仓，刺杀宰相武元衡，刺伤御史中丞裴度，企图阻止朝廷进攻，但宪宗没有动摇，以裴度为相，坚持平叛。这是藩镇势力和唐朝中央的一次大决战。由於平叛军队中有不少将领迁延观望，作战不力，战争拖了四年。宰相裴度亲临前缐督师，十二年十月，唐邓节度使李愬雪夜袭克蔡州，擒吴元济，取得最后胜利。
次年宪宗又发兵攻淄青，十四年二月，淄青将刘悟杀节度使李师道降唐。
於是成德王承宗、卢龙刘总相继自请离镇入朝，朝廷另委节度使，长期割据的局面似乎都解决了。