唐憲宗元和三年（808年），權宦吐突承璀要整修安國寺。他依仗權勢，氣焰熏天，說一不二，擅自動工，立了一個功德碑，碑的大小高下與華岳碑相同。碑立起來了，碑文卻還沒有著落。碑文自然是要歌頌皇帝圣明，天下太平，皇恩浩蕩，河清海晏，但這種御制文章也不好作。吐突承璀放出大話：誰能撰寫碑文，就給誰一萬貫錢。有人推薦說，李絳的文章寫得好，這差事就交給他吧。李絳時任知制誥，職責就是專為皇帝起草詔令。

　　李絳聽到消息，不但不感到榮幸，反而說，自古圣帝明王都沒有功德碑，難道是因為他們的功德還不夠嗎？只是因為他們認為不宜歌功頌德而已。于是向唐憲宗上了一道奏章。

　　大概與唐太宗確立的君臣關系及前幾任皇帝從諫如流有關，這道奏章一點不給憲宗面子，直斥功德碑的弊端，現在看起來這個李絳真是膽大包天。

　　“陛下布維新之政，劃積習之弊，行前王所不能行，革歷代所不能革，四海延頸，日望德音。今忽自立碑，以示天下不廣，彰滿假之漸，招矜炫之譏耶？”陛下治國很有成就，有目共睹，現在卻要立功德碑，自我炫耀，難道是想招來天下的譏笑嗎？圣德、皇猷豈是能用一塊碑幾行字所能概括的，如果真要立碑，反而有損形象。高祖、太宗創開元、貞觀盛世，也未立碑，難道陛下的功德還能超過先祖嗎？堯、舜、禹、湯、文、武，皆無立碑之事，歷史上只有秦始皇游泰山立過碑，為百王所笑，萬代所譏，至今稱為失道亡國之主，豈能追秦皇暴虐不經之事，而自損圣德？何況此碑在安國寺內，碑文本應記載與寺院有關的內容，如記載陛下的功德，實在是不倫不類。請陛下罷修。

　　當晚憲宗看了奏章，心中肯定不爽，但李絳說得義正辭嚴，句句在理，只好違心地說了句“李絳是忠臣”，命令把碑拽倒。憲宗看李絳的奏章時，吐突承璀正在旁邊，不高興地嘟囔道：碑體積太大，恐怕拽不倒，慢慢拆吧。實際上是想暫緩執行，心存僥幸皇帝說不定還會改變主意。沒想到憲宗正在氣頭上，沒好氣地厲聲喝道：拽不倒就多用幾頭牛拽！嚇得吐突承璀再也不敢吱聲，只好動用了100頭牛，把自己費盡心機立起來的碑拽倒了。

　　李絳潛心匡時濟世，屢屢上疏，常以唐玄宗先治后亂的歷史經驗為借鑒，用治生于憂危，亂生于放肆的道理勸諫憲宗，勸其選賢舉能，任賢政治，并提出賢則當任，任則當久的主張，他任宰相期間，曾多次建議皇帝削藩平黨，并積極參與謀劃。利用藩鎮內部矛盾，使魏博節度使田興聽命朝廷，在一定程度上消弱了藩鎮勢力。

　　李絳喜實厭虛，在朝勇于犯顏直諫。他曾說：身居國家重要職位，只圖惜身不敢直諫，是臣辜負于君王。若臣子為國為民不看圣上臉色說話，敢于做出不順從圣上的事，而被治罪，是圣上負于臣子。憲宗聽罷很受感動，說道：卿告朕以人所難言者，疾風知勁草，卿當之矣。李絳還反對大臣無原則奉迎上意，粉飾太平。為此，常與人爭辯殿上。一次，宰相李吉甫盛贊皇帝威德，李絳當場給予尖刻批評，憲宗贊李絳：絳言骨鯁，真宰相也。

　　李絳在任華州剌史時，還禁止獵捕鳥獸，以保護自然生態。

　　李絳出身趙郡李氏東祖房。唐德宗貞元八年（792年），李絳中進士，登博學宏詞科，授秘書省校書郎。任滿后，補任渭南縣尉。貞元（785年—805年）末年，拜監察御史。

　　元和二年（807年）以本職充任翰林學士。不久，改授尚書主客員外郎。次年，調任司勛員外郎。元和五年（810年），升司勛郎中、知制誥。李絳在朝任職勤勉，以匡救勸諫為己任。

　　元和六年（811年）拜相，為中書侍郎，同中書門下平章事。

　　元和八年（813年），封高邑縣男。李絳因足疾上章請求免職，至次年，被免知政事，授禮部尚書。

　　元和十年（815年），加檢校戶部尚書，出任華州刺史。不久，入朝任兵部尚書。后遭逢母親去世，李絳離職為母服喪。元和十四年（819年），再加檢校吏部尚書，因得罪寵臣皇甫镈，只被任命為河中觀察使（本應授為節度使）。

　　元和十五年（820年），皇甫镈獲罪被貶，李絳重任兵部尚書。新即位的唐穆宗李恒任命李絳為御史大夫。

　　穆宗沉湎于游獵巡幸，李絳在延英殿極力勸諫，穆宗都未予采納。李絳借病辭職，再次擔任兵部尚書。

　　長慶元年（821年），轉任吏部尚書。同年，加授檢校尚書右仆射，判東都（洛陽）尚書省事，充任東都留守。

　　長慶二年（822年）正月，改任兗州刺史、兗海節度觀察等使，仍任檢校尚書右仆射。次年，再任東都留守。

　　長慶四年（824年），于洛陽被加授為檢校司空。

　　唐敬宗寶歷元年（825年），入朝任尚書右仆射。

　　寶歷二年（826年）九月，昭義節度使劉悟去世，臨終留表請求讓其子劉從諫襲任節度使。李絳秘密奏請立即任命靠近昭義軍的一位大臣充任節度使，令其兼程赴鎮，以“疾雷不及掩耳”之勢迫使劉從諫來不及抗命，只能聽命朝廷。但此時宰相李逢吉、宦官王守澄已受劉從諫賄賂，都奏請讓他任昭義節度留后（實際控制了昭義軍），所以敬宗不能采納李絳的主張。

　　李絳奉行正道，在當時頗有名望。但他性格剛直、嫉惡如仇，對待賢者與不肖之人態度判然有別，因此屢遭他人忌恨。一次，李絳與御史中丞王播相遇道中，王播未避讓他。李絳上奏論說事理，敬宗命門下、中書兩省詳議，群臣都支持李絳。但李逢吉庇護王播而厭惡李絳，便罷免他仆射之職，改授為太子少師，分司東都。

　　寶歷二年（826年）十二月，唐文宗李昂即位，召李絳為太常卿。

　　大和二年（828年），以檢校司空銜出任興元尹、山南西道節度使，累封為趙郡公。

　　大和三年（829年）冬，南蠻進犯蜀地，李絳奉詔赴西蜀救援。他在山南西道招募兵卒千人赴蜀，行至中途，蠻軍已退，所募兵卒都返回。

　　山南的兵額素來有規定，招募的兵卒應該全部退伍回家。大和四年（830年）二月十日，李絳晨起理事，召集募卒，說根據詔令遣返他們，依例發給糧餉，募卒一個個怏怏而退。監軍使楊叔元貪財恃寵，怨恨李絳不奉敬自己，于是趁募卒嫌賞賜微薄、眾口喧嚷之際，煽動募卒作亂，以泄私憤。募卒喧噪聚集涌向府署，劫奪庫中兵器沖入使衙。李絳正與幕僚會宴，來不及防備。聽說叛亂立即北逃，登上女墻，衙將王景延力戰抵御亂兵，最終力竭戰死。左右將校請李絳縋城出逃，被他拒絕。李絳隨即與幕僚趙存約、薛齊一同遇害，終年六十七歲。十三日，楊叔元謊奏李絳收取新軍士卒賞賜錢物，以致兵亂被殺。而三省長官為李絳訴冤，諫議大夫孔敏行奏呈楊叔元激怒亂兵事實，文宗方知真相，冊贈李絳為司徒，謚號“貞”。并賜其家屬布帛三千段、米粟二百石。

　　尚書右丞溫造奉命出任山南西道節度使，定計誅殺亂兵八百余人，囚禁楊叔元。溫造將手刃李絳的人，剁為肉醬；并將發布殺害李絳命令的人，處以極刑。取一百首級祭奠李絳，三十首級祭奠王景延等人，其余的全部投入漢江。楊叔元最終被流放康州（今廣東德慶），時人以溫造不殺楊叔元為遺恨。

　　大中二年（848年），李絳本擬與李峴等三十七人共繪像于凌煙閣，但他的畫像最終被唐宣宗留在宮中。