注定了李克用命不該絕，突然天降大雨把火澆滅，李克用這才帶著親兵殺出驛站從城墻順著繩索逃出了城，帶著大部隊連夜離開汴州。
事后李克用向皇帝告狀，皇帝有個屁的辦法，只能“賞”他幾個州讓他自己去取。自此李克用和朱溫的梁子就結下了。
雙方的仇恨到了什么程度呢，即便是在打仗只要有人來求救說是對付朱溫，李克用沒有不應允的，同樣朱溫也是如此。
李克用固然強悍，朱溫也早已不是從前的吳下阿蒙，乃是天下第一強藩，實力雄厚兵強馬壯。和朱溫的幾次交手李克用都沒有占到便宜，還有一個兒子李落落死在梁軍手中。
唐光化四年，朱溫傾巢而出攻入河東，將太原圍的水泄不通，沙陀人向來都是無往不利，何曾有過這樣的危機，李克用幾乎發動全城的男女老少來幫他守城。
老天爺在心里還有那么一點向著李克用的，又是一次的連日大雨，城里李克用不好過，城外的朱溫泡在水里更難過，軍中又爆發了瘧疾只得退軍，這才讓李克用撿了一條命。
在朱溫篡唐之后，眾多藩鎮齊齊譴責朱溫這個亂臣賊子卻紛紛割據稱王，李克用依舊沿用唐朝年號，自稱李唐宗室。
不用奇怪，契丹人都能自稱唐朝正統，李克用自然也能，畢竟他的這個李確就是李唐的李，而且真的上了李唐的宗籍玉牒。
前蜀皇帝偷驢賊王建曾去給李克用勸他改元稱帝，李克用卻說自己一家三代深受大唐厚恩，不敢背唐自立云云，話說的好聽終究不過是為了政治利益，他跟他爹李國昌從前也沒少給唐廷添堵。
李克用沒能和朱溫繼續的糾纏下去，在朱溫稱帝的第二年一月，李克用便撒手人寰，死之前仍不忘和朱溫的仇怨，他拿出三支箭給兒子。
第一支箭是讓兒子討伐幽州的劉仁恭，倒不是他和劉仁恭有什么深仇大怨，因為得不到幽州就無法南征；第二箭則是要兒子為他收拾曾經與他結拜又背叛了他的耶律阿保機；第三支箭就是指與他有深仇大恨的朱溫；史稱三矢之誓。
不得不說李克用挑對了人，他的這個兒子就是閃耀一時的后唐莊宗李存勖！