武德八年(公元265年),突厥进攻太原,李靖率领一万江淮精兵北上,驻守太谷,与突厥的军队展开血战。此次参战的其它唐军部队损兵折将,唯独李靖所部得胜而还,此后,他得以全面参加反击突厥的战争。武德九年,突厥进攻灵州,李靖率部在青铜峡附近与颉利可汗血战一日,打退了颉利可汗。李靖担任了灵州大都督,承担了大唐北方防御的千斤重担。
在玄武门之变发生之前,李世民曾派人去征求李靖的意见,李靖表示了中立的态度。军人不干预朝政,本是一位将军应有的操守。李世民是一位杰出的帝王,当然理解李靖的所作所为,他即位后,马上任命李靖为刑部尚书,后又代理中书令,使李靖成为名副其实的宰相。
唐太宗执政之后重用李靖,李靖也非常尽心报效。唐贞观三年(公元629年)冬十一月,唐太宗任命李靖为行军总管,李靖奉诏率大军十余万分六道征讨东突厥。
贞观四年正月,李靖带领三千精锐骑兵,夜袭东突厥颉利可汗的牙帐,颉利可汗以为来的是大唐倾国之兵,慌忙逃跑,一直跑到今天的内蒙古二连浩特西南,定襄落入了李靖手中。捷报传到长安,唐太宗十分欣慰,“当年李陵以五千步卒血战匈奴,虽败犹荣,今天李靖以三千骑兵就威振北方,实在是闻所未闻,当年渭水之盟的耻辱一战而雪。”
李靖率领一万精锐骑兵悄悄跟在唐俭后面,在唐俭和颉利可汗握手言欢的时候,发动突然袭击,唐军所向披靡,斩首一万多级,俘虏突厥男女老少十八万人,缴获牲畜数十万头。颉利可汗的妻子隋朝义成公主被唐军所杀,颉利可汗拚命逃窜,却未能逃脱。
贞观四年三月,颉利可汗被唐军俘获,曾经不可一世的东突厥汗国灭亡。大唐威振四方,万国景仰。在庆功宴上,李世民亲自起舞,李渊用琵琶为之伴奏,举国欢腾,共同庆祝大唐帝国的旭日东昇。
然而,此时李靖却遭到诬告,御史大夫温彦博弹劾他纵兵掳掠,把突厥珍物一抢而空。在唐太宗面前,李靖没有为自己辩解,诚恳谢罪。唐太宗喜欢名将这种为人处世的态度,奖其功,赦其过。不久,唐太宗明白了事情的真相,知道李靖并没有染指任何突厥珍物,就坦率地向李靖认错:“以前有人在我面前说你的坏话,我偏听偏信,现在我知道那些都是小人的谗言,请你不要把这事放在心上”。他赐绢二千匹,拜李靖为尚书右仆射,参与国家大政。
饱读史书的李靖当然知道,在英明神武的唐太宗面前,恪守君君臣臣的礼仪最为妥善,在朝堂之上,他“恂恂然似不能言”,从不乱发意见驳斥那些诬陷他的人,老成持重,博得了“一代楷模”的赞誉。贞观八年(公元634年),李靖以足疾请辞宰相之位,获得恩准,但唐太宗仍然请求他每隔几日去参加宰相会议。