隋大业十三年，李渊五十一岁，刚知天命一年。此时，他刚被任命为太原留守。事实上，他在太原干得还算有声有色，前一年，他与马邑郡守王仁恭一同北击突厥，虽然兵少，但是凭借伏击战，他们赢得了胜利。然而，好景不长，年刚过，突厥再次南下。这次，李渊部下王仁恭打了败仗，隋炀帝知道后，以“不时捕虏，遂为边患”的罪名，派人要将李渊囚捕，将王仁恭处死。
杨广和李渊的母亲是亲姐妹，她们是独孤信的女儿。基于这一层关系，李渊也算皇亲国戚，七岁时，父亲去世，袭封为唐国公。隋炀帝杨广很器重李渊，继位后很重要的官职都让李渊担任。后期隋炀帝征伐高句丽还是镇压起义军，都有李渊的身影，可偏偏就是他，成了大隋王朝的掘墓人。
刘文静代表李渊与突厥结盟，足见其人在李渊集团的重要地位。刘文静出使使命完成之后，返回大本营，追随李世民，参加了一系列重大战役。李渊称帝建唐之后，刘文静被封为鲁国公，“陕东道行台仆射，从秦王镇长春宫”。
此时，全国的政治格局已发生大的变化，农民起义军已基本摧毁了隋王朝的统治力量，隋朝的官僚地主也纷纷打起反隋的旗帜割据一方。太原乃“天下精兵处”，隋自建国以来，对晋阳城军需物资的储备一直十分重视，经多年的积蓄，城中已是“府库盈积”，“太原粮饷可支十年”。所以，李渊被任命为太原留守后，曾对次子李世民说：“唐固吾国，太原即其地焉。今我来斯，是为天与，与而不取，祸将斯及。”
听罢刘文静的一番分析，李世民成竹在胸，此刻他要做的只有一件事情，就是彻底地说服李渊起事。但这却是个比较棘手的事情，李渊秉性固执，对于皇权一向不敢造次，对国家一向恪尽职守，想要让他明目张胆地举起起义的大旗，实在是有些困难
这主要是因为民间流传着“李氏当为天子”的谣言，为此，很多李姓大臣都遭到了隋炀帝的滥杀;但是农民起义不断，李渊为了镇压农民起义已经精疲力尽了，再加上这个时候突厥的侵犯，李渊未能在抗击突厥的战斗中取得胜利，这点他想到必会遭到隋炀帝的的责罚。所以在有这样的一个背景下，李渊不得不起兵反隋。
