隋朝末期，軍閥割據，民不聊生，農民起義不斷爆發。當天下大亂之時，隋煬帝仍不思進取，反而更加昏庸。
當時，農民戰爭烽火已燃遍全國各地，並逐漸形成以李密、竇建德、杜伏威為首的三支主力農民軍，他們分別活動在今河南、河北、山東和江淮壹帶，以摧枯拉朽之勢瓦解著隋王朝的統治，將隋統治集團及其軍隊主力分隔於江都(今江蘇揚州)、洛陽、長安三處，讓其陷入四分五裂的狀態。壹些隋貴族和地方官吏見隋朝大勢已去，也乘機而起，占據郡縣，建立割據政權，稱王稱帝，隋王朝的統治已是日薄西山、奄奄壹息。晉陽縣令劉文靜向李世民分析當時的形勢說：“現在皇帝遠在江淮，李密圍攻洛陽，各地叛軍不下數萬，在這種形勢下如果有人起來倡呼，取天下易如反掌。太原有許多豪傑，可以集兵10萬，加妳所帶的數萬軍隊，乘虛進入關中，號令天下，就可以成就帝業。”在這種形勢下，早就心懷帝夢的李淵父子就開始做起兵的準備。
太原是西北邊防的重鎮，歷來是兵家必爭之地。隋朝在這裏儲存了大量布帛糧谷，這為起兵提供了物質保證。李淵赴晉陽上任時，留長子李建成、四子李元吉於河東，暗結英俊，以擴大自己的力量；次子李世民隨侍晉陽，李淵也授意他密招豪友，廣攬人才，晉陽令劉文靜、晉陽宮監裴寂、行軍司凱武士鸌以及逃避征遼、負罪在逃的右勛衛長孫順德、右勛侍劉弘基、左親衛竇琮等人亦紛紛投靠李淵，皆勸其盡早起兵稱帝。
大業十三年（617年）五月，太原留守、唐國公李淵在晉陽起兵，十壹月占領長安，擁立隋煬帝孫子楊侑為帝，改元義寧，即隋恭帝。李淵任大丞相，進封唐王。義寧二年（618年）三月，隋煬帝在江都被叛軍宇文化及縊弒。
隋煬帝壹死，李淵擁立的代王楊侑明白自己的傀儡皇帝生涯已經接近尾聲，年輕的隋朝末代帝王把已經日漸破碎的大隋江山交到李淵手裏。隋帝楊侑下詔讓李淵戴皇帝用的有十二旒的冕，並立天子的旌旗，像天子那樣出入警戒，禁止行人來往。王後、王女的封號，都依照舊規辦理。又派遣使持節、兼太保、刑部尚書、光祿大夫、梁郡公蕭造，以及兼太尉、司農少卿裴之隱將皇帝的印璽進獻給李淵，李淵貌似謙虛，不斷推讓。百官聯名上表勸李淵即帝位，李淵還是沒有接受，經再三上表，李淵才接受。隋帝楊侑就退位居於舊府第。
李淵的起兵真是借了天時地利人和的光了：隋煬帝遊走揚州，流連江南窮奢極欲忘掉了江山，最後被近臣所弒，群龍無首，大丈夫當待時而動，多少豪傑都揭竿而起了，何況李淵有雄厚的資本呢？這是天時；李淵手中有生力軍，又在帝輦附近，旌麾壹指，就到京城了，這是地利；李世民，雖然年輕卻野心很大，結交豪傑，早作了準備。何況李淵幾個兒子包括女兒女婿都同心協力，這是人和。
公元618年，李淵在太極殿即皇帝位，改國號為唐，以長安為都城，改隋義寧二年（618年）為唐武德元年（618年），隋朝滅亡。揭開了大唐的歷史篇章。