南北朝時期，國家分裂，割據混戰不斷，這使得廣大人民飽嘗了戰亂之苦。他們十分渴望祖國能夠統一，國家能夠安定，社會能夠繁榮。
楊堅之所以能最後奪取北周政權，統一全國建立隋朝，和楊氏的世族地位有着直接的關系。楊氏家族從漢朝以來，直到魏晉、南北朝時期都是名門望族。楊堅是東漢太尉楊震的後代。公元537年，楊堅的父親楊忠追随獨孤信投靠了西魏權臣宇文泰。後來，因在宇文泰執政和宇文覺建立北周過程中功勳卓著，楊忠被賜姓普六茹氏，位至柱國、大司空，封随國公。
公元541年農曆六月，楊堅出生在馮翔般若寺。傳說他出生時也有祥雲出現，然而青少年時期并不見其聰穎過人。由于高貴的家族地位，楊堅念書時上的是王公貴族子弟的專門學校。但是他與衆多的學生相比學業并不理想，常常被别人挖苦，他也深知自己在學術方面不行，時不時地自嘲“不曉書語”。
楊堅不善于念書，但是因為父親是功臣，楊堅在14歲就開始了政治生涯。在北周建立時，因父親楊忠功勞顯赫，楊堅被授予散騎常侍、車騎大将軍、儀同三司的榮譽職銜。當時執政的宇文泰非常賞識楊堅。第二年，北周取代西魏，楊忠為開國功臣，升為骠騎大将軍、加開府。同年，周明帝即位，又封楊堅為大興郡公。公元560年，周武帝即位，19歲的楊堅被任命為随州刺史。公元566年，鮮卑大貴族、柱國大将軍獨孤信意識到楊堅前途無量，便把自己的14歲的七女兒嫁給了楊堅，更提高了楊堅的地位。公元568年，楊忠死，楊堅繼承了随國公的爵位。公元577年，北周滅北齊，楊堅立下戰功，又晉封柱國。第二年，楊堅出任定州總管，不久轉任亳州總管。
楊堅并無突出的功績，地位卻扶搖直上，逐漸引起一些朝臣和貴族的嫉恨。北周初年，宇文護專權，多次想除掉楊堅，都因别人的阻攔而沒有得逞。周武帝親政後，宇文憲曾勸他盡早把楊堅除掉，内史王軌也認為楊堅有反相，但周武帝都沒有予以重視，且又以楊堅的長女作為皇太子妃，進一步鞏固了楊堅的地位。
同時，楊堅也積極利用已有的社會影響，廣泛拉攏關系，以擴大自己的勢力。楊堅在做随州刺史時已與骠騎将軍龐晃結為莫逆之交。後來，楊堅做定州總管，龐晃任常山太守，二人交往更密。楊堅将轉亳州總管時，龐晃勸他就此起兵，建立帝王之業。楊堅握着龐晃的手說：“時機還不成熟啊。”至此，楊堅取代周武帝、自稱皇帝的願望溢于言表。
公元578年，周武帝駕崩，宣帝即位。楊堅的長女做了皇後，楊堅升任上柱國、大司馬，掌握了朝政大權。加上年少的皇帝比較昏庸荒淫，在群臣中沒有威信，于是，楊堅便開始準備取而代之。
周宣帝日夜享樂，為了滿足自己的欲望，不顧朝臣的反對，修建洛陽宮，緻使上下怨憤。楊堅便開始做取代周室的準備工作。有一次，楊堅與好友宇文慶談論時政，預感到北周的統治即将結束，對可能出現的動亂局面進行了充分的估計，并已經做好收拾北周局面的思想準備。
楊堅的活動也曾引起周宣帝的警覺和不安，他甚至曾想殺掉楊堅。但楊堅始終不動聲色，周宣帝既找不到借口，又不願意随便殺死自己的嶽父。
楊堅盡管表面不露聲色，但内心對周宣帝的猜疑也感到不安。楊堅為逃避周宣帝的猜疑，也想在北周動亂時握有實力，打算暫時離開朝廷，到地方上去掌實權。公元580年，時機到來了，周宣帝決定南伐。鄭譯便乘機向皇帝推薦了楊堅，由于皇帝對鄭譯向來都很信任，于是就任命楊堅為揚州總管。
不久，周宣帝病重，召見小禦正劉防、禦正中大夫顔之儀，準備托以後事。二人到時，周宣帝已經不省人事。然而，宣帝的長子宇文衍才8歲，年幼不能主政。劉防為以後飛黃騰達，便與鄭譯商議，共同拟定一個假诏書，稱周宣帝讓楊堅以皇太後父親的身份總攬朝政，輔佐周靜帝。楊堅握有诏書後，控制了京師衛戍軍隊，很快就基本控制了朝廷。
周靜帝即位後，以楊堅為假黃钺、左大丞相，掌握軍事、政治大權。楊堅深知自己的地位還不鞏固，需要采取一系列措施。楊堅首先是建立自己的統治核心。楊堅自任丞相，設丞相府，拉攏真正具備政治才能的高頻等一幫人作為自己的親信。丞相府實際上已代替朝廷為真正的決策機構。楊堅利用掌握軍權的司武上士盧贲，用軍隊的力量暫時壓服了尚未完全清醒過來的朝廷百官。接着，他開始除掉皇室宇文氏的勢力。楊堅初執政時，周宣帝的弟弟宇文贊仍以皇叔身份居上柱國、右大丞相職，在朝廷中與楊堅平起平坐。楊堅指使劉防把他勸回家中，不要過問朝政，答應以後由他做皇帝，隻需在家裡等。宇文贊年輕無才，信以為真。于是楊堅排除了皇室中潛在的幹擾。
但這時真正的威脅是已經成年并各居藩國的宇文泰的5個兒子。他們既有實力，又有影響，一旦起兵，楊堅根本無法控制。在還沒有公開宣帝的死訊時，楊堅便借口召他們回到長安，收繳了他們的兵權印符。宇文泰5個兒子與雍州牧畢王宇文賢聯系，請他起兵，但宇文賢很快就被楊堅擊敗。楊堅明知是宇文泰5個兒子從中搗鬼，卻假裝不知，并允許他們劍履上殿，入朝不趨，以此安定他們。宇文泰5個兒子看到外面指望不上，便尋找直接刺殺楊堅的機會。結果，刺殺未遂後，楊堅将其一一殲滅。
然後，楊堅宣布廢除周宣帝時的嚴刑峻法，停止洛陽宮的營建，以此取得臣民們的廣泛支持。這樣，楊堅在京師的統治已基本穩固。
接下來，楊堅一方面利用自己已經取得的政治優勢拉攏地方将領，對反對者進行分化瓦解；另一方面，投入自己所能控制的全部軍隊，經過半年的戰争，地方武裝反抗被全部平定，楊堅控制了北周政局。
從輔政之日起，楊堅要做皇帝已是公開的秘密。在平定武裝反抗的過程中，楊堅又為鋪平做皇帝的道路采取了一系列措施：宣布自己由左丞相改任大丞相，廢左、右丞相設置，不久改稱相國；讓自己的長子楊勇出任洛陽總管、東京小冢宰，監督東部地方勢力；楊堅由随國公改稱随王，以20州為随國，封獨孤氏為王後，楊勇為世子，随王位在諸侯侯王之上；為進一步削弱宇文氏的影響，廢除所有對漢人的賜姓，令其各複本姓，這一措施得到漢人的普遍擁護。
公元580年年底，楊堅做皇帝的準備工作已基本完成。581年，楊堅派人為周靜帝寫退位诏書，内容極力稱贊楊堅功德，希望楊堅按照舜代堯、曹丕代漢獻帝的典故，接受皇帝稱号，代周自立。诏書由朝廷大臣捧着到随王府送給楊堅。楊堅假意推辭，經過朝廷百官的再三懇求，楊堅才假意同意接受。儀式結束，楊堅穿戴上皇帝的龍袍，在百官簇擁下坐上皇帝的寶座。
楊堅由繼承父親的随國公起家，進稱随王，故把自己新王朝的國号定為随，他又感到随字有走字旁，與走同義，不太吉利，便改随為隋，改元開皇，以長安為首都。
楊堅在天下基本穩定、政治機構完善後，接受大臣的建議，采取了一系列改革措施，來進一步鞏固自己的皇權。
突厥原是活動于中亞一帶的遊牧民族，後來東遷，活躍在蒙古草原。在北齊、北周時，突厥經常向内地侵擾。楊堅初執周政時，采取和親政策，努力緩和雙邊關系。楊堅代周後，突厥力舉南侵，攻略甘肅和陝北一帶，楊堅于公元582年派楊弘、高頻等率兵出擊，打擊突厥的侵擾。楊堅為阻止突厥南下擾民，多次征發民衆大力修築長城，并加強防禦。後來，突厥分裂為東突厥和西突厥。西突厥向西面發展，東突厥接受隋朝的控制，北部邊防漸趨鞏固。
對于長期依附北周的後梁，楊堅開始時采取籠絡政策；當經濟和軍事實力有較大發展并做好了統一江南的準備後，楊堅就不能容忍在自己的疆域内再存在獨立王國。公元587年農曆八月，楊堅邀請後梁帝蕭琮到長安，借機派兵滅掉梁國。
楊堅建隋後，即開始做統一江南的準備。在鞏固了内部，緩和了與突厥的矛盾和滅梁之後，公元588年秋，楊堅共發兵五十多萬，東起海濱，西至四川，沿整個長江沿線水陸并進，向陳國發動大舉進攻。這時，陳國總兵力有數十萬之多，然而君臣整天生活在花天酒地之中，面對隋的全面進攻不甚重視。最終，後主陳叔寶及文武百官全部做了俘虜。南北朝時期持續兩百多年的分裂局面歸于結束，全國再次統一。