弘農楊氏，是南北朝時期的一個超級大家族，而楊素就是出生在這麼一個家庭，其祖父楊暄，官至北魏輔國將軍、諫議大夫；父親楊敷，為北周汾州刺史。

但是到楊素的時候，家境敗落，但是楊素非常勤奮，所以被北周大冢宰宇文護引其為中外記室，後轉禮曹，加大都督。後來又被周武帝宇文邕拜為車騎大將軍、儀同三司。

後來楊素在北周滅北齊的戰爭中屢立戰功，北齊滅亡後，楊素加上開府，改封成安縣公，邑千五百戶，賜以粟帛、奴婢、雜畜。

雖然此時楊素手上權勢已經絲毫不弱，但是比之楊堅還是稍弱，周靜帝繼位後，由於年幼，所以權力都被左丞相楊堅所掌握。楊素知楊堅甚得眾心，且有稱帝之意，於是主動投到楊堅門下。而楊堅也知楊素之才，對其也非常器重，不久便以楊素為汴州刺史。

在楊堅奪位的時候，楊素率兵平定反對之人，如尉遲迥、宇文胄等，也因此被拜為大將軍；後又改任徐州總管，進位柱國，封清河郡公，邑二千戶。

581年，楊堅受禪登基，改元開皇，是為隋文帝，建立隋朝。楊堅稱帝后，加楊素上柱國，讓他參與了隋朝法律的修定。後又率軍南下滅陳、剿平匪患，並大破突厥；後來楊素在隋朝位極人臣，恩寵無比。

但是也因為太過囂張，受隋文帝楊堅所忌憚，後逐步消減楊素權勢；楊素也有自知之明，於是不再處理事務，明哲保身；但是暗地裡，卻助楊廣繼位，是為隋煬帝。

後來楊素又率軍平定了楊諒，煬帝拜他的兒子萬石、仁行，侄子玄挺都為儀同三司，並賜給他們織物五萬段、綺羅一千匹，賜楊諒妓妾二十人。

又升楊素為尚書令，賞賜給他東京上等府第一處，織物兩千段。不久又拜為太子太師，其他職務不變，前後賞賜給他的東西不計其數。第二年又拜楊素為司徒，又改封他為楚國公，食邑兩千五百戶。

同年，楊素在任上逝世。楊廣追贈他為光祿大夫、太尉公及弘農、河東、絳郡、臨汾、文城、河內、汲郡、長平、上黨、西河等十郡太守，諡號“景武”，賜給他載喪的鍂車、為他執斑劍的儀仗四十人，以及鍂車前後的儀仗隊和樂隊，還賜給穀子小麥五千石、織物五千段，派鴻臚卿專門監督辦理喪事，並且下詔書表示哀悼。可謂恩寵至極。

楊素死後，長子楊玄感繼承了他的爵位，楊玄感雖然生性驕傲，但愛重文學，四海知名之士，大多到他門下。楊玄感自因累代尊貴顯赫，有大名於天下，朝中文武百官，大多是他父親手下的將吏；又見朝綱漸漸紊亂，隋煬帝楊廣又一天比一天愛猜忌，他心中不安，於是與諸弟謀劃，準備廢掉隋煬帝，立秦王楊浩為帝。

楊玄感隨隋煬帝征討吐谷渾，回來時到了大斗拔谷，當時隨從官員都很狼狽，楊玄感想襲擊隋煬帝。他叔父楊慎對楊玄感說：“朝士的心還是一致的，皇上還沒有垮臺的跡象，不可胡來呀！”楊玄感這才作罷。

當時隋煬帝喜歡征討，楊玄感想立威名，偷偷求取將領。他對兵部尚書段文振說：“玄感我世代承受國家大恩，得到的寵愛超過了應得到的，如不立功於邊塞，何以塞責？如邊疆有風塵之警，我要執鞭於戰陣之中，立點小功勞。明公你是主管兵革的，我冒昧地把心思告訴您。”

段文振把楊玄感說的話告訴隋煬帝，隋煬帝誇獎楊玄感，對群臣們說：“將門必有將，相門必有相，這話真不假。”於是賜給楊玄感縑彩數千段，對他禮遇更加隆重，楊玄感經常參預朝政。

613年，隋煬帝第二次東征高麗，命楊玄感在黎陽督運糧草；終於按捺不住內心的野心，於是籌劃起兵反隋，成為反隋第一人；楊玄感驍勇力大，每次作戰，他都親自揮舞長矛，身先士卒，呼叫叱吒，眾敵莫不震駭。人們把他比作項羽。

雖然早期勢如破竹，兵鋒直指洛陽，而且還打敗了刑部尚書衛玄；但是後來終究還是在隋朝各名將的圍剿之下，加上決策失誤導致兵敗而死；隋煬帝下令在洛陽將楊玄感分屍，並暴屍三天，又把他的肉切成一塊一塊，放火焚燒。餘黨全被平息。楊玄感的諸弟義陽太守楊玄獎、楊萬碩、楊民行皆被殺。公卿請求把楊玄感的楊姓改為梟姓，隋煬帝下詔同意。

雖然楊玄感兵敗被殺，但是楊玄感此舉卻大大的鼓勵了被隋煬帝壓迫已久的百姓豪傑，隋王朝的統治根基被動搖，野心家們紛紛籌劃起義，最終導致隋朝的滅亡。