杨素是北周的车骑大将军，他才华横溢，不拘小节，当杨坚在北周辅政时，杨素和他倾心相交，深得杨坚器重，杨坚废周建立隋朝后，杨素更是接连升迁，官至上柱国，御史大夫。
隋朝建立不久，杨坚就献计攻打南陈，深受隋文帝杨坚的欣赏，任命他为信州总管，赐给他大量钱帛，作为伐陈的准备经费，杨素在长安驻扎，建造大船，准备渡过长江伐陈。588年，杨素被任命为行军元帅，率领军队直扑三峡，趁着夜色掩护，黄龙船数千艘沿江而下，黎明时分，发动进攻，大破陈军，然后，杨素继续率领军队东下，一路过关斩将，所向披靡，为灭陈立下了汉马功劳，也显示了他的军事指挥才能。
杨素不仅是一员大将，而且还具有很高的政治才能。早在开皇二十年，晋王杨广为灵朔道行军元帅时，杨素为长史，杨广就不惜身份，倾心与杨素结交，使杨素成为其心腹，杨广能当太子，大半出乎杨素之谋。杨素向来自以为才高无比，加之官位显赫，从不把其他官员放在眼里，往往有不礼之举，很多同僚敢怒而不敢言。
604年，隋文帝避暑于仁寿宫，将大权交给太子杨广，四月，文帝病重，杨广要求杨素密切监视文帝，以防有变，因为疏忽，杨素误将写给杨广的密信落到杨坚手中，杨坚欲废杨广，杨素急忙与太子杨广密谋，派人杀了隋文帝，使杨广登上皇位，杨素因此立下大功，更加得到隋炀帝杨广的庞信，从此，杨素生活极其奢侈腐化，他在东、西二京都有豪华的住宅。
杨素功高震主，最终被隋炀帝杨广所猜忌，明里照旧恩庞，暗里却唯恐不死，杨素也自知位尊至极，因而生病后不肯吃药，终于病死。
