又是关陇集团的代表人物，是打破这一格局的主要障碍之一，杨素的权势与杨广的集权统治形成了直接的冲突，加剧了杨广对杨素的猜忌。
通过杨素之死，我们已基本了解了杨玄感起兵造反的动机。当然，杨玄感的起兵造反，也不只是其父杨素的死与杨广有关，他更担心的是杨广闲暇时腾出手来，再对其家族来个“斩草除根”。正赶上当时隋炀帝暴政不得民心等因素，杨玄感综合考量后决定起兵反抗。
公元613年6月，也就是隋炀帝杨广第二次东征高句丽之时，任命礼部尚书杨玄感在黎阳（今河南浚县）督运粮草。谁知杨玄感趁机联络了部分对隋炀帝不满的贵族和官吏，密谋起兵反隋。
在起兵之前，杨玄感曾试图通过伪造诏书的方式，谎称隋炀帝已经驾崩，以此煽动民心。然而，这一计策很快被识破，无奈之下，杨玄感只好硬着头皮起兵。
他利用家族的声望和财富，迅速招募了一支数万人的军队，与武贲郎将（负责统领皇宫的禁卫军）王仲伯、汲郡（今卫辉市西南）赞治（负责协助地方长官处理政务的官员）赵怀义等人密谋起兵，很快控制了黎阳（今河南省浚县），并吸引了大量农民起义军加入，短时间内，部众迅速发展到十几万人。
在叛军围攻洛阳之际，这场暴动吸引了包括贵族子弟在内的多人加入，尤其是隋朝末年群雄之一李密，这位不可多得的军事人才，成为了杨玄感的军师。
李密（582年－618年12月30日），字玄邃，京兆长安（今陕西省西安市）人，祖籍辽东襄平（今辽宁省辽阳市）。是西魏八柱国李弼曾孙，北周太师、魏武公李曜之孙，司徒、观国公李崇之子。李密自幼受到良好的教育，师从大儒包恺。他曾在隋炀帝身边担任侍卫，但因不满隋炀帝的暴政，称病自免，开始了他的反抗之路（另有记载是隋炀帝杨广继位后，在见到李密时，注意到他的眼白太多，眼神有狡诈之像，告诉左右将他辞退）。
李密为杨玄感提出了三条计策：上计是攻占临榆关，夹击隋军；中计是攻取长安城，号召天下英雄反抗隋朝；下计是夺取洛阳城，争取在第一线和隋军决战。然而，杨玄感认为洛阳是隋朝的中心，拿下这里就能号令群雄，便忽略了上计和中计，偏偏采纳了下计。