是便开始鼓动李渊造反，不过有些胆小怕事的李渊却是畏首畏尾、顾虑重重，非但没有答应李世民的要求，还将李世民臭骂了一顿，直骂棏李世民狗血喷头，站在那里不知所措之后，李渊才怒气冲冲的拂袖而去。
李世民被李渊臭骂一顿之后立即找到了李渊最信任的裴寂和刘文静二人商议，几人合计之下，便得出了一个结论：李渊这老家伙并非不想造反，（废话，他老兄不想造反才有鬼了。不然杨广也不会说出李渊这家伙生了一窝子反贼出来之类
)只是有色.:.
最后还是裴寂这个家伙出起了馊主意，决定亲自出马劝说李渊，不过这家伙高明的是，他并没有直接的去劝说李渊，而是做了一番策划。以自己地职务之便，在晋阳行宫设宴邀请李渊。
见老友想请，李渊便到了行宫赴宴，美酒佳肴畅饮无数，已经醉得晕了头。忽然门外进来两个绝色的美女。她们一起向李渊敬酒，不一会儿李渊已酪酊大醉。两个美女扶李渊去睡，李渊这老色鬼哪里把持得住。问也不问便将两个美女仍在了床上，然后纵身压了上去，便在那里开始寻找自己年轻时候的雄风。
李渊醒来后闻见一阵异香，他十分惊奇，再一看原来是身边的两个美女在被子里陪着，他那个表弟杨广在晋阳的行宫，心中顿感不妙，一问之下才知道这两个美女竟然是杨广留在晋阳行宫的嫔妃！[]混在大唐之我是罗成2
没想到自己竟然给自家表弟带上了一顶绿油油地大帽子。而且这个表弟还是大隋的皇帝。李渊听说了之后顿时吓得魂飞天外，这个表弟他可是太了解了。你动他什么。甚至是江山他恐怕也是一笑置之，只是谁要是动了或者只是yy一|红刀子出，不把你诛灭九族是不会善罢干休的，当初不就是为了宣华夫人而和他老子翻了脸，最后一怒便将杨坚给剁了吗？（貌似这个是他去抢别人地女人）
李渊想起自己当初跟着杨广讨伐南陈德时候，可是非常爽快的和高颍一起把天下第一美女张丽华给咔嚓掉了，要知道当时杨广可是一心想要将张丽华据为己有的，以他地性格，决不会这么算了，果然杨广登基没有多久高颍就莫明其妙的挂了，自己倒是因为装孙子装得好好好的活着，不过他可不会相信杨广会这么容易忘掉这件事情。
李渊想到这里吓得立即手忙脚乱的抓来自己的衣物穿好，然后便像刘翔一样，用最快的速度穿过了各种障碍，一头冲出了晋阳宫的大门，正好撞上了裴寂，他立即抓住裴寂的衣襟，将裴寂拧了起来，在那里绘声绘色的质问道：“你个臭小子，我和你无怨无仇，还是这么多年地朋友，干嘛害我？”
裴寂立即抓住机会，劝李渊起兵反隋，争夺天下，这时李世民和刘文静也非常凑巧地“路过”，一起钻出来劝起了李渊。
李渊想到自己搞了杨广的两个女人，杨广肯定不会放过自己，为今之计也只有放手一搏，输了地话，也和现在坐以待毙地下场一样被满门抄斩；赢了的话就可以取代杨家成为天下地主人，这才勉强答应起兵。
李渊先是设计，以勾结突厥人为名，除去了杨广的两名心腹、太原副留守、实际上是杨广派来监视他的王威和高君雅二人，而且在大兴为人质的李建成等人也逃了回来，让李渊再无顾忌。
李渊又听从刘文静的计策，派人备了一份厚礼，到突厥始毕可汗那里讲和，约他一起反隋，并且还厚颜无耻的向突厥称臣。始毕可汗觉得这样做对他们有好处，就答应帮助李渊。
李渊稳住突厥这一头，就正式起兵反隋。李渊自称大将军，派李建成和李世民分别做左右领军大都督、刘文静做司马，又把兵士都称为“义士”。他们带领三万人马离开晋阳，向长安进军。一路上继续招募人马，并且学农民起义军的做法，打开官仓发粮给贫民。这样一来，应募的百姓就越来越多了。
唐军到了霍邑，遭到隋朝名将宋老生的拦击。霍邑一带道路狭隘，又正赶上接连几天大雨，唐军的军粮运输中断了。兵士中还纷纷传说突厥兵正准备偷袭晋阳。李渊动摇起来，想撤兵回晋阳去。
李世民对李渊说：“现在正是秋收季节，田野里有的是粮食，哪怕缺粮！宋老生也没有什么可怕。我们用义兵的名义号召天下，如果还没打仗就后撤，岂不叫人失望。回到晋阳，是断断没有生路的。”
李建成也支持他弟弟的主张。李渊这才改变了主意，取消了撤兵的打算。
八月的一天，久雨刚刚放晴。唐军一早沿着山边小路，急行军来到霍邑城边。李渊先派建成率领几十个骑兵在城下挑战。宋老生一看唐军人少，亲自带了三万人马出城。李世民带兵居高临下从南面山头冲杀下来，把宋老生的人马冲得七零八落。宋老生急忙回头想逃回城去。李渊的兵士已经占了城池，把城门关得紧腾腾的。宋老生走投无路，最后光荣战死，以身殉国。
唐军攻下霍邑以后，继续向西进军，在关中的农民军的配合下，渡过黄河。因为自己老公柴绍只顾着逃命而被扔在了长安的李秀宁也招募了一万多人马，号称“娘子军”，响应唐军进关。