李渊于公元六一七年七月初四发兵长安，七月十四日到贾胡堡遇雨，这场雨一直下了半个月，到了八月初一才停下来。
雨一停歇，李渊就整顿军队，向霍邑进发。防守霍邑的隋将是宋老生，听这名字好像是一名有着丰富战场经验的老将。可宋老生在战场上是真的一点也不老成，几乎就是个废材，杨侑让他带队迎战李渊，简直就是给李渊送人头，让他练手。
先看一下隋唐双方兵力对比，进攻的唐军三万人，防守的隋军三万人。从人数上看，双方旗鼓相当。但要知道，唐军是一支新组建的军队，这三万人中有二万多人是新招募的。而隋军宋老生所率军队，却是精锐部队。这样看来，双方的力量对比，应该还是隋军占着优势。
关键的是隋军还处于防守状态，在战场上进攻和防守是两种截然不同的打法。防守方多是居高临下的占据优势，所在进攻的一方伤亡率要远高于防守方。所以这场战斗怎么看都应该是宋老生赢面大得多。
最重要的一点是，李渊的唐军是跋山涉水的远征，而隋军是以逸待劳。在这样的形势下，只要宋老生固守霍邑，不让唐军前进半步，就是耗也把唐军耗死在这里。李渊率兵西征，最希望的是速战速决，因为他耗不起。打成持久战，不但唐军的供给会成问题，就连后方的太原也会地动山摇。之前一个突厥进犯的假消息，就差点让这次远征功亏一篑，如果唐军主力真的在霍邑这里陷入持久战，以李密、刘武周那些割据一方霸主的智商，绝对不会放弃太原这块肥肉的。到那时李渊真的是死无葬身之地了。
所以宋老生的策略只是一个字——守。只要他死死地守住，就可以为勤王的其它隋军争取时间，耗不起的李渊只能是败退后撤。
但上天似乎有意眷顾李渊，让杨侑派出宋老生这么个愚蠢的家伙来到霍邑防守。在作战前，李世民就准确地预测到，只要刺激宋老生，他一定会开城出来决战。于是，李渊派人到霍邑城下大骂宋老生。
果然，宋老生不堪被辱，怒气冲冲的带着三万人马，从东、南两门冲出城来。这时李渊和李建成在城东布阵，而李世民在城南部阵。李渊的城东被宋老生冲得猛烈，战脚开始乱了起来。李世民见状，带着骑兵队伍，快速冲向宋老生的后阵。
不得不说李世民真的是一个猛人，不但有谋略，在真刀真枪的战斗中，也毫不畏惧，冲锋在前。他手持双刀，砍杀了几十人，两把刀都砍出了缺口，足见他的勇猛。敌人的血都溅得他满身满脸，看着浑身是血的李世民有如天神下凡一般，勇不可挡，唐军很快又振作起来。
两军混战中，不知是谁大喊道：“宋老生已被抓住了！快跑啊！”
双方军队都在拼死力搏的这种状态下，都是凭着一股子精神在坚持。敌方大喊已方主帅被俘，无论这事情是真是假，对军心的打击都是毁灭性的。估计这种精神胜利法很有可能是李世民事先安排好的，用意就是动摇隋军军心。
这一招数果然奏效，隋军很快就崩盘溃败。李渊事先安排人攻打城门，防守的人赶紧关闭了城门，这样一来，宋老生就是想逃回霍邑城，也是不可能的了。他见隋军大败，无力抵抗，下马跳入沟堑想逃跑，被刘弘基追上一刀杀死。
主帅阵亡，城内隋军也无心抵抗，唐军很快就占领了霍邑。
李渊进入了霍邑后，对那里的隋朝官员大加封赏，官帽子一顶顶送了出去。有人劝李渊不要封那么多的官，李渊说出了一句甚为经典的话，“用官职收买人心，不比用兵要强得多吗？隋朝正是吝啬赏赐，才失去了人心。”
李渊的做法真的很绝，封官这件事，不用花费一分钱，不浪费一兵一卒。只需一纸任命，就可以让一个人，一个城，一个州的人死心塌地地为你卖命，还有什么比这更便宜的事情了？
李渊慷慨的作法，很快就收到了积极的效果。临汾郡、绛郡、龙门、汾阳纷纷投诚归降。
李渊大军到了龙门的时候，刘文静带着突厥的军队五百人和马二千匹赶到了龙门与李渊会合。这让突厥与刘武周勾结攻打太原的谣言不攻自破。
此时的关中地区，隋军的抵抗力量就剩下屈突通防守的河东，以及代王杨侑驻守的长安，其他的地区已是不足李渊所虑。
在围攻河东的屈突通时，李渊集团内部又出现了不同的意见，裴寂等人主张先拿下河东的屈突通，为下步围攻长安解除后顾之忧。而李世民则认为长安隋军无勇无谋，唐军主力应直捣黄龙，进攻长安，回头再收拾屈突通。
其实这两方的意见都是有利有弊，只是裴寂的想法比较老成保守，而李世民的主张则是激进的。李渊在综合考虑之后，决定两方的意见均采纳。分兵两部，留下一部继续围困河东屈突通的隋军。另一部则由自已亲自率领，从龙门渡过黄河，进逼长安。
就在李渊起兵反隋的同时，他的部分亲属在隋帝国的中心地带长安地区，也搞起了事情。李渊的女儿李氏是个不爱红妆爱武装的女人，这个女人充分诠释了虎父无犬女。李氏的老公柴绍在李渊起兵时，跟着李建成和李元吉一起逃到了太原，李氏却没有跟着柴绍等人逃走。
李氏不但没有逃跑，还搞出了很大的事情。柴绍走后，李氏回到鄠县，把自已的家财全部散尽，聚集了一些不要命的强人。李渊的堂弟李神通从长安逃到鄠县，拉拢长安的大侠史万宝等人起兵响应李渊。还有一个胡人何潘进，跑到司竹园那地方做盗贼，聚集了好几万人。
李氏就把这些人组织起来，打下了鄠县，实力也是迅速壮大，隋军几次征讨都被李氏打败。李氏接着扩大战果，把附近的盩厔、武功、始平等县都占领了，兵力达到七万多人。
李渊的另一个女婿段纶，在蓝田也聚集了一万多人起兵反隋，响应李渊。
李渊进袭长安的大军又分作二路，其中李建成带领一路经过朝邑，进占永丰仓，据守潼关，这样就切断了长安与洛阳间的联系，接着李建成部进至灞上，从东面威胁长安。。
另一路由李世民带队，自郃阳、澄城、蔳城进至泾阳，自北面进逼长安。李世民派刘弘基率军攻下扶风，随即南渡渭水，占领长安故城。李氏、段纶、李神通均归附李世民。一路上，隋朝的官吏和地方豪杰群盗如潮水般投靠李世民。到得围攻长安之时，仅李世民的军队就有十三万人，唐军总数已超二十万人。
至此，二十万唐军完成了对长安的合围，隋帝国的都城现在已是李渊的囊中之物。