有能力入主关中的诸多叛军中，李密有洛阳阻隔，薛举、梁师都因刚攻占了许多底盘，尚需时间消化，所以都暂时抽不出身来，而窦建德等人又因距离太远，根本没有可能入主关中。
所以在这时，天下间唯一能进军关中的，便是河东李家了，这或许就是所谓的天命所归吧！
大业十三年（公元617年）五月初一，李渊任命李元吉为太原太守，留守晋阳宫，将一切后方事务，都委托李元吉处理。
五月初二，李渊杖白旗，在军营门前誓师，并向各郡县发布檄文，宣布尊立在长安的代王杨侑为帝，尊杨广为太上皇，然后统帅甲士五万人从晋阳出发，正式进军关中。
李渊进军关中的时间，比原本的历史要早了两个月，而且在原本的历史上，李渊进军关中的时候只有三万盔甲不整的士兵。
而这时的李渊却有兵五万，而且其中左领军府中的的一万五千士兵，要么是随李隐四处征战多年的老兵，要么是从矿工中招来的精锐府兵，战斗力极强，李渊其余的人马，也因为准备充足，所以虽无多少战斗经验，但至少军容整肃，兵甲整齐，与原本历史上的李渊军有着天差地别。
李渊军入关中的最终目标，自然是西京长安了，进军路线主要是一直沿着汾水，走汾水河谷，往西南而行，期间需要经过的要地，有西河郡、雀鼠谷、贾胡堡（今灵石县南，疑为今韩候岭与南关之间）、霍邑（今霍县）、绛郡（今新绛县）、黄河渡口中的龙门、蒲津渡、风陵渡，以及河东郡。
以上所述要地，还只是入关之前的部分，入关之后，要想到长安，还另有其他要地，由此可知，李家要想入主关中，实在不是什么容易的事情。
李渊刚率军从晋阳出发不久，西突厥却派了个叫阿史那大柰的人率其部众跟随李渊出征，人到来的人数虽不多，但却大壮了李渊军的声势。
初六这人，李隐向李渊提议，派他左领军府中的司马领军，率三千五百兵去离石郡攻略其地的稽胡部落，以稳定大军行进时的侧翼。
李渊原本就有打算派通议大夫张纶带大军前去平定离石郡的，所以这时听了李隐的建议后，便也同意了，不过有些不放心的问：“离石民风彪悍，这李靖带只带三千五百人去，会不会太少了？”
李隐对此表示他十分相信李靖有这个能力，只凭三千五百人便能平定离石郡，李渊便没再说什么。
初八，李渊到达西河城，这时李家三兄弟刚攻占不久的城池，此时城中的秩序却一片正常，毫无混乱之像。
李渊慰劳西河的官吏百姓，赈济贫民。凡年纪在七十岁以上的人，都授予散官的职务，其余的豪强俊杰，都根据才能授予职务。
李渊一边询问来人的功劳、才能，一边注册授予的官职等级。一天就任命官员一千余人。接受官职的人都不拿任命状，他们各自拿着李渊所写的官名状离去。