洛川中的城堡都被王世充控制，李密率领剩余人马去了洛川最东部的荥阳虎牢关。
李密望着滔滔大河：啊，这地方是我人生飞黄腾达起点站，我能否再一次站起来。望关内关外，何去何从？过金堤关津渡，向北有徐懋功镇守的黎阳仓，可以凭借仓粮再起辉煌。
李密抚项自思量，忽然间想起徐懋功颈项上的伤疤。徐懋功会不会记恨，能容下我吗？
李密踌躇之际，传来消息。王伯当领一部人马退到黄河北岸，现在保据河阳。李密率领部下向西去河阳会合王伯当。
战端未起，谍者先行。唐公李渊刚刚攻取长安，还没登位做皇帝之时，就利用当年的官场人脉在敌对阵营中交朋结友。无论洛阳军、李密军，都有唐公李渊的人脉关系。
李密与王伯当、常何……等等一班将领商议说：“为今之计，南境以大河与王世充为界，北依太行山，东连黎阳徐懋功，休生养息以图进取。”，
有人疑问：“九个多月之前。斩杀逆夫翟让之际，误伤了徐懋功的颈脖子，差一点点被斫死。如今军事失利后去投奔徐懋功，还能以主公与部属的身份相处吗？”
元帅府吏柳爕说：“魏公，你与唐公李密为同祖同宗族，又兼有畴昔之好。虽然没有陪唐公李渊一同起兵，然而魏公抗击东都洛阳官军，阻断隋帝杨广回京都的归路，使唐公不战而据长安。此事亦是魏公你的大功业，何不投靠唐公李渊。”
李密长叹一声说：“谁爱风流高格调，为他人作嫁衣裳？”
“当下交战失利，将士们士气低落。如果是在此长期停留，面对强敌的明争暗斗，恐怕叛乱的人会继续增多。人心惶惶不安，难以成功。”多数将领对独立自主对抗王世充失去信心。
李密转念一想，我领一千人归顺瓦岗寨，借水行舟，最终掌兵百万。如今我还有两万忠诚将士，带两万人进入关中，能否借风使船？
李密说：“我是依赖大家成就了令人瞩目的大事业，如果是大伙儿不愿意坚守太行山的策略，我只能随多数人的意愿，一起西赴长安。”
李密率领二万人马从河阳西进一百多里后，大河南岸仍是洛阳王世充的势力范围，大河北岸己是唐皇李渊统辖地域。每到县城、军府、驿站所在地，已经准备了供二万人的食粮。站站如此，天天如此，唐皇李渊如此周到热情令李密的内心很是感动。
二万大军过了津渡，进入涵谷道，三十里一驿站，军粮军资早已准备齐备了。李密心里美滋滋的想，必竟是同宗族兄弟，才对我李密如此厚待。到了长安城总得封我三公之一，太尉、司徒、司空。最不济也得尚书令。
没有紧急军情，一百几十里涵谷道，缓缓行走了好几天。这日到了潼关，守关将军领长史们来迎接李密军，好吃好喝慰劳李密这二万人马。长史说：“魏公在上，受在下一拜。奉朝庭兵部指令，所有入关兵士都要登记造册，分配到各州各县的军府。”
李密有点茫然若失说：“这是不是把我这二马人马遣散了？”
长史信誓旦旦说：“不是这么回事。关中与关外不一样，全部实行府兵制。在各州各县设立若干兵府，一府兵少则八百人，多则一千二百人。日常吃穿住行军备物资，都从当地的州县税赋中调拨给军府。遇有战事，一声军令随调随走。京城长安没有格外粮食供养军伍人口。”
李密点点头，无可奈何黙认了这样分散军队的驻守方式。两万人马分作若干府兵。分驻到关中各个州县军府。只留一府兵给李密随行侍卫。
十月初八己卯日，李密到长安城见到了唐皇李渊。李渊这个皇帝与杨广皇帝相比较大不一样。李渊一见到李密就称兄道弟，当下许口把表妹独孤氏嫁给李密为妻。
李密看到皇帝李渊性情随意，就问：“陛下，为弟愿意为大唐朝效力。山东连城百座都是我的部属，请陛下封授官职，便于我去招抚这些州县。”
李渊漫不经心说：“不忙、不忙，长途跋涉，需要休息休息。明天早上列班朝堂仪事”
第二天早上，卯时点卯。李密来到大殿，听皇帝李渊宣诏：诏大将军淮安王，李神通为山东道安抚大使，山东诸军受其节度。侍郎崔民干为副使。
李密听了这诏令，头脑嗡一下。唐皇李渊本家兄弟，你这样不地道哇。我的地盘应该我作主，怎么不跟原主人招呼一下呢？
接下来宣诏：李密赐爵邢国公，授勋上枉国，官封光禄卿。
官封光禄卿？李密怀疑是否听错了。没错，就是光禄卿。掌管宫殿门户、皇室膳食、帐幕器物，宴劳荐飨。管皇帝宴请文武大臣。与军事、朝政不搭边。
李密的心凉了，自己元帅府的那一批僚属都没有得到显贵的官爵。元帅府记室魏征原来不受李密重用，到了新的权力环境，必须要放手一搏。
魏征毛遂自荐，上表自请随军，相助淮安王李神通安集山东。
有人主动请战为国效力，唐皇李渊当然喜欢，特地诏见魏征，询问征东策略。
魏征说：“陛下，魏公元帅府散了，其统属郡县有的归降洛阳王世充，有的自主独立，有的徘徊观望。剩下的最大实力派是瓦岗寨三寨主徐懋功。淮安王远征山东，翻过太行山运输军粮非常艰难。黎阳仓有大量的隋朝存仓粮，现由徐懋功镇守。招抚徐懋功归顺大唐，大唐朝庭征抚山东可以事半功倍。微臣与徐懋功有交集，愿意随军效力，劝说徐懋功归顺大唐。”
唐皇李渊一听魏征的策略，连连叫好。“好，魏爱卿，官封山东道按抚使的秘书丞，随军征抚山东州县。”
“陛下，等待淮安王从各州军府召集兵马完毕，时长日久，惟恐夜长梦多生变化。臣欲先致书徐懋功，以免他人捷足先登。”
唐皇李渊让魏征当殿作书，魏征铺纸执笔一挥而就。书曰：自隋末乱离，群雄竞逐，跨州连郡，不可胜数……今公处必争之地，乘宜速之机，更事迟疑，坐观成败，恐凶狡之辈，先人之心，则公之事去矣。
唐皇李密看了魏征的书稿说：“加上一句：固知神器之重，自有所归，不可以力争……”