卫玄的弟弟卫文通等人劝卫玄莫要做的这般决绝，不给自己留回头路，却被兄长大声斥责一番，因此军中无人感言。

卫玄兵出潼关之后，有人担心崤山和函谷关之处有伏兵，请求从陕县沿黄河顺流东下，直奔河阳，攻击杨玄感的后方。

然而此时其军缺少船只，搜寻船只必然耽误时间。

卫玄说道：“依我看来，预设伏兵的计谋不是杨玄感那小子所能想到的。”于是就击鼓前进，出崤谷、渑池。

过函谷关后，正如他所猜测的那样，果真没有伏兵。卫玄派虎贲郎将张峻从南路进发作为疑兵，自己则亲率大军直奔洛阳城北。

而此时杨玄感也得到了老爹坟墓被挖掘的消息。

杨玄感当时就惊了，大家都是文明人，怎么能干这种事。接着杨玄感便放声大哭起来，任谁被挖了祖坟，也会悲痛万分。其余众人闻之，也纷纷唏嘘，毕竟挖祖坟一事，实在超出众人的心里接受。

哭完之后，杨玄感就指天大骂“卫玄狗贼，吾与你不共戴天！”却是要点起兵马，去与卫玄决一死战。

此时杨玄感明显脑袋上头，竟然要全军出击，然而众人都知道他此时的悲愤，也没人敢言，最后还是老将李子雄出言劝动了他。

李子雄是杨素的心腹，多从其征战，数立战功。杨素死后，杨广清洗杨素的旧部，李子雄也因为与新罗使者说话失言，而被弹劾、免职。后来复职之后又因为殿前失仪而获罪被除名为民。

此时李子雄正在来护儿军中效力，杨玄感叛乱之后，杨广对李子雄心生怀疑，下诏命令将他上枷锁送到皇帝行营，李子雄杀死使者逃走，去投奔了杨玄感。

这李子雄资格甚老，因此来到军中，每每以军师自居，反倒是压了李密一头。杨玄感也觉得李密是纸上谈兵，因此便将诸事交给李子雄。李密有些失了杨玄感的信任，甚是落寞。

李子雄建议杨玄感留一部分兵力继续围攻洛阳城，不求破城，而是防止城中部队与卫玄所部汇合。至于主力，则先西向击破卫玄，然后携破卫玄之势再行返回。

杨玄感最后也只得从之，一旦让樊子盖和卫玄二部合流，形成夹击之势，这仗更没法打了。杨玄感乃留兵一部，交给李子雄继续围攻洛阳城，而他本人则率领四万精锐向西而去。

此时卫玄早就布好了阵势，准备围歼杨玄感。

卫玄将军队布置在金谷，准备引鱼上钩。

卫玄命人在军中清扫一片场地，祭祀隋文帝说：“刑部尚书、京兆内史臣卫文升，冒昧昭告于高祖文皇帝的神灵：自从皇家承受天命，到现在三十多年，武功文德，渐渐影响海外。杨玄感辜负圣恩，自作蛇豕，蜂飞蚁聚，犯我王师。臣下我两代受恩，一心侍奉国家，统率熊罴之众，志在剿灭逆党。如果社稷长久，应该让杨玄感这些丑类像冰块一样破碎；如果隋朝大势已去，就请让老臣先死吧！”卫玄词气激昂，三军将士莫不流涕呜咽。

一场决战将要在洛阳城西打响。