在黄明远向西追击杨玄感残部的同时，洛阳周围的隋军也分别向洛阳周围的叛军发起了反击。
杨玄感的叛乱，虽然声势浩大，影响深远，但其实其叛军的战斗力很是有限。尤其是其中一批精锐早就让杨玄感挑选干净，因此位于洛阳的十余万叛军，不过是一群不会打仗的农夫和一群老弱病残，根本算不得军队。
这些人一部分是投机，一部分是被裹胁，并不能完全当做叛军来对待。
黄明远当初到达洛阳城之后，担忧樊子盖这个屠夫会杀红了眼，不分良莠一口气屠杀尽这些叛军，因此便以其兵败落架沟为名，夺了他的兵权和处理善后事务的权利，只命其维持洛阳城的运转。
樊子盖也是无理，只得怏怏地交出了兵权。
而洛阳城的防务和河南郡的善后，黄明远则全部交给了张方翼。
张方翼本就是河南少尹，也熟悉情况，其分批、分类的安置叛军百姓，尽量减少杀戮，降低争议，将变乱消弭于未发生之前。
不久之后，东来的隋军也先后攻下了荥阳和虎牢关，抵达洛阳，而伪将韩世谔、顾觉等人皆被俘获。
跟着杨玄感造反诸人之中，地位最高、名声最显赫的，除了李子雄便是韩世谔。
韩世谔身为名将韩擒虎的儿子，又曾担任过凉州总管，也算是一位大将。当初他因为杨广变更爵位制度而丢了爵位，又没有官职，因此对杨广愤恨不已。这一次听闻杨玄感起事，不辨局势，便一怒之下，愤而起兵。他原以为能恢复祖宗荣光，可是杨玄感对其并不信任，也不委以重任，只是以韩世谔率兵三千，东进荥阳郡。
韩世谔闻此，心凉了一半，说好的中流砥柱，国之栋梁呢。
只是自己造的反，哭着也得继续下去。
韩世谔也是有本事的人，此时此刻，他硬着头皮，一路东进，直抵荥阳城下。
荥阳城大门紧闭，城中的郡守与当地的世家大族为了明哲保身，选择既不纳韩世谔也不与韩世谔交战。荥阳为洛阳东面之门户，本为拱卫洛阳之要地，但当地的世家担心改朝换代的风险，只得选择等待洛阳的战果。
韩世谔手上三千人马，难以破城，但他可不愿等着城中守军发善心。为了破城，他便暗地里联系自己的堂弟荥阳郡丞韩孝范。
韩世谔本是过继给韩擒虎的，其父是韩擒虎的弟弟名将韩僧寿，韩孝范与韩世谔实为一奶同胞的亲兄弟。
韩孝范也是胆大，在城中众人还在争论之时，趁着混乱，便突然出手，率领亲信打开城门，迎韩世谔入城。
韩世谔占领荥阳城之后，胁迫城内以郑家为首的大家族，助其守城。此时郑家为首的是族长文城郡太守莘公郑元璹的二弟原归昌县公郑善愿，他们不敢对抗韩世谔，因此只得听从韩世谔的调遣，为其献人献财。
韩世谔得到城中世家的佐助，实力大增，手上的兵力暴涨到万余人，甚至一度派兵向东攻打东郡。
不过好景不长，此时大将军来护儿西来讨逆，荥阳城便是首当其冲。
韩世谔是正儿八经的官二代，又曾做过总管的高官，因此根本看不起来护儿。眼看来护儿身为天子心腹，步步高升，这一次韩世谔铆足了力气要给来护儿一点颜色瞧瞧。
来护儿匆匆西来，装备也不齐全。
韩世谔据城而受，而来护儿则率军攻城，双方在荥阳城展开了一场攻守大战
韩世谔占了地理优势，来护儿占了兵多优势，因此一时之间，谁也无法击败对方。双方在荥阳城相持了近十多日，各有胜负，但来护儿并没有攻下荥阳城。
这时，从洛阳传来的消息打破了双方僵持的局势。
杨玄感兵败西逃。
很快这个消息便秘密流传于荥阳城中，城中各大世家知道，到了该抛弃韩世谔的时候。
这时，以郑家为首的世家大族，秘密集会，聚集私兵，联络城外的来护儿，再次打开了荥阳城的城门，引来护儿入城。
还在苦思对策的韩世谔听到郑家人叛，而来护儿已经入城的消息，心中大惊。不过韩世谔也不傻，他很清楚郑家等人是荥阳的地头蛇，人心皆在郑家，不是他可以比的。此时荥阳城已破，而来护儿兵力远胜于他，再在荥阳与来护儿争夺，胜算不大，因此韩世谔急忙下令全军突围。
此时韩世谔赶到兵营，便调集旧部向西而去，之前新募的军队也被他抛弃了。在韩世谔看来，这些新募之兵，不知道有多少是郑家的人，根本靠不住。因此韩世谔突围，只带自己带到荥阳的三千人马。
不过韩世谔还是高看了自己部队的凝聚力。
其部逃出荥阳之后，各部闻得杨玄感兵败的消息，纷纷溃逃。这些部队也皆是新募之兵，且大多都是农夫，本就对杨玄感没有什么忠诚之心。此时闻听杨玄感兵败，还不四处逃命，唯恐无法与叛军脱了联系。
韩世谔还没到虎牢关，兵马已经逃散了一多半。
韩世谔一路紧赶慢赶地到达虎牢关，原以为能松口气，没想到洛阳之兵竟然已经分兵攻打虎牢关。
关中主将是顾觉，顾觉虽然是杨玄感的心腹，但明显不是一个良将。
裴仁基和来整奉黄明远之命，从金墉城西来，占据偃师之后，兵临虎牢关下。虎牢关虽为天下之险关，但实际上却是防东不防西。
因为虎牢关实际上属于洛阳外围防线之一，朝廷也自是防备有人据关叛乱的危险。隋军很轻松的便攻破了虎牢关西面的城墙、兵营，与顾觉在虎牢关相持。
韩世谔的到来，虽然给顾觉补充了一部分兵力，但并没有太大意义。
韩世谔也尽力帮着顾觉守城，但关中兵马，早就士气丧尽，全无战心，任凭韩世谔和顾觉如何鼓舞，全无作用。甚至不少人到了夜间，便从城墙上缒下，投奔隋军。
等到来护儿主力从东面赶来，双方夹击，虎牢关还是落入隋军的手中，而韩世谔本人也被俘虏。
至此，洛阳与山东郡县的联系被完全打通。