关羽领兵到达汝南后，扎营安置好军队。当晚，有两个细作被抓获带到了营外，关羽仔细观察后发现其中一个人竟然是孙乾。关羽让左右退下，问孙乾：“自从我们溃散之后，一直没有听到你的消息，你为何会在这里？”孙乾说：“我逃难之后，流浪到了汝南，幸得刘辟收留。现在你在曹操那里，我不知道甘、糜两位夫人是否平安？”关羽把事情的经过详细向孙乾说明了一遍。孙乾说：“我听说刘备在袁绍那里，我想去投靠他，但一直没有合适的机会。现在刘、龚两人归顺了袁绍，一起帮助他攻打曹操。幸好你到了这里，我特地引路，来向你报告。明天刘、龚二人会故意虚败一阵，你可以抓紧时间带着两位夫人投靠袁绍，与刘备相见。”关羽说：“既然兄长在袁绍那里，我必定要尽快赶去。只是我担心我斩杀了袁绍的两个将领，怕事情有变。”孙乾说：“我先去探明他们的虚实，然后再来报告给你。”关羽说：“我只要见到兄长一面，就算万死不辞。现在我回到许昌，就辞别曹操。”当晚，孙乾被秘密送走了。
第二天，关羽带兵出营，龚都整装待战。关羽说：“你们为何背叛朝廷？”龚都说：“你才是背主的人，还责备我们？”关羽说：“我怎么背主了？”龚都说：“刘玄德在袁本初那里，而你却投靠曹操，你怎么解释？”关羽没有多言，直接拍马舞刀冲了上去。龚都转身逃走，关羽追上他。龚都回头告诉关羽：“不能忘记旧主的恩情。你快进城，我让给你汝南。”关羽明白了他的意思，驱使军队追杀。刘、龚二人故意装败，四散逃散。关羽夺得了州县，安定了民众，便率军回到许昌。曹操亲自出郭迎接，奖励勇士。宴会结束后，关羽回到家中，在门外向两位嫂嫂行礼。甘夫人问道：“叔叔出征，可知皇叔的消息吗？”关羽回答：“还没有。”关羽退下后，两位嫂嫂在门内痛哭。甘夫人说：“想必皇叔已经不在了！二叔怕我妹妹伤心，所以隐瞒不说。”正在哭泣之间，一位随行的老军听到哭声不断，站在门外说：“夫人请不要哭了，主人现在在河北袁绍那里。”夫人问：“你怎么知道的？”老军说：“我跟随关将军出征，有人在
阵上透露了这个消息。夫人急忙召见关羽责问他：“皇叔从未亏欠过你，现在你受了曹操的恩惠，竟忘记了旧日的义气，不告诉我实情，为什么？”关羽躬身道：“兄长的位置确实在河北。我不敢让嫂嫂知道，担心会泄露消息。这件事需要谨慎筹划，不能急于行动。”甘夫人说：“叔叔应该抓紧时间了。”关羽退下后，思考着应该如何安排，坐立不安。
于禁得知刘备在河北的消息后，立即向曹操报告。曹操派张辽前来探听关羽的意图。关羽正坐在那里沉思，张辽进来向他贺喜，说：“听说兄长在阵上得知了刘备的消息，特地前来祝贺。”关羽回答说：“虽然吾主还在，但未曾得见一面，有什么可喜之处！”张辽问：“兄长与刘备交情，与我与兄交情相比如何？”关羽回答说：“我与兄长是朋友的关系；我与刘备既是朋友又是兄弟，兄弟之间又是主臣与君臣的关系，怎么能够拿来共同讨论呢？”张辽说：“现在刘备在河北，兄长要去吗？”关羽说：“既然早先有过的约定，怎么能够违背呢！请替我向丞相致意，希望文远能够为我传达。”张辽将关羽的话回告曹操，曹操说：“我已经有计划留住他。”
与此同时，关羽正思考着，突然有人报告说有一位故人前来拜访。关羽请他进来，却发现彼此并不相识。关羽问道：“公是何人？”对方回答说：“我是袁绍部下的南阳陈震。”关羽大为惊讶，连忙让左右退下，并问：“先生来此必定有所图谋吧？”陈震递给关羽一封书信。关羽看了之后，发现是刘备的书信。书信中简单地写道：“备与你从桃园结盟，誓言同生共死。如今你我中途相违，割断了恩义？如果你想追求功名和富贵，愿意献上我的首级来完成你的目标。言语无法尽述，等待你的决定。”
关羽看完书信后，大哭道：“我并不是不想寻找兄长，只是不知道他在哪里。怎么可能为了追求富贵而背弃旧盟呢？”陈震说：“刘备非常期待见到关公，既然你不违背旧盟，应该尽快前往见他。”关羽说：“人生在世间，没有始终不变的事情，如果不是君子的话。当初我来的时候很明白，离开的时候也要明白。现在我写信，麻烦你先通知兄长，容我辞别曹操，带着两位嫂嫂前去见他。”陈震问：“如果曹操不同意，你怎么办？”关羽说：“宁愿死，也不愿久留于此！”陈震接过关羽的回信，准备回去通知刘备。
关羽进入内宅告知两位嫂嫂，随后前往相府向曹操告别。曹操得知关羽的来意，便挂起回避牌，表示不见。关羽怏怏而回，命令旧日的随从人役整理车马，并分别向宅中的人交代，将所有原来赐予的物品都留下，一毫不可带走。次日，关羽再次前往相府道谢，门前又挂起回避牌。关羽连续去了几次，都无法见到曹操。于是他前往张辽的家中探听情况，但张辽也借病不出。关羽心想：“曹丞相不容我离去，我已经下定决心，怎么还能留下！”于是他写了一封书信辞谢曹操。
信中大致写道：“我少年事刘备，誓同生死；天地神灵都知道这个事实。前段时间下邳失守，所请的三个请求已经得到恩准。现在得知故主刘备在袁绍军中，回想起昔日的盟约，怎么能违背呢？虽然新恩厚重，旧义难忘。特此书信告别，希望能够得到理解。对于尚未报答的恩情，愿在将来等待机会。”写完后封好，派人送到相府；同时将多次收到的金银财物一一封存于库中，将汉寿亭侯印挂在堂上，请两位嫂嫂上车。关羽骑上赤兔马，手提青龙刀，带领旧日的随从人役护送车队，径直朝北门而去。门吏拦住他们，关羽怒目横刀，大喝一声，门吏纷纷退避。关羽一旦出门，对随从人役说：“你们护送车队先行，如果有人追赶，我自会应付，不要惊动两位嫂嫂。”随从人推着车，沿着官道向前进发。
曹操正在讨论关羽的事情还未决定之际，左右传来关羽的书信。曹操看完后大为惊讶地说：“关羽已经走了！”突然北门守将飞奔而来报告：“关羽夺门而去，车队和鞍马二十多人都朝北方行进。”还有关羽宅中的人前来报告说：“关羽将所有赐予的金银等物都封存起来，美女十人分别居住在另外的内室。汉寿亭侯印挂在堂上。丞相所安排的人役都没有带走，只带走了原来的随从人和随身的行李，从北门离开了。”众人都感到震惊。一个将领站出来说：“我愿意率领三千铁骑，去生擒关某，献给丞相！”众人看了他，发现是将军蔡阳。正是：想要离开万丈蛟龙的巢穴，又遇上了三千狼虎兵。