话说程昱献上计策说：“关羽有万夫不当之勇，不用智谋是无法战胜他的。如今可以立刻派遣刘备手下投降的士兵，进入下邳城，去见关羽，就说自己是从曹营逃回来的，其他人潜伏在城中作为内应；然后引诱关羽出城交战，我们假装战败，将他引到别的地方，再用精锐的士兵截断他的归路，之后再去劝降他，这样就可以了。”曹操听从了他的计谋，立即命令数十名徐州投降的士兵，直接前往下邳向关羽投降。关羽以为是自己原来的士兵，便收留了他们，没有丝毫怀疑。 第二天，夏侯惇作为先锋，率领五千士兵前来挑战。关羽没有出城应战，夏侯惇就派人在城下辱骂。关羽大怒，率领三千人马出城，与夏侯惇交战。大约战了十几个回合，夏侯惇拨转马头就跑。关羽追了上去，夏侯惇边战边退。关羽大约追了二十里，担心下邳城有失，就带兵往回走。只听得一声炮响，左边有徐晃，右边有许褚，两队人马截断了去路，关羽奋力夺路而逃，两边的伏兵布置了上百张强弩，箭如雨下。关羽无法通过，只好勒马往回走，徐晃、许褚又上前迎战。关羽奋力杀退二人，带领军队想要返回下邳，夏侯惇又拦住厮杀。
关羽一直战斗到傍晚，无路可归，只好退到一座土山上，带领士兵在山头驻扎，暂且休息一下。曹军将土山团团围住。关羽在山上远远望见下邳城中火光冲天，原来是那些诈降的士兵偷偷打开城门，曹操亲自率领大军杀入城中，还让人举火，以此迷惑关羽。关羽看到下邳起火，心中惊慌，连夜几次冲下山来，都被乱箭射回。一直挨到天亮，关羽打算再次整顿人马下山突围，忽然看见一人骑马跑上山来，一看原来是张辽。关羽迎上去说：“文远是来与我交战的吗？”张辽说：“不是的。念及往日与兄长的交情，特地来见你。”于是扔掉兵器下马，与关羽行完礼后，坐在山顶上。关羽说：“文远莫非是来劝我投降的？”张辽说：“不是。昔日承蒙兄长救我，今日我怎能不来救兄长？”关羽说：“那么文远是要帮助我吗？”张辽说：“也不是。”关羽说：“既不帮我，来这里干什么？”张辽说：“刘备不知生死存亡，张飞也下落不明。昨晚曹操已经攻破下邳，城中军民都没有受到伤害，还派人保护刘备的家眷，不许任何人惊扰。曹操如此对待，我特地来告知兄长。”关羽生气地说：“你这话就是为了劝我投降。我如今虽然身处绝境，但视死如归。你赶快离开，我马上就下山迎战。”张辽大笑说：“兄长这话难道不怕被天下人笑话吗？”关羽说：“我为忠义而死，怎么会被天下人笑话？”
张辽说：“兄长现在如果就死，有三条罪过。”关羽说：“你且说说我哪三条罪过？”张辽说：“当初刘使君与兄长结义的时候，发誓同生共死；如今刘使君刚刚战败，而兄长马上就战死，如果刘使君日后东山再起，想要寻求兄长的帮助，却再也得不到了，这难道不是辜负了当年的盟誓吗？这是第一条罪过。刘使君把家眷托付给兄长，兄长如今战死，两位夫人就失去了依靠，辜负了刘使君托付的重任。这是第二条罪过。兄长武艺超群，又精通经史，不想着与刘使君一起匡扶汉室，却只想赴汤蹈火，成就匹夫之勇，这怎么能算义呢？这是第三条罪过。兄长有这三条罪过，我不得不说。” 关羽沉思了一会儿说：“你说我有三条罪过，那你想让我怎样？”张辽说：“如今四面都是曹操的军队，兄长如果不投降，就一定会死；白白送死没有任何益处，不如暂且投降曹操；然后打听刘使君的消息，一旦知道他在哪里，就去投奔他。这样一来，可以保护两位夫人，二来不违背桃园结义的誓言，三来可以留下有用之身：有这三个好处，兄长应该仔细考虑。”关羽说：“你说有三个好处，我有三个条件。如果丞相能够答应，我就立即投降；如果不答应，我宁愿承担这三条罪过而死。”张辽说：“丞相宽宏大量，有什么不能容忍的。愿闻兄长的三个条件。”
关羽说：“第一，我与皇叔发过誓，共同扶持汉室，我现在只向汉帝投降，不向曹操投降；第二，两位嫂嫂那里，请按照皇叔的俸禄标准来供养，所有不相干人等，都不许到她们门前；第三，只要知道刘皇叔的去向，不管多远，我都要立刻前去。这三条中缺了任何一条，我都坚决不投降。希望文远赶紧回去禀报。”张辽答应下来，于是上马，回去见曹操，先说了关羽只降汉帝不降曹操的事。曹操笑着说：“我是汉朝丞相，汉朝就是我。这一条可以答应。”张辽又说：“两位夫人希望按照皇叔的俸禄供养，并且不相干人等不许到门。”曹操说：“我在皇叔俸禄的基础上，加倍供给。至于严禁内外人员随意往来，这是家法，又有什么可怀疑的呢！”张辽又说：“只要知道刘备的消息，即使路途遥远也一定要前往。”曹操摇头说：“那我养关羽有什么用？这件事很难答应。”张辽说：“难道您没听说过豫让关于‘众人’和‘国士’的论述吗？刘备对待关羽不过是恩情深厚罢了。丞相您再施以更优厚的恩情来笼络他的心，还担心关羽不心服吗？”曹操说：“文远说得很对，我愿意答应这三个条件。”
张辽再次前往山上，向关羽回报。关羽说：“虽然如此，暂且请丞相退兵，让我进城去见两位嫂嫂，告知这件事，然后再投降。”张辽又回去，把这话禀报给曹操。曹操立即传令，退兵三十里。荀彧说：“不行，恐怕有诈。”曹操说：“关羽是忠义之士，一定不会失信。”于是率领军队后退。关羽带兵进入下邳，看到百姓安然无恙，径直来到府中，拜见两位嫂嫂。甘、糜二位夫人听说关羽来了，急忙出来迎接。关羽在台阶下拜倒说：“让两位嫂嫂受惊，这是我的罪过。”二位夫人问：“皇叔现在在哪里？”关羽说：“不知去向。”二位夫人问：“二叔现在打算怎么办？”关羽说：“我出城拼死作战，被困在土山上，张辽劝我投降，我提出了三个条件。曹操都已经答应，所以特地退兵，放我进城。我没有得到嫂嫂们的主意，不敢擅自做主。”二位夫人问：“哪三个条件？”关羽把上面提到的三个条件详细讲述了一遍。甘夫人说：“昨天曹军进城，我们都以为必死无疑；没想到毫发无损，曹军没有一个人敢进门。叔叔既然已经答应，何必再问我们两人？只是担心日后曹操不让叔叔去寻找皇叔。”关羽说：“嫂嫂放心，我自有主张。”二位夫人说：“叔叔自己决定就好，凡事不必再问我们这些妇道人家。” 关羽告辞出来，于是带领数十名骑兵去见曹操。
曹操亲自出辕门迎接。关羽下马后入内拜见，曹操急忙回礼。关羽说：“我是一个打了败仗的将领，多亏您没有杀我，我深感您的恩情。”曹操说：“我一直仰慕云长的忠义，今天终于见到您，足以满足我平生的愿望。”关羽说：“文远代我向您禀报的三个条件，承蒙丞相答应，想必不会食言。”曹操说：“我既然答应了，就绝不会失信。”关羽说：“我如果知道皇叔的下落，即使赴汤蹈火，也一定会前去追随。到时候恐怕来不及当面告辞，希望您能谅解。”曹操说：“刘备如果还在，一定会让你去；只是恐怕在乱军中已经身亡了。你暂且放宽心，容我慢慢打听。”关羽拜谢。曹操设宴款待他。第二天，曹操班师回许昌。关羽收拾好车马，让两位嫂嫂上车，亲自护送车辆前行。一路上在馆驿休息，曹操想扰乱他们君臣之间的礼节，让关羽与两位嫂嫂共处一室。关羽却手持蜡烛，站在门外，从夜晚一直站到天亮，毫无疲倦之色。曹操看到关羽如此，对他愈发敬重佩服。
到了许昌后，曹操拨了一座府邸给关羽居住。关羽把宅子分成两院，内门安排了十名老兵把守，自己住在外院。曹操带着关羽朝见汉献帝，汉献帝封关羽为偏将军。关羽谢恩后回到住处。曹操第二天设下大宴，召集众谋臣武士，以对待客人的礼节款待关羽，邀请他坐上座；又准备了绫罗绸缎以及金银器皿相赠。但关羽都转送给了两位嫂嫂，让她们收好。关羽自从到了许昌，曹操对他十分优厚：三天一次小宴，五天一次大宴；又送了十名美女，让她们侍奉关羽。关羽把美女都送到内院，让她们侍奉两位嫂嫂。并且每隔三天，就在内院门外躬身行礼，问候两位嫂嫂是否安好。两位夫人问完皇叔的事情后，说“叔叔自便”，关羽才敢退回。曹操听说后，对关羽又是一番赞叹佩服。一天，曹操看到关羽所穿的绿锦战袍已经破旧，就量了他的身材，取来上等的锦缎，做了一件战袍送给他。关羽接受了，把新战袍穿在里面，外面仍然罩着旧战袍。曹操笑着说：“云长为何如此节俭？”关羽说：“我并非节俭。旧战袍是刘皇叔赐给我的，我穿上它就如同见到兄长的面容，不敢因为丞相新赐的战袍而忘记兄长旧日的赏赐，所以把旧战袍穿在外面。”曹操感叹说：“真是忠义之士啊！”然而嘴上虽然称赞，心里却很不高兴。
一天，关羽正在府中，忽然有人来报：“内院两位夫人哭倒在地，不知为何，请将军赶快进去。”关羽于是整理好衣服，在内院门外跪下，问两位嫂嫂为什么悲痛哭泣。甘夫人说：“我夜里梦到皇叔身陷土坑之中，醒来后与糜夫人说起，想来皇叔已在九泉之下了！所以我们才痛哭。”关羽说：“梦中的事，不可相信，这是嫂嫂思念过度的缘故。请不要忧愁。” 正说着，恰好曹操派使者来请关羽赴宴。关羽辞别两位嫂嫂，去见曹操。曹操见关羽面带泪痕，问他原因。关羽说：“两位嫂嫂因为思念兄长痛哭，我怎能不悲伤。”曹操笑着宽慰他，频频用酒相劝。关羽喝醉了，自己捋着胡须说：“活着不能报效国家，又背叛兄长，枉为人啊！”曹操问：“云长你的胡须有多少根？”关羽说：“大约几百根。每年秋天大约脱落三五根。冬天大多用黑色的纱囊包起来，担心它断掉。”曹操就用纱锦做了个囊，送给关羽用来护须。第二天，早朝时关羽去见汉献帝。汉献帝看到关羽胸前垂着一个纱锦囊，就问是怎么回事。关羽上奏说：“臣的胡须很长，丞相赐给我囊来装它。”汉献帝让关羽在殿上当众把胡须披拂开来，胡须垂到了腹部以下。汉献帝说：“真是美髯公啊！”因此大家都称呼关羽为“美髯公”。
忽然有一天，曹操请关羽赴宴。宴会结束，送关羽出府时，曹操看到关羽的马很瘦，就问：“你的马为什么这么瘦？”关羽说：“我的身体很重，马驮不动，所以常常很瘦。”曹操让左右的人准备一匹马。不一会儿马就牵来了。这匹马全身红如炭火，样子十分雄伟。曹操指着马说：“你认识这匹马吗？”关羽说：“这莫非是吕布所骑的赤兔马？”曹操说：“正是。”于是连马鞍和缰绳一起送给了关羽。关羽再次下拜称谢。曹操不高兴地说：“我多次送你美女和金银绸缎，你都不曾下拜；如今我送你一匹马，你却高兴地再次下拜：为何你轻视人而看重牲畜呢？”关羽说：“我知道这匹马能日行千里，如今有幸得到它，如果知道兄长的下落，一天就能与他见面了。”曹操听后惊愕不已，后悔不已。关羽告辞离去。
后人写诗感叹道：“关羽威风倾三国，是着名的英豪，一宅分为两院尽显义气高。奸相白白用虚礼相待，哪知道关羽不会投降曹操。”