程昱献上计策说：“关羽勇冠万人，不用智谋无法战胜他。如今可立即派遣刘备手下投降的士兵，进入下邳去见关羽，就说是从曹营逃回来的，让他们潜伏在城中作为内应。再引关羽出城迎战，我们诈败，将他诱到别处，用精兵截断他的归路，之后再劝说他投降。”曹操采纳了他的计谋，即刻命令数十名徐州降兵，直接前往下邳向关羽投降。关羽以为是自己原来的部下，收留了他们，没有丝毫怀疑。
第二天，夏侯惇担任先锋，率领五千士兵前来挑战。关羽坚守不出，夏侯惇就派人在城下辱骂。关羽大怒，率领三千人马出城与夏侯惇交战。大约打了十几个回合，夏侯惇拨转马头就跑，关羽紧追不舍，夏侯惇边战边退。关羽追了大约二十里，担心下邳有失，就带兵往回走。只听一声炮响，左边徐晃，右边许褚，两队人马截断了去路。关羽夺路而逃，两边伏兵布置了上百张硬弩，箭像飞蝗般射来。关羽无法通过，勒马返回，徐晃、许褚又上前交战。关羽奋力杀退二人，想带兵回下邳，夏侯惇又截住厮杀。关羽一直战到傍晚，无路可归，只能退到一座土山上，率军驻扎在山头，暂且休息。曹兵将土山团团围住。关羽在山上远远望见下邳城中火光冲天，原来是那些诈降的士兵偷偷打开城门，曹操亲自率领大军杀入城中，还让人放火，以此迷惑关羽。关羽见下邳起火，心中惊慌，连夜几次冲下山，都被乱箭射回。
熬到天亮，关羽打算整顿兵马再次下山突围，忽然看见一人骑马跑上山来，一看原来是张辽。关羽迎上去说：“文远，你是来和我交战的吗？”张辽说：“不是。念及往日与兄长的情谊，特地来见你。”于是扔掉兵器下马，与关羽行完礼，在山顶坐下。关羽问：“文远，莫非是来劝我投降的？”张辽说：“不是。昔日承蒙兄长救我，今日我怎能不来救兄长？”关羽问：“那你是来帮助我的？”张辽说：“也不是。”关羽说：“既不帮我，来这里干什么？”张辽说：“刘备不知生死，张飞也不知死活。昨夜曹操已攻破下邳，城中军民都未受到伤害，还派人保护刘备家眷，不许任何人惊扰。如此厚待，我特地来告知兄长。”关羽生气地说：“你这话就是来劝降我的。我如今虽身处绝境，但视死如归。你赶紧回去，我马上就下山迎战。”张辽大笑道：“兄长这话难道不怕被天