曹操趁着袁绍战败，整顿军马，一路缓缓追击。袁绍戴着头巾、穿着单衣，带领八百多骑兵，逃到黎阳北岸，大将蒋义渠出营寨迎接，袁绍把之前兵败的事情告诉了他。蒋义渠于是召集离散的士兵，众人听说袁绍还在，又像蚂蚁聚集一样纷纷归附，袁绍的军势再次振作起来，大家商议着返回冀州。行军途中，夜晚在荒山中宿营。袁绍在营帐中听到远远传来哭声，就悄悄前去倾听。原来是战败的士兵聚在一起，诉说着丧兄失弟、弃伴亡亲的痛苦，一个个捶胸大哭，都说：“如果当初听了田丰的话，我们怎么会遭遇这场灾祸！”袁绍非常后悔，说：“我不听田丰的建议，才兵败将亡。如今回去，有什么脸面见他呢！”第二天，袁绍上马正走着，逢纪率领军队前来迎接。袁绍对逢纪说：“我不听田丰的话，才导致这场失败。我现在回去，羞于见到他。”逢纪趁机进谗言说：“田丰在狱中听说主公兵败，拍手大笑说：‘果然不出我所料！’”袁绍大怒道：“这个浅薄的书生怎么敢笑话我！我一定要杀了他！”于是命令使者拿着宝剑先到冀州狱中去杀田丰。
田丰在狱中，一天，狱吏来见他说：“向您道喜啊，田别驾！”田丰问：“有什么喜事可道贺的？”狱吏说：“袁将军大败而归，您一定会被重用了。”田丰笑着说：“我现在要死了！”狱吏问：“大家都说您要得势了，您怎么说自己要死呢？”田丰说：“袁将军外表宽容，内心猜忌，不考虑别人的忠诚。如果他打了胜仗，心情高兴，或许还能赦免我；如今战败羞愧，我就没指望活下去了。”狱吏不信。忽然使者带着宝剑到了，传达袁绍的命令，要取田丰的首级，狱吏这才大惊。田丰说：“我本来就知道自己必死无疑。”狱吏都流下了眼泪。田丰说：“大丈夫生在天地之间，不能认清自己的主公就去侍奉他，这是没有智慧啊！今天我死，又有什么可惜的呢！”于是在狱中自刎而死。后人有诗写道：
昨朝沮授军中失，今日田丰狱内亡。河北栋梁皆折断，本初焉不丧家邦！
田丰死后，听到这个消息的人都为之叹息。
袁绍回到冀州，心烦意乱，不理政事。他的妻子刘氏劝说他确立继承人。袁绍有三个儿子：长子袁谭字显思，外出镇守青州；次子袁熙字显奕，外出镇守幽州；三子袁尚字显甫，是