徐孝嗣出生于公元 453 年，他的表字叫做始昌，还有一个亲昵的小名唤作遗奴。其籍贯位于东海郡郯县，也就是如今山东省的郯城县一带。这位徐孝嗣，乃是南朝齐时期声名显赫的宰相大人，同时也是司空徐湛之的孙子。
说来也巧，徐孝嗣其实是徐聿之尚未出世便遗留下来的孩子。正因如此，当元嘉三十一年（公元 453 年）那场惊天动地的变故发生之时——刘劭残忍地杀害了徐孝嗣的父亲与祖父，尚在母亲腹中的他却幸运地躲过一劫，未受牵连。然而命运似乎总爱捉弄人，尽管幼子得以幸存，可年轻的母亲却因自身年岁尚小，动起了改嫁他人的心思。为了能够顺利改嫁，她用尽各种方法企图打掉这个腹中胎儿。先是服用药物以求堕胎，而后甚至不惜故意摔倒在地，只盼能一了百了。但令人惊奇的是，无论怎样尝试，这腹中的胎儿都异常顽强，始终安然无恙。最终，历经种种波折后，徐孝嗣还是平安降生到了人世。
时光荏苒，转眼间徐孝嗣已然长到了八岁。就在这一年，按照当时的礼制规定，他顺理成章地继承了叔父徐恒之的爵位，成为了枝江县侯。或许是冥冥之中自有天意，徐孝嗣自幼聪慧过人、容貌俊美，深得宋孝武帝的钟爱赏识。出于对他的偏爱，宋孝武帝更是亲自做主，将自己的女儿康乐公主下嫁于他，成就了一段美满佳话。话说此人被封为驸马都尉之后，起初担任了着作郎一职。此后，他历经数次官职变迁，先是在司空太尉二府担任参军，接着成为安成王的文学侍从，然后又出任骠骑从事中郎并兼任南彭城太守之职，后来还曾担任过太尉咨议参军同时依旧兼任着南彭城太守以及齐国世子庶子等重要职务。
时间来到建元元年（公元 479 年），这一年风云突变，萧道成悍然篡位，改宋立齐，徐孝嗣所承袭的宋朝爵位也因此被无情地削除。然而，进入齐国后的徐孝嗣并未一蹶不振，反而凭借自身出众的才能和不懈的努力再度崛起。
最初，他受命担任晋陵太守，在职期间展现出卓越的治理能力；不久之后，又以宁朔将军的身份出任萧子良的征虏长史，深受器重；随后更是应召回京，相继担任尚书吏部郎和太子中庶子等要职。在此之后，他的仕途愈发顺遂，不仅转任长兼侍中，而且还转任御史中丞，可谓官运