出任了长沙郡的功曹这一职务。由于他工作勤勉认真、能力出众，深得当时的太守孙坚的赏识和器重。孙坚慧眼识珠，将桓阶举荐为孝廉，使其得以踏上更高层次的仕途之路。此后，桓阶又顺利地进入朝廷任职尚书郎，可谓春风得意。然而天有不测风云，正当他事业蒸蒸日上之时，父亲不幸离世。按照传统礼教，桓阶毅然辞去官职，返回家乡守孝。
就在这时，孙坚在战场上遭遇不测，英勇战死。消息传来，众人皆为之震惊和悲痛。而桓阶听闻此事之后，心中悲愤交加。为了让孙坚能够得到安息，他不顾个人安危，勇敢地冒险前往刘表处，苦苦哀求对方归还孙坚的遗体。面对桓阶如此义薄云天之举，刘表也不禁被深深打动，最终答应了他的请求。
时间来到建安五年，此时曹操正与袁绍在官渡一带僵持不下，双方战况胶着，难分胜负。在此关键时刻，桓阶挺身而出，凭借着自己敏锐的洞察力和过人的谋略，成功地说服了时任长沙太守的张羡归附曹操。张羡对桓阶的建议深信不疑，果断决定率领长沙郡以及周边的另外三个郡县一同反抗刘表，并派遣使者前去拜见曹操，表示愿意归顺之意。
后来，曹操经过艰苦奋战终于平定了荆州地区。当他得知桓阶之前曾积极游说了张羡归附之事时，对桓阶的胆识和智谋大为赞赏，从此对他另眼相看，倍加器重。于是，曹操当即任命桓阶为丞相主簿以及赵郡太守等重要职务。随着曹操势力的不断壮大，在其封公建国之后，桓阶再次获得晋升，先后担任了虎贲中郎将以及侍中等要职。
不仅如此，桓阶深知曹操对于继承人选一事一直犹豫不决。为了帮助曹丕登上太子之位，桓阶多次在曹操面前大力称赞曹丕品德高尚、操守优良，具备成为一代明君的潜质。正是因为桓阶坚持不懈地力荐，再加上曹丕本身确实也有着出色的表现，最终使得曹操下定决心立曹丕为太子。可以说，桓阶在曹丕继位这件事情上起到了至关重要的作用。
曹丕继承大统之后，桓阶因其卓越才能与忠诚表现，得以连连升迁。先是荣升尚书令一职，紧接着又兼任侍中之位，并获封为高乡亭侯。他凭借着自己的智慧谋略以及对曹魏政权的坚定支持，逐渐成为了曹丕最为信赖的心腹重臣，堪称是曹丕所倚仗的寄命之士。