然能够妙笔生花，而且武艺精湛身手不凡。随着年龄渐长，他凭借自身出色的才能以州主簿这一职位踏入仕途，并被授予骑都尉之衔。
在晋元帝统治期间（即从 317 年至 323 年这段时间里），桓彝的官运亨通一路高升，先是调任中书郎一职，紧接着又荣升为尚书吏部郎。然而，好景不长，当时王敦专权擅政，搞得朝廷上下乌烟瘴气混乱不堪。正直刚毅的桓彝对此深恶痛绝，义愤填膺之下毅然决然地辞去官职，以示抗议。
到了太宁二年（也就是公元 324 年）的时候，晋明帝颁布诏书下令征讨已经病入膏肓的王敦。在此关键时刻，桓彝临危受命，被任命为散骑常侍，肩负起了为国除奸的重任。
平定王敦之乱后，由于战功卓着，他被加封为万宁县男这一封号，可谓是荣耀加身。当时，宣城一带局势动荡不安，时常有各种变乱事件发生。在此情况下，有人向朝廷举荐了桓彝，认为他具备卓越的才能，可以胜任宣城太守一职，负责治理这片混乱之地。然而，一开始的时候，晋明帝对于这个提议并未应允。但后来又有人再次力荐桓彝，经过一番深思熟虑之后，晋明帝终于决定让桓彝补上宣城内史之职。
此后，桓彝走马上任，全心全意地投入到对宣城的治理工作当中。他凭借着自己出众的才智、果敢的决策以及勤勉的作风，使得宣城在短时间内便焕发出勃勃生机。郡内的生产得到了极大的发展，农业丰收，商业繁荣；而老百姓们也过上了安稳平静的日子，社会秩序井然有序。正因如此，桓彝在当地赢得了极高的声誉，人们对他的政绩赞不绝口，史书更是称赞他“颇有政声”。
时光荏苒，转眼间来到了咸和二年（公元 327 年）。就在这一年，镇守一方的将领苏峻，以朝中大臣庾亮独揽大权、专横跋扈为由，悍然发动叛乱，并亲率大军直扑京城南京，这场动乱在历史上被称为“苏峻之乱”。得知此消息后的桓彝义愤填膺，毫不犹豫地立即集结起一支忠义之士组成的军队，准备赶赴南京去讨伐叛军。与此同时，他还迅速做出部署：一方面，派遣手下得力战将朱绰率军前往芜湖，主动出击迎击叛军；另一方面，则紧急向朝廷呈报当前严峻的军情，请求支援。
此时，坐镇于南京城中的庾亮得知苏峻来