一个明确的政治方向无疑是成功的关键所在。
对此，刘文静把自己的狱中对策细化，制定了“进取入关、号令天下”的战略。李渊根据这个战略，以入关夺取长安为军事目标，以开创基业、取代隋朝为目标，一步步按部就班地执行。
李渊在晋阳起兵之后，开设大将军府，刘文静担任大将军府司马，裴寂担任大将军府长史。
刘文静敏锐地指出，李渊的军事行动虽然浩大，但北方的突厥却是心腹之患。因此，他主动请求前往突厥，为李渊解决这个麻烦。
到达突厥之后，刘文静靠着三寸不烂之舌，成功说服始毕可汗与李渊合作。
他既解决了李渊老巢晋阳的后顾之忧，又带回了2000匹战马和数百名突厥骑兵，可谓功德圆满。
李渊围攻长安时，刘文静又担任将领的角色，负责防守隋朝大将屈突通。
当时，刘文静认为潼关是战略要地，因此将大军转移到潼关以西，企图与隋军大将桑显和交战。刘文静率众顽强抵抗，随后乘敌军松懈之际，派遣大军绕道，直接击溃了隋军主力。
屈突通见势不妙，准备逃奔洛阳，刘文静率军在后面彻夜追击，最后成功俘获屈突通，为唐军最终攻下长安立下汗马功劳。
武德元年（618年），李渊接受杨恭仁的建议，建立唐朝，是为唐高祖。刘文静被任命为尚书右仆射，成为宰相。他作为太原元谋功臣，还与秦王李世民、裴寂一同得到“免死”的特权，相当于获得两张免死金牌。
然而，武德二年（619年），刘文静随李世民镇守长春宫。刘文静才能在裴寂之上，且屡建军功，但地位却远不如裴寂。他心中不平，在议论朝政时与裴寂对立。
于是，昔日的好友也成为了仇人。后来，刘文静与兄弟刘文起饮酒后口出怨言，拔佩刀砍着厅柱，声称要斩杀裴寂。
恰巧家中几次发生“妖邪”之事，刘文静招来巫师在夜间披发衔刀做法驱除妖孽。刘文静有个失宠的小妾，将此事告诉其兄，让他向皇帝告发，诬称刘文静谋反。唐高祖将刘文静交付大理寺，命裴寂与萧瑀审讯。
刘文静面对审讯直言：“太原起兵时，我是司马，与裴寂地位相当，而今裴寂官居仆射，我的官衔与