李渊攻占霍邑后，任命女婿柴绍留守霍邑，自己则继续率军南下，前往临汾郡。
隋朝时期，临汾地区被称为临汾郡，临汾郡位于山西省西南部，濒临汾河，东倚太岳，西临黄河，地理位置十分重要，自古为兵家必争之地。是隋朝在山西地区设置的重要行政区域。隋开皇三年（583年），隋文帝杨坚改平河县为临汾县，隋大业初年，改晋州为临汾郡。临汾郡的治所设在临汾县，即今天的临汾市。
隋朝临汾郡的设立，不仅加强了中央对边疆地区的控制，也促进了丝绸之路的繁荣和东西方文化的交流，对中国历史的发展产生了深远的影响。
李渊率领大军抵达临汾，守城官吏王威（非前文被李渊所杀的王威）出城投降，大开城门迎接义军。李渊对他们予以妥善安抚，待遇与霍邑降军相同。这个王威的投降行为，不仅体现了他对时局的敏锐洞察力，也为李渊的军事行动提供了重要支持。同时也可以看出李渊在隋末兵变中的领导能力和军事才能，以及在隋朝官员中的影响力。
临汾的不攻自破不仅为李渊的大军打开了通往关中的道路，减少了攻城掠地的阻力，也为后续的军事行动提供了便利。
此时后方传来消息，隋炀帝下诏命令左御卫大将军、涿郡留守薛世雄率领燕地的精锐士兵三万人去讨伐李密，并命令王世充等将领都接受薛世雄的指挥，沿途遇到的盗贼可以随意诛杀。
薛世雄（555年-617年），字世英，河东汾阴（今山西省万荣县）人，隋朝着名将领，出身于河东大世族，其父薛回是北周泾州刺史、舞阴郡公。他自幼性情凶狠好斗，喜欢玩军事游戏。在17岁时，薛世雄随北周武帝讨伐北齐，因军功卓着被授帅都督，开始了他的军事生涯。
大业四年（608年），薛世雄被任命为玉门道行军大将，与东突厥首领启民可汗联合进攻伊吾国。薛世雄孤军越过沙漠，伊吾人请求投降，薛世雄在汉代旧伊吾城东筑新城，留下士兵戍守。大业五年（609年），薛世雄从征吐谷浑，进位通议大夫。大业八年（612年），薛世雄奉命率军出沃沮道，与各路大军共同攻打高句丽。在萨水与高句丽军交战，奋勇攻击，将高丽军打败。
公元617年七月，薛世雄受隋炀帝命令