得到了更广泛的认可。十月，他又被任命为绛州刺史，开始了他在地方上的治理生涯。
时间如白驹过隙，转眼间便到了公元909年，开平三年的四月。牛存节再次被委以重任，被任命为鄜州留后。六月，刘知俊在同州反叛，并迅速被任命为同州留后。不久之后，牛存节也被加封为检校太保、同州节度使，他的地位与声望再次提升。
到了乾化二年（公元912年），牛存节又因功被加封为检校太傅，并晋封为开国公。他对军队的要求始终严格，始终保持警惕，就像敌人随时会到来一样。这种高度的警惕性，使得他的军队始终保持着强大的战斗力。
先前，州中的井水都是咸苦的，无法饮用。当并州人、岐州人前来逼近州城时，有人担心士兵会因为口渴而无力抵抗，城池可能会在旦夕之间陷落。然而，牛存节却展现出了他非凡的领导力与智慧。他恭敬地祭拜天地，虔诚地祈祷，然后选择地方开凿了八十多口井。这些井的水都是甘甜的，因此人马都有了足够的饮用水。众人都认为这是牛存节至诚之心的感应，对他的敬仰之情更加深厚。
从八月到第二年的春末，人马都未曾解甲，始终保持着高度的警惕与战斗力。最终，他们击退了敌寇，保卫了家园。牛存节因此被加封为同平章事，并被召见入宫。末帝对他进行了慰问与勉励，并给予了丰厚的赏赐。十一月，他又被加封为开府仪同三司，赐予食邑一千户，同时被任命为郓州节度使。
公元913年，即乾化四年，牛存节的职业生涯再次迎来了新的高峰。他被加封为淮南西北面行营招讨使，负责控制淮河沿岸地区。在他的努力下，边境得以安定，百姓安居乐业。
然而，同年冬天，蒋殷占据徐州反叛的消息传来，打破了这份宁静。牛存节当时正率领大军驻守在颍州，得知蒋殷的逆谋后，他秘密地将情况上报给朝廷，并立即奉诏与刘鄩一同讨伐蒋殷。他们驻扎在埇上，准备迎击即将到来的敌人。
淮南的贼寇朱瑾率兵前来救援蒋殷，距离宿州只有两舍（一舍为三十里）的距离。然而，当他们听说牛存节的大军已经到来时，却立即丢弃了粮食和铠甲，逃跑了。这一幕，无疑是对牛存节威名的最好证明。最终，徐州被平定，朝廷下诏加封牛存节为太尉，以示