为梓州刺史。
九月十九日，张说靠着平叛大功得以重返朝班，升任兵部尚书，成了大唐三军总司令。
十二月，玄宗在原有朔方军的基础上，设置朔方节度使，统管北部边防。下辖单于都护府，夏州、盐州等六州，定远、丰安二军及三受降城。
张说以大唐总司令的身份，兼任朔方战区总指挥。
把如此重要的岗位授予张说，足见玄宗对他的信任与肯定。
张说没有让玄宗失望，继任不久就接连做了三件大事，让玄宗眼前为之一亮。
第一，平定叛乱。开元十年（722年）八月，张说发兵击败康愿子，把六胡州余众全部迁到河南、朔方所属各州，彻底根除了祸患。
第二，裁减边军。当时的北疆为了应对后突厥，常驻唐军六十余万人。张说经过深入考察论证，认为当前已没有能对大唐构成实质威胁的强敌，奏请裁撤边军二十万，让其各自归乡务农，以减轻国家负担。
如此大规模的裁军，让玄宗难免心生疑惑。
张说许诺：“臣在边疆多年，深知这里情形。将帅不愿裁军，不过是想用于自卫，或是役使士卒为他们做私活而已。兵贵精不贵多，御敌制胜无须太多冗员。陛下如果不信，臣愿以全族百口性命做担保。”
张说的勇于担责，打消了玄宗顾虑，下诏予以实施。
第三，改革军制。大唐军制沿于北魏府兵制，二十从军、六十退伍，战时为兵、闲时为农。在建唐初期，人口少、农田多，且国土面积有限，作战地域大多距家乡不远，士卒既可以保卫家乡不受侵犯，又能够兼顾自家产业，一旦战死还有优厚抚恤，毫无后顾之忧，打起仗来极为彪悍。
而到了玄宗时期，这一形势发生了根本性变化。人口增长过快，农田相应减少，且疆域广袤无边，一直拓展到了绝远之地。府兵制的根基“均田制”遭到严重破坏，士卒们长期在外戍边征伐，家中却仍要缴税服役，以至日渐贫困。军中逃亡事件屡有发生，严重影响了军心士气。
张说深知其中危害，提议改革军制，从社会征募壮士充任侍卫，凡加入军籍的一律免除各类徭役，享受国家优待。
政令一经颁行，不过十天左右就征得精兵十三万。