兖州。此时的兖州人已经对葛从周的名声闻风丧胆，不敢轻易出战。葛从周见状，便心生一计，他诈称并州和郓州的人来救援，故意引军前往高吴，却在半夜偷偷返回营地。朱瑾果然中计，出兵攻打外壕，却没想到葛从周的军队早已埋伏在此，突然出击，杀敌千余人，并生擒了都将张汉筠。葛从周凭借着这一系列的战功，从怀州刺史历任曹、宿两州刺史，并多次升迁至检校左仆射，成为了太祖麾下的一员猛将。
乾宁三年（公元896年）的五月，并州的统帅再次率领大军侵略魏州，并派遣其子落落率领二千骑兵驻扎在洹水。葛从周闻讯后，立即率领马步二千人前往进攻，他凭借着出色的指挥和士兵们的英勇战斗，几乎将敌军全部歼灭，并在阵中生擒了落落。并州的统帅见儿子被擒，心痛不已，只得哭着撤军。随后，葛从周又与庞师古一同渡河攻打郓州，于乾宁四年（公元897年）的正月成功攻下了该州。他们乘胜追击攻打兖州，恰逢朱瑾出兵在徐州境内，其将领康怀英见大势已去，便献城投降。葛从周因此被授予兖州留后和检校司空的职位，成为了兖州的实际掌权者。
据《玉堂闲话》记载，葛从周在镇守兖州期间，威名远扬，敌人闻风丧胆。河北地区甚至流传着一句谚语：“山东一条葛，无事可撩拨。”这句话形象地描绘了葛从周在当地的威慑力。后来，他又率领万余人渡过淮河讨伐杨行密，展现出了非凡的军事才能和勇气。然而，在到达濠州时，他却得知了庞师古在清口战败的消息，为了保存实力，他不得不急忙撤军。
光化元年（公元898年）的四月，葛从周再次率领军队经略山东。当时并州的统帅率领大军驻扎在邢、洺两地，意图阻挡葛从周的前进之路。然而，葛从周却毫不畏惧，他率军至钜鹿与并军相遇，凭借着出色的战术布局和士兵们的英勇战斗，大败并军，并州的统帅在混乱中逃跑。葛从周乘胜追击至青山口，数日之内连续攻下了邢、洺、磁三州，斩首二万级，俘获将吏一百五十人，战果辉煌。因此，他兼任了邢州留后的职位。十月，他又在张公桥击败了并军的五千骑兵，使得并军的士气再次受到重创。晋将李嗣昭见状，急忙率军攻打邢州，企图挽回败局。然而，在葛从周的猛攻之下，李嗣昭的军队很快便溃不成军，被葛从周大败之，擒