在军机阁扩编改组的同时，也对梁山军团进行改编，梁山军团之名保持不变，军团长之职仍由卢俊义担任，林冲、鲁智深分任军团总教习及副军团长，吴用任总军师长，增补朱武、朱贵为副总军师长。
而原军团右总军师长公孙胜不愿受俗事牵绊，对于担任任何职务都已厌烦透顶，就找到王伦要辞去军师长之职，王伦拗他不过,也只得同意，只是又请公孙胜如张叔夜一般，挂个军机阁副总顾问的闲职。
这回公孙胜倒是没有拒绝，只是有个条件，便是他要出去云游，等什么时候再次与金国开战，他再回来，这期间任谁也不得前去寻他，王伦实在拿公孙胜没有办法，只好同意,由他任性来去。
梁山军团各部也重新进行整编，军团原来下辖的五军四师，外加新近并入梁山军团的史文恭部中原义军全部重组，混合改编为六大兵团。
第一兵团由原梁山军团林冲所部第一军改编而成，由林冲任兵团长，刘唐为副兵团长，董平为军师长。
第一兵团组建之后，随即渡黄河北上，只因自从金军南下劫掠之后，河北之境已是残破不堪，留下空城无数,第一兵团北上之后便要立即占据沧州，并以沧州为基础，兵锋前指燕州，镇守山东北方门户。
第二兵团由原梁山军团鲁智深所部第三军改编而成，由鲁智深任兵团长，孙立为副兵团长，徐宁为军师
长。
第二兵团组建之后，立即西进，进驻菏泽地区，屯军于黄河两岸，直抵汴梁东部，镇守山东西部门户，一旦中原形势有变，便可择机西向进军应援。
第三兵团由原梁山军团杨志所部第四军改编而成，由杨志任兵团长，呼延灼为副兵团长，关胜为军师长。
第三兵团组建之后，仍然驻军于北京大名府，扼守中原咽喉之地，与林冲第一兵团互呈犄角之势，共抵抗金一线，绝不容失。
第四兵团由原史文恭部中原义军改编而成，由史文恭任兵团长，石秀、秦明为副兵团长，花荣为军师长。
第四兵团组建之后，立即南下进驻琅琊，暂时屯军观望，日后得机便可兵出山东，潜入徐埠之地，监视江南动静，并与淮西王庆部取得联络。
第五兵团由梁山军团第五军，即李俊所部水军改编而成，由李俊任兵团长，张顺为军师长，下辖四大舰队，由费保、倪云、卜青、狄成分任舰队长。
第五兵团组建之后，李俊亲率费保所部舰队进驻宁海州水师防地，收编宁海水师，清剿海陆盗匪，拱卫海防。
张顺率领卜青所部舰队回防大名府，跨永定河建立水寨，与杨志第三兵团形成门户之势，镇守黄河以北水陆要冲。
狄成所部舰队则走海路随史文恭第四兵团南下，游弋于东海之上，从海面方向对第四兵团形成支撑之力。
改编后的五大兵团均为梁山军团野
战部队，而在五大野战兵团之外，再行组建节度府本部近卫兵团，由赵云任兵团长，史进为副兵团长，调原宿卫师扈成为军师长，下辖龙骧、虎贲、朱雀、玄武四个军。
龙骧军由索超任军长，纳牙阿为副军长，铁木华为军师长，下辖前锋、骁骑、玄甲、陷阵四个旅，分别由韩涛、彭玘、邹渊、邹润为旅长。
虎贲军由雷横任军长，李逵为副军长，穆弘为军师长，下辖先登、善扑、锐健、破阵、神锋五个旅，分别由陈达、燕顺、李云、龚旺、丁得孙为旅长。
朱雀军由张清任军长，凌振为副军长，宣赞为军师长，下辖火、云、风、雷四个旅，分别由魏定国、欧鹏、邓飞、杨林为旅长。
玄武军由阮小二为军长，张横为副军长，阮小七为军师长，下辖神威、驱逐、巡卫、陆战四个()
旅级舰队，分别由阮小五、单廷珪、童威、童猛为旅长。
节度府近卫兵团抽调梁山军团各部精锐组成，总计八万兵力，驻扎节度府本部，由军机阁总部直接指挥，是为梁山军团的中坚力量，其中包含马军、步军、水军、铳炮、战车、攻城等作战部队，可谓兵种丰富，配置齐全。
而在六大兵团之外，直属王伦的宿卫师也进行了改编扩建，由原来的师级建制提升为兵团级，由武松任宿卫兵团兵团长，小舞、小虎为副兵团长，马麟为军师长。