而此时这些未被收编的官军降卒在梁山上已经住了些时日，也早已瞧到了梁山的好，倒是有大半人不愿意走，便都留在了梁山。
梁山虽是不大，但也是五行八作一应俱全，这些官军降卒或是打鱼种地，或是做工做侍，倒是很快便极其自然地融入了梁山。
而经过重新整编的梁山兵马共有五万余众，便称作绿林梁山军团，由晁盖亲任军团长，王伦任副军团长，军团之下设立四个师以及两个独立旅。
绿林梁山军团第一师为亲卫师，也就是晁盖的直属部队，晁盖自任师长，下辖两个旅及四个团，由绿林总部精锐、归降官军以及原梁山军团部分精锐组成，共计一万人。
其中一旅为骁骑旅，抽调原彭玘所部陌刀军精锐组成，骁骑旅日常行军皆乘马匹，而在作战之时则即可做为骑兵进行马上交锋战，亦可下马组成陌刀阵步下作战，下辖六个营，共三千人，由彭玘任旅长。
二旅为金枪旅，由大破铁甲连环马的钩镰枪手、挠钩手、捆绑手组成，下辖六个营，共三千人，由徐宁任旅长。
亲卫师一团是晁盖的侍卫团，由绿林总部精锐组成，刘唐任团长；二团为刀盾团，由芒砀山绿林人马组成，项充任团长；三团为枪盾团，由芒砀山绿林人马组成，李兖任团长；四团为斥候团，由原梁山军团先锋营扩充组成，薛永任团长；亲卫师四个团各下辖十个连一千人。
梁山军团第二师为全员骑兵师，由新近上山的呼延灼任师长，下辖两个旅及四个团，由归降官军骑兵以及梁山、绿林原有骑兵组成，共计一万人。
第二师一旅为铁甲连环旅，既原呼延灼所部的铁甲连环马军，下辖六个营，共三千人，由呼延灼代任旅长；二旅为前锋旅，即原韩涛所部轻骑以及部分归降官军骑兵，下辖六个营，共三千人，由韩涛任旅长。
第二师一团为玄甲重骑团，由原梁山军团具装重骑营扩充组成，邹渊任团长；二团为陷阵重骑团，由原梁山军团普装重骑营扩充组成，邹润任团长；三团为轻骑团，由原梁山军团轻骑营扩充组成，吕方任团长；四团为弓骑团，由原梁山军团弓骑营扩充组成，郭盛任团长；四个团各下辖十个连一千人。
梁山军团第三师为水战师，也暂由晁盖代任师长，下辖三个旅，抽调原梁山水军、石碣村渔户以及绿林水师组成，总兵力一万人。
水战师分别于梁山水泊的东、西、北三处设下水寨，由阮氏三雄分任旅长，一旅驻扎水泊正北鸭嘴滩水寨，下辖八个营，共四千人，由阮小二任旅长；二旅驻扎水泊正西金沙滩水寨，下辖六个营，共三千人，由阮小五任旅长；三旅驻扎水泊正东浮萍滩水寨，下辖六个营，共三千人，由阮小七任旅长。
梁山军团第四师为步战师，由史进任师长，下辖两个旅及四个团，由绿林各部精锐、归降官军以及原梁山军团部分精锐组成，共计一万人。
第四师一旅为陌刀旅，由原彭玘所部陌刀军剩余的两千人以及梁山、绿林各部精锐组成，下辖六个营，共三千人，史进代任旅长；二旅为朴刀旅，由绿林各部精锐组成，下辖六个营，共三千人，杨林任旅长。
第四师一团为重剑团，由绿林各部精锐组成，鲍旭任团长；二团为盾阵团，由原梁山军团盾阵营扩充组成，陈达任团长；三团为长兵团，由原梁山军团长兵营扩充组成，周通任团长；四团为射手团，由原梁山军团射手营扩充组成，杨春任团长，四个团各下辖十个连一千人。
梁山军团独立一旅为近卫旅，是王伦的直属部队，赵云任旅长，由原梁山军团侍卫团精锐以及绿林各部精锐组成，下辖五个团，共五千人。
其实王伦本不想再为自己配备直属部队，但晁盖执意不肯，言明王伦现在已经身为天()
下绿林副总盟主，身边岂能没有亲卫，王伦推辞不成只得应允。
近卫旅一团为侍卫团，尽择各部精锐组成，由赵云代任团长；二团为龙骧骑兵团，由原梁山军团‘龙骧"特战营扩充组成，杨雄任团长；三团为虎贲步战团，由原梁山军团‘虎贲"特战营扩充组成，石秀任团长；四团为善扑团，由绿林各部精锐组成，焦挺任团长；五团为警卫团，由原王伦的警卫连扩充组成，小虎任团长；五个团各下辖十个连一千人。
而原梁山军团侍卫团步兵营营长杜迁，水战营营长宋万二人不愿再去带兵，便主动交卸了职务，又找到王伦，言明只想留在王伦身边。
王伦也知道杜、宋二人实在不是带兵的材料，便让他二人与郝默、阿奇一样，做了自己的贴身侍卫。
梁山军团独立二旅为混成旅，由绿林各部精锐、归降官军以及梁山军团部分精锐组成，下辖五个团，共五千人，马麟任旅长。
独立二旅一团战车团，由原梁山军团战车营扩充组成，欧鹏任团长；二团为机弩团，由原梁山军团机弩营扩充组成，邓飞任团长；三团为辎重团，由原梁山军团辎重营扩充组成，李忠任团长；四团为火炮团，由原凌振所部火炮手以及绿林各部抽调人手组成，凌振任团长；五团为突火团，由原凌振所部火铳手以及绿林各部抽调人手组成，汤隆任团长；五个团各下辖十个连一千人。
绿林梁山军团整编完毕，晁盖又授意王伦将梁山政务、军机二阁也进行了重新编组，政务、军机二阁各设阁正一人，由公孙胜任政务阁阁正，吴用任军机阁阁正。