1924年9月，第二次直奉战争爆发，张宗昌被任命为奉军第二军副军长，同军长李景林合兵一处进击热河南路。在冯玉祥倒戈，吴佩孚南逃后，张宗昌率部入关，在滦州、清东陵一带劫掠地方百姓和皇家陵园珍品财富的同时，又大量收编直军残部，所率人马由原来的一万多人猛增到十几万人，并且缴获了大量武器装备。原直军第三师，是吴佩孚起家的本钱。当年吴佩孚转战川湘、夺占湖北、击败皖系，第三师均为主力。吴佩孚正是依仗这支精锐之师，过关斩将，一路顺风顺水，官也越做越大，故世人给第三师冠以“常胜军”的美誉。做了大官之后的吴佩孚一直不愿将第三师轻易置于他人指挥之下，仍然兼任该师师长。就是这样一支所向披靡，攻无不克、战无不胜的军队，却在第二次直奉大战中败下阵来，张宗昌乘胜追击，将其残部全部收编。从此，号称“常胜军”的直系第三师，在民国初期军阀混战的舞台上消失了。收编了第三师残部的张宗昌，却如一颗耀眼的新星，在中国北方腾空而起。
第二次直奉战争后，张宗昌被晋升为奉军第一军军长，所有从征官佐也普遍晋升一至二级。张宗昌的队伍已是将星闪耀，士气高昂，在华北一带不可一世。这支军队不仅有北洋军阀军队的共同特点，而且更有它突出的一个特点，那就是官兵极其复杂的成分和出身，十几万人的队伍，其中土匪、游民、地痞、流氓等占据大半，绿林匪帮和流氓构成了张宗昌军队的主流。除此之外，张宗昌还拥有一支其他军阀没有的白俄雇佣兵部队和由他儿子张济乐为团长的一支两千多人的童子军，年龄均为十岁左右。这支兵匪合一、中外合一的“联合军”，所到之处，无不十室九空。他们烧杀淫掠，无恶不作，对老百姓实行“三光”“二翻”“一空”政策。“三光”是：鸡鸭猪羊被杀光、骡马牛驴被拉光、门窗橱柜被烧光（当木柴引火做饭、取暖）；“二翻”是：翻箱倒柜、翻遍墙角和房内的砖地，看有无值钱的东西；“一空”是：东西能拿的拿走，不能拿的甩出去，致使家家户户空无一物。而张宗昌的白俄部队更为凶残。这些白俄人大都喜欢喝酒，终日酗酒狂歌，惹是生非。他们打伤了人，或者奸淫妇女后，警察从来不敢过问，谁敢上去阻拦，只能引来他们的一顿暴打。