1920年的直皖戰(zhàn)爭，以直系軍閥的速勝而告終。吳佩孚是直皖戰(zhàn)爭倒皖的急先鋒，戰(zhàn)爭的勝利，讓吳佩孚在政治上、輿論上成為“中國當(dāng)代第一號人物”。吳佩孚為此飄飄然，自以為成為不可一世的風(fēng)云人物，從而在戰(zhàn)后提出了許多政治主張。

然而，以直皖戰(zhàn)爭為借口大舉入關(guān)的奉系張作霖卻不把吳佩孚放在眼里，北洋政府總統(tǒng)徐世昌等從自身權(quán)勢考慮，對吳佩孚進(jìn)行排斥，就連新任直系軍閥頭領(lǐng)、吳的老上司曹錕，也對吳的“武力統(tǒng)一”加以否認(rèn)，吳佩孚見狀，便決定駐節(jié)洛陽，專事練兵，“未雨綢繆，預(yù)為準(zhǔn)備”。

洛陽是中國九朝古都，軍事重地，交通發(fā)達(dá)。中華民國成立后，袁世凱曾在洛陽建了一座中西合璧的陸軍大營房，張勛、張敬堯等也都先后在此駐扎過軍隊和訓(xùn)練士兵。洛陽附近的鞏縣設(shè)有兵工廠；又有京漢、津浦、隴海三條鐵路，交通可通武漢、南京兩大兵工廠，可以為練兵提供武器槍械，具有很大的便利條件。

吳佩孚首先成立了治軍機(jī)關(guān)———教育處，責(zé)成李成霖擬定了教育計劃。他從其第三師步兵第十二標(biāo)(團(tuán))訓(xùn)練入手，以一班12人為單位，全師步、騎、炮、輜重、電信、鐵道、艦空諸隊最滿定員為1.2萬人。再將幼年兵團(tuán)1000人擴(kuò)充為一旅6000人，合計為1.8萬人。在訓(xùn)練中，該團(tuán)的一切設(shè)備、給養(yǎng)十分完備，采取封閉式訓(xùn)練，不許外人參觀。

在小范圍軍事訓(xùn)練成功的基礎(chǔ)上，吳佩孚即開始對直系師旅部隊的輪訓(xùn)。他認(rèn)為“蓋得一良將，即可得無數(shù)精兵也”，在此理念下建立軍官教導(dǎo)團(tuán)(研究團(tuán))，以三個月為一期輪訓(xùn)將佐，經(jīng)嚴(yán)格考核，成績優(yōu)良者升級，惡劣者撤職。他還將直系軍隊進(jìn)行輪訓(xùn)：每師出一營，每旅出一連，集合洛陽，由吳親自督訓(xùn)，練成回原部隊。在訓(xùn)練中，吳佩孚更是嚴(yán)格監(jiān)督，經(jīng)常在校場兩三個小時一動不動地觀操。對士兵，他提出要實行戒酒、戒色、戒財、戒氣、戒煙、戒賭“六戒”，并嚴(yán)格強(qiáng)化所謂“將猶父兄，兵猶子弟；將猶師傅，兵猶生徒”的封建隸屬關(guān)系。

吳佩孚還組織所謂有1500人的“幼年兵團(tuán)”參加訓(xùn)練。幼年兵團(tuán)學(xué)員為全國各省招收的10歲至15歲的青少年學(xué)生。

吳佩孚還重視現(xiàn)代軍事技術(shù)的培養(yǎng)應(yīng)用。他著手建立航空隊，以李玉珂為航空隊隊長，計劃“實行三三制；司令部轄三個航空大隊(驅(qū)逐、轟炸、偵察)”，“添購飛機(jī)一百架”。

從1920年至1924年，吳佩孚在洛陽編練的軍隊計有5個正規(guī)師、兩個非正規(guī)師，號稱練兵10萬。通過洛陽練兵，吳佩孚掌握了一支訓(xùn)練有素的部隊，為此后搶占地盤，將陜西、兩湖、河南等省納入直系控制之下，打贏第一次直奉戰(zhàn)爭打下了堅實基礎(chǔ)。