二次“北伐”后，西北军的实力得到扩张，成为蒋、冯、阎、桂四大军事集团中兵力最为雄厚的一个。这自然引起蒋介石的嫉妒。为削弱冯、阎、桂各系军队实力，蒋介石以减少军费负担、从事经济建设为名，提出裁军问题。1929年1月1日，蒋介石主持召开编遣会议，强行确定全国设立8个编遣区，其中4个由自己控制。蒋介石还规定，全国军队的一切权力收归中央;各军原地静候改编;各集团军无权自行调动和任免军官。这种做法引起冯、阎、桂各派的强烈不满。冯、阎、桂各系遂组成反蒋联军，武力倒蒋。

　　1930年5月，中国近代史上规模空前的军阀混战——蒋冯阎中原大战爆发了，双方投入的兵力高达130万人。此时，张自忠任第六师师长，编入张维玺统领的南路军。5月初，南路军首先在乎汉线向蒋军开战，拉开了中原大战的推幕。5月中旬，当张自忠指挥第六师进 抵许昌十五里店时，此地已为蒋军徐源泉部占领。因十五里店是双方必争的战略要点，张维玺严令张自忠限期夺回。张自忠遂指挥所部乘夜暗发起猛攻，势如疾风暴雨，一夜之间克复十五里店。6月中旬，第六师将蒋军丁治磐部击退，得到孙连仲部支援后又转守为攻，猛烈出击，蒋军抵挡不住，全线溃退至漯河一带。此时，南路军如乘胜南追，直趋信阳，战局将十分有利。但冯玉祥顾虑蒋军主力从豫东发动进攻，故将张自忠等部由平汉线转用于陇海线，支援东路军。到达陇海线战场后，张自忠奉命向蒋军左侧攻击，在杞县、太康之间的高贤集与蒋军精锐张治中之教导第二师相遇。这两位姓氏相同，名字相近，且被许多人误为一人的名将，随即展开了激烈的对攻战。教导第二师是蒋介石聘请的德国军事顾问团精心训练出来的两个“近卫师”之一，编制整齐，拥有当时中国军队最先进的装备。张自忠针对敌军装备精良的特点，指挥第六师发起突然猛烈的攻击，奋勇接敌，与之展开近战，发挥刺刀、手榴弹和大刀的威力，使敌军重兵器无法发挥作用。经反复拼杀，终于将敌击溃。蒋军其他各部也因不善白刃战，伤亡惨重，纷纷向南溃退。张治中部奉命担任掩护。张自忠指挥第六师乘机追杀，再歼其一部。教导第二师经此一役，元气大伤。作战中，张自忠勇猛果断，指挥若定，显示了大将之才。他的参谋长张克侠评价说：“其决心坚强，临危振奋。每当情况急迫之时，辄镇静自持，神色夷然。”