，在豫北与奉军作战，毙伤敌兵万人以上。1928年4月，孙连仲率部奉命入陕，7月奉调入甘，12月任青海省主席，8月接任甘肃省主席。

    1930年孙率部进入河南，参加中原大战。冯玉祥失败后，西北军拥鹿钟麟为总司令，孙连仲为副总司令。10月18日，孙连仲在新乡发出通电，声明今后“拥护中央，和平统一建国，决不参加内战”。接受蒋介石改编后被委为第二十六路军总指挥。第二十六路军下辖第二十五师（孙自兼师长）、高树勋第二十七师、关树人第一骑兵师。

    1931年初，孙连仲任江西清乡督办，率领第二十六路军参加对红军的第二次围剿。同年7月，孙连仲部改任第二军团总指挥，参与对红军的第三次围剿，部队接连打了败仗，损失惨重。孙部驻宁都，北方兵水土不服，营中疟疾、赤痢流行，孙本人染疾在南京治疗。是年12月，赵博生和董振堂率部举行“宁都起义”。蒋介石派陈诚陪同孙连仲去宁都收拾残局。后保留第二十六路军番号，编制缩小。1935年5月，孙连仲以第九路军司令官率二十七师在江西新淦、永丰地区参加对红军的第四次围剿。1933年9月，驻湖北麻城之第三十军张印湘（原吉鸿昌部）不稳，孙连仲奉命以二十六路军总指挥名义整理，得到蒋介石的称许。1934年初，孙率第三十军再到江西，驻永丰，蒋介石将第二十七军、第四十二军归其指挥。是年，孙连仲参加对中央苏区第五次围剿。1935年初，孙又奉命率部到湖北追击红军贺龙、肖克部。同年11月国民党“五大”，孙连仲当选为中央监察委员。

    卢沟桥事变爆发后，孙连仲部于1937年8月初奉命北上抗日。孙召集本部高级军官会议，在会上慷慨陈词说：“日本蓄意侵略我国已久，现国家命运已至最后关头，吾人须以全力报效国家，挽救危局，以尽军人天职！”8月6日，蒋介石命孙连仲为第二集团军副总司令（总司令刘峙）兼第一军团司令。8月10日，孙连仲率领第三十军与第四十二军在河北省房山及良乡，与日军作战一个月零九天，日军史称：“涿州保定会战”，实用兵力8．85万人，战死1488人，重伤4000人。后刘峙免职，孙连仲升第二集团军总司令。10月11日，孙连仲率部在娘子关与日军第二十师团作战，10月14日，孙连仲派三十一师进攻娘子关旧关之敌，一度攻入关内；独立第四十四旅在六岭关附近与日军展开遭遇战，占领了六岭关；二十七师也奉命向核桃园等地的日军发起进攻。后二十六路军主力被日军增援部队围攻，二十七师伤亡殆尽。孙连仲一面率部转移，一面指挥部队向日军进行英勇抵抗，击退了敌人总攻。26日在日军连续进攻下被迫放弃娘子关。在这次作战中，孙连仲的第二十六路军损失惨重，减员近4/5。