5 月末，红四军彻底粉碎国民党发动的对鄂豫皖根据地的第二次“围剿”。5 月中旬，中共中央鄂豫皖分局、鄂豫皖省委正式成立，并根据中央指示改组鄂豫皖革命军事委员会。张国焘、陈昌浩、沈泽民、曾中生、邝继勋等11 人为中央分局委员；张国焘、曾中生、旷继勋、徐向前、沈泽民、陈昌浩等七人组成军委会，张国焘任分局书记兼军委主席，曾中生、邝继勋任军委副主席，沈泽民任鄂豫皖省委书记。
随后，对红四军领导干部作了调整，邝继勋仍继续担任红四军军长，原鄂豫皖特委书记曾中生任红四军政治委员，下辖第十、第十一、第十二、第十三师。
为了树立第一把手的威信，张国焘新官上任三把火，首先抓了当时最为紧迫的粮食问题，同时整顿和扩编地方武装，动员群众拥军参军，做了一些卓有成效的工作，推动了红军和鄂豫皖根据地的发展。
蒋介石对鄂豫皖第二次“围剿”失败后，调整兵力，对江西苏区进行第三次“围剿”，对鄂豫皖苏区暂取守势。在此情况下，中央分局扩大会议在讨论战略行动方针时出现了“东进”与“南下”两种意见。
由于中央给红四军下达了援助江西革命根据地反“围剿”的任务，张国焘只好放弃“东进”的意见，同意红四军领导曾中生、许继慎、徐向前等人“南下”的主张。但就红军南下的具体方向问题，在7 月上旬鄂豫皖中央分局、军事委员会再次召开的会议上，双方再次产生分歧。