1946年7月，山东野战军攻击泗县失利，虽然战斗中消灭桂军172师3000余人，但是仅山野主力第8师就伤亡2700余人，而二纵和九纵也各有数百人伤亡，总数应该超过了4000人斗战神命格怎么淬炼。战后山野参谋长宋时轮引咎辞职，而司令员陈毅也遭受到党内一些同志严厉的指责和批评，处境艰难。
同时，由于山东野战军没有及时南下增援华中野战军，也造成两淮保卫战的最终失利，毕竟华中野战军只有30000余人，寡不敌众。因此华中野战军主力被迫放弃两淮根据地北撤鲁南，整个华东解放区的面积缩小了一半，许多战士从富庶的苏北到达比较贫困的山东时，怪话不断：“反攻反攻，反到山东，手拿煎饼，口咬大葱”！
从1946年10月下旬开始，山东分局和华中分局在小镇子陈师庵连续召开会议，会上陈毅饱受批评，比如救援两淮不力、作战指挥不够优秀等等，整体局势被动，大家有情绪也是可以理解的。所以陈毅表现的非常大度，一方面非常虚心地接受了大家的批评，另外一方面其实自己也比较痛苦，他会议上曾经激动地说：
“别人是毛主席的好学生，我陈毅也是毛主席的好学生，别人能打胜仗，我陈毅也能打胜仗”！客观来说，陈老总从南昌起义起，担任比较多的是政治职务，出任新四军代军长以后，受条件限制，并没有机会与日军进行大兵团作战，包括之前规模较大的黄桥决战，也是苏北指挥部的副手粟裕实际指挥的，因此当发展到新形势之时，出现一些不适应当属正常。
此时敌人也在调整部署和步步紧逼，经过加强后的蒋军，在华东战场的野战部队已达25个整编师，在抗日名将薛岳的统一指挥下，分多路向鲁南地区合围而来，形势还是非常严峻的。而在涟水西北举行的“陈师庵会议”（多次会议）上，着重解决的第二个问题，就是我两个野战军如何统一指挥，毕竟在敌人的压迫下，山野和华野形成了事实上的会师局面。
在陈毅的力主和推荐下，会议决定由粟裕主要负责两大野战军的作战指挥事宜，并且得到了延安方面的批准，而面对敌人的多路进攻，陈毅经过认真考虑，选择先打沭阳方向之敌整11师和整69师。1946年12月11日，延安急电正在苏北盐城指挥保卫战的粟裕，既祝贺盐城保卫战的胜利，同时命令：“望粟即日北返部署沭阳作战”，粟裕接电后立即动身，至沭阳与陈毅汇合。
从这一天起，原华中野战军司令员粟裕将军，就事实上成为两大野战军的统一指挥员，面对的“名将”对手薛岳，陈粟决心调动24个主力团的兵力，以九纵监视和阻击胡琏整11师，集中主力歼击戴之奇的整编第69师，从而以“集中兵力打歼灭战”的指导思想，一举扭转苏北和鲁南的不利局面。12月15日，延安复电表示同意：“决心与部署甚好，战况望随时电告”。
战至1946年12月19日，我两大野战军仅用三天时间便胜利结束“宿北战役”，全歼中央军嫡系部队整编第69师，中将师长戴之奇兵败自杀，少将副师长饶少伟被俘。几十年以后，粟裕在回忆录中谈及宿北战役，将其评价为“华东的一个转折” ，尽管这次战役的规模跟以后相比算不得大仗。
但是粟裕认为：“这次作战是两支野战军会师后的初次协同，这仗打胜了，兄弟部队之间便产生了信任感，合并后的领导机构和所属部队也就产生了彼此和上下之间的信任，是无价之宝”！粟裕马不停蹄，指挥部队随即又发起鲁南战役，至1947年1月4日，全歼敌整编第26师、整编第51师和第一快速纵队共53000余人，取得空前大捷。
粟裕接手军事指挥权仅仅20天，便取得两战两捷，扭转了战争局面，其卓越的大兵团指挥能力显露无遗，尽显名将风范，也证明陈毅的眼光是非常准确的。鲁南战役结束后，敌方主将薛岳被南京方面撤了职，敌军进攻一时陷于停顿，而我山东野战军和华中野战军的合编问题，也在休整时期正式提上日程。
陈毅亲自组织起草了“华东野战军”组建的整编草案，并电告延安做了详细说明，1947年2月3日，延安复电“同意丑东电十个纵队的编制”。于是华东野战军正式宣告成立，以陈毅为司令员，粟裕为副司令员。