6月30日夜，晋冀鲁豫野战军4个纵队共13个旅。12万余人，以突然勇猛的动作，一举突破国民党军的黄河防线，歼敌一部。刘汝明急令整编第55师第74、第20旅退集郓城，整编第68师t力和整编第55师第181旅退守菏泽。
第1纵队4个旅在独立第1旅配合下，当即包围郓城，并于7月2日攻占该城四关。其余3个纵队进至鄄城、皇姑庵地区，待机打援。
对晋冀鲁豫野战军主力渡过黄河，国民党军陆军总司令顾祝同甚为震惊，慌忙从豫北、豫皖苏边界地区抽调3个整编师又1个旅，连同整编第70师组成第2兵团增援鲁西南。
该兵团司令官王敬久以第153旅至定陶，与退守菏泽的部队组成西路;以地方团队防守曹县城;以整编第32、第66师各两个旅经金乡北上，会同整编第70师组成东路;将整编第58师及整编第66师第199旅配置在金乡作为后应。企图以整编第55师坚守郓城，吸引晋冀鲁豫野战军主力于城下，然后以东、西两路援军向北钳击其侧后，迫其背水作战。
刘伯承、***识破了这一企图，立即采取攻其一点(郓城)、吸其来援(金乡)、啃其一边(定陶)、各个击破的方针，以第1纵队等部攻取郓城;以第2、第6纵队迅速从东、西两路援敌之间向南，攻占定陶、曹县;以第3纵队进到定陶以东待机。
7月8日晨，第1纵队攻克郓城，全歼整编第55师师部及两个旅。10日夜，第6纵队攻占定陶，全歼第153旅;第2纵队收复曹县城;第3纵队到达定陶以东地区。
7月10日，国民党援军东路整编第70师(1个半旅)、整编第32师和第66师主力，分别进至六营集、独山集、羊山集地区，由北向南摆成一字长蛇阵。晋冀鲁豫野战军当即调整部署，转兵东进。
13日拂晓，第1纵队将位于六营集的整编第70师、独山集的整编第32师隔开，并切断其与羊山集整编第66师的联系。当日中午，第2纵队在谢集歼敌1个团，随即向东协同第3纵队包围羊山集。
王敬久发觉所部被分割后，举棋不定，先令北边的整编第70师和南边的整编第66师向中间的整编第32师靠拢;复令整编第32师向北接应整编第70师，再向南靠拢整编第66师。
整编第32师在第1纵队追击下，师部率1个旅逃入六营集与整编第70师会合，其第139旅则被第1纵队和第6纵队一部追歼于逃往嘉祥的途中，防守嘉祥城的整编第70师一部也被迫向济宁撤逃。
与此同时，第6纵队主力紧缩对六营集的包围圈。刘伯承、***考虑，六营集为仪有200户人家的村庄，粮食饮水奇缺，敌军两个整编师师部和两个半旅挤在这一狭小地区内，若对其四面围攻，敌必作“困兽之斗”。因此采取“围三阙一”部署，以第1纵队在六营集以东布成袋形阵地，以第6纵队于14日20时由西向东对六营集发起猛攻。整编第32、第70师向**围，被第1纵队全歼。
7月15日，第2、第3纵队对羊山集发起攻击，但因该处守军以羊山作依托，南侧地形低洼、积水较多，虽经两天激战，进展不大。
此时，蒋介石得知整编第3z师等部连续被歼和羊山集整编第66师告急等情况，于19日飞抵开封坐镇指挥，从西安、洛阳、豫北、山东、汉口等地抽调7个整编师叉2个旅向鲁西南驰援。20日又令王敬久率整编第58师和第199旅，在飞机、坦克掩护下由金乡北上，以解羊山集之围。
刘伯承、***为争取先机之利，以独立第1、第2旅进至万福河阻援，将第199旅和由羊山集出来接应的1个团全歼。接着，集中第2、第3、第6纵队于27日对羊山集发起总攻，战至28日晚，全歼整编第66师师部及2个旅。
野冀鲁豫野战军采取南北牵制，宽正面、多地段的突然强渡黄河，积级创造与捕捉战机，调动敌军就范，把攻城与野战、分割与围歼相结合，创造了以15个旅的兵力歼敌4个整编师共9个半旅6万余人的战绩。从而打乱了国民党军在南部战线的战略部署，开辟了进军大别山的道路，揭开了人民解放军战略进攻的序幕。
29日，毛**亲自起草了一份标有三个“a”字的加急绝密电报:“现陕北情况甚为困难,如陈赓、谢富治及刘伯承、***不能在两个月以内以自己有效行动调动胡宗南军一部”,“陕北不能支持”。
这个时候，晋冀鲁豫野战军主力部队经过近一个月的连续作战，已经极度疲劳，而且伤亡较重，亟需休整补充。但刘伯承、***看完标有3个“a”字的电报后，简单商量了一下，马上复电中央--完全服从中央决定，半个月后行动。然而8月初的鲁西南风云突变，刘邓大军面临历史抉择。
首先是连降暴雨，黄河水猛涨，即便敌人不炸堤，本身也有决堤的危险，黄河两岸出动了10几万民工修堤护堤，连部队一部也拉上去了，我军处在水淹七军的危险中。
其他战场；陕北告急，山东告急。刘邓陈庚如果不能协助陕北调动胡军，打开局面，陕北将难以支持。
由于华野外线损失惨重，躲入鲁西南，实际上是将山东敌人大量引向鲁西南，由于华野外线无力再战，敌军集中30旅于鲁西南大打出手，分五路对鲁西南形成合击态势，此后，华野5个纵队渡过运河，集结在郓城一线，躲在刘邓大军身后，构筑工事自保。
刘邓军虽然获得鲁西南大捷，士气高涨，然而，自身消耗严重，伤亡了1万3千人，炮弹消耗殆尽，伤员需要安置，俘虏需要消化，粮食和弹药需要补充，战斗力下降，难以连续作战。***心里明白那三个“a”字是当时中央约定的表示最紧急和极秘密的电报等级。