张家店战役，取得了“我军在无后方依托的条件下，第一次消灭敌人一个正规旅以上兵力的重大胜利”。它对发展和巩固皖西根据地，具有极重要的意义。也标志着陈锡联率领三纵打开了皖西斗争的新局面。
历经千里跃进，部队进入大别山后，我军立即实施战略展开，刘邓首长明确指出，今后的任务是：全心全意地义无返顾地创建巩固大别山根据地。与友邻兵团配合，全部控制中原。具体部署是：以一纵，二纵阻止钳制尾我之敌，三纵、六纵占领南线诸城，打开创建根据地的局面。并明确指示陈锡联：“三纵应迅速攻占立煌（即今金寨县），并侦察六安、霍山、舒城、庐江、桐城、潜山、太湖诸城，准备占领之。”
按照刘邓首长的指示，陈锡联率领三纵，仅用了半个月时间，解放了固始、立煌等10个县城，消灭了守敌，摧毁了国民党县政权，建立了民主政府，初步打开了局面。我军所到之处，都受到当地群众的热烈欢迎。
在我军实施战略展开时，蒋介石急令尾我南下的二十三个旅追过淮河，分路扑向大别山区，妄图乘我立足未稳，寻歼我军或将我军逐出大别山。9月上旬，北线敌四十六师进入六安、霍山地区，五十八师进到固始、商城地区。10月初，敌从鄂东调七师、四十师、从皖西调四十八师、四十六师一部，并结合在山北地区的八十五师、五十八师、五十二师等部，对光山、新县地区之我野战军主力进行合击。
根据这一情况，刘伯承、邓小平急令陈锡联：“趁敌西调，皖西空虚，迅急回师，放手歼敌”。
陈锡联接到命令后，率领三纵主力5个团由商城、固始于10月1日兼程东返。为了隐蔽行动企图，他们绕道山地，在崎岖小路上行军。连日阴雨，道路泥泞，经7个昼夜，才如期赶到霍山、六安之间。此时，敌八十八师师部正率六十二旅由舒城沿舒（城）霍（山）公路向西进犯。
陈锡联得知这次的对手又是八十八师，不禁说道：“真是冤家路窄！”陈锡联曾与八十八师在正月鱼台战斗中交过锋，他同兄弟部队一起，消灭了八十八师一个半旅，剩下的逃回徐州去了。这次是经过补充由徐州调来合肥，9月中旬进入舒城、庐江、桐城地区。陈锡联考虑，现在该敌处于运动中，正是我歼灭的良机。为防敌逃跑，陈锡联立即指示各旅，只要抓住敌人，不必请示，即可合围歼击。
10月6日，三纵八旅二十三团在舒城以西南官亭附近接敌与之激战数小时。7日，沿舒霍公路东进的九旅二十五团与该敌先头部队在山王河遭遇，敌迅即龟缩抱儿岭一带。陈锡联当即下达命令：七、八、九旅分由北、东、西三面向抱儿岭、三保墩及其以北山地合围该敌，务必一举歼灭。接着，陈锡联又特别强调：“必须机动灵活捕捉战机，积极主动协同作战。”
8日晨，三保墩之敌继续北撤，九旅二十六团乘势逼近敌人，敌以小部队与我接触，主力趁黑夜绕道北窜。九旅旅长童国贵亲率二十六团和二十七团两个营取捷径向北追击，二十六团在马长岗捕捉敌哨兵，查明敌全部聚集在张家店，当即占领295高地，向敌开火。二十七团也迅速逼近韩家畈。接着，七旅旅长赵兰田率二十团也赶到了。赵、童两旅长立刻以到达的部队，大胆地包围了敌人。
次日拂晓，敌人发现被包围了，当即抢占有利地形，构筑工事，并以2个营至4个营的兵力，在炮火掩护下，连续猛扑北面二十团阵地，企图夺路而逃。在紧急关头，赵旅长立即向团的干部进行了动员。该团奋勇反击，打退了敌人一次又一次的突围，阵地失而复得，最后把仅有的预备队——团特务连用上去，就连旅的侦察连也投入了反冲击。由西南方进攻的二十六团在打退了敌人反扑后，以炮火支援主力出击。
下午3时，敌人倾全力做最后挣扎，猛烈地突围，陈锡联命令二十团、二十六团密切协同、奋力夹击，敌人突围的企图被彻底粉碎了。与此同时，三纵副司令员郑国仲率领的八旅正在张家店以东展开，九旅后续部队也赶到了。此时，当地政府和群众组织的1000副担架也赶来支援，极大地鼓舞着全体指战员的杀敌斗志，大家决心全歼敌人，来报答新区人民对子弟兵的爱戴和支援。
为迅速歼灭该敌，陈锡联要求各旅针对山地、稻田的不同地形，认真区分任务，严密组织火力，同时命令九旅全部由西南两面主攻，大部炮火也集中在这里，七旅由北面攻击，八旅由东、东南面攻击。
晚7时，部队发起攻击，由于攻击勇猛，一个小时就肃清了外围。此时，敌人依靠优势火器，利用村沿顽抗。陈锡联命令各旅不给敌人以喘息的机会，迅即向村内突击，四面八方的炮火齐向村内射击。10日1时许，纵队配属九旅的化学迫击炮，命中敌师指挥所，引燃了村内草房。风助火威，整个张家店顿时变成火海，敌阵大乱，陈锡联命令各攻击部队乘势发起总攻。九旅二十七团首先从南面突破，七、八两旅同时向敌猛扑，攻入村内。各部队一面奋勇歼敌，一面协助群众救火。混乱的敌人抱头鼠窜。
战至10日拂晓，除敌八十八师副师长张世光化装逃跑外，其师部及六十二旅全部被歼，战斗胜利结束。此役共毙、伤敌副团长以下500余人，俘敌六十二旅副旅长汤家楫以下4300余人，缴获战利品甚多。当张家店敌人被围时，敌四十六师3个团的兵力，由六安驰援，8日进至槐树岗。陈锡联命令二十一团发扬以少胜多、英勇顽强的精神，在敌前进道路两侧选定有利地形阻击敌人。经持续3天的激烈战斗，敌前进只不过10里，被阻于距张家店尚有30里的中店子地区，保障了张家店作战的胜利。
张家店战役，取得了“我军在无后方依托的条件下，第一次消灭敌人一个正规旅以上兵力的重大胜利”。它对发展和巩固皖西根据地，提高群众的胜利信心，教育和鼓舞部队，都有极重要的意义。正如中原军区12日贺电所指出的：“你们此次大捷，对建设皖西根据地关系极大。”这次胜利，也标志着陈锡联率领三纵在皖西完成了中原局及野战军首长所赋予的战略展开任务，打开了皖西斗争的新局面。