1948年夏天，根据中共中央军委的部署，我华东野战军山东兵团在胜利地结束了胶济战役之后，决定在津浦路中段发起攻势，以配合西线兵团的作战。解放兖州就是这场攻势中的主要战斗。
那时兖州守敌是国民党第十绥靖区中将司令李玉堂和国民党整编十二军军长霍守义部。自1946年初新四军攻城以来，驻兖国民党军就一直致力于兖州城防工事的经营，使其防御体系十分完整坚固。城墙高达十米，从城头到城脚有三层火力网，城墙转弯处及突出险要地段都没有明碉暗堡；护城河河宽水深，河内布满铁蒺藜；其外又有用树枝围成的鹿砦及电网和地雷构成的障碍区；最外边是新挖的8米多宽的深沟。整个防护设施的纵深达40米，城墙下还挖有通往城外的暗道。敌军守将曾吹嘘兖州城是铁打的，并把“天下第一碉”五个大字刻在城西北角一个碉堡上，其狂妄与自负可见一斑。
指挥这次战役的是我华东野战军山东兵团司令员许世友同志和华野副政委兼山东兵团政委谭震林同志。参战部队有华野第七、第九和第十三纵队及鲁中、鲁南部队等。
战争的前期阶段是从5月29日到6月15日，我军相继攻克了泰安、肥城、泗水、曲阜、邹县、滕县等县城，截断了南到徐州、北到济南的铁路交通。6月20日，我华野七纵和鲁中部队的大军包围了兖州城。当时的战略意图是“围兖打援”，即诱徐州和济南之敌出援兖州，我于敌人运动中将其歼灭。但济南之敌因连续遭我打击而行动谨慎迟缓；徐州之敌已行至滕县以北，又被我在西线进行睢杞战役吸引去了。无援可打，我军便加强对兖包围，准备攻坚。
从7月1日起，我军各部开始了对兖州外围城郊的争夺。先后攻克了城西赵家村、龙桥一线，城南前窑、中窑、后窑一线，城西北旧关及城东北豆腐店、琉璃厂。每克一处，敌必拼命进行反扑。其中尤以西关地段的争夺最为激烈。在三天的战斗中，西关一公里长的区域内房屋全被炸为一片瓦砾；不到200米的一个地段内，敌军伤亡达2000人以上。截止到7月7日，我军已扫清了兖城外围之敌，大兵合围，只待总攻。
总攻的突破口选在老西门及其北约300米的新西门以南地段。老西门建有高大坚固的瓮城，是敌防守的重点，但如摧毁了它，就不但能破坏敌西城的防御体系，打开入城通道；还将取得一个高大的前进据点以控制城墙，瞰视城区。许世友司令事后曾说：“自古兵无常势……我们决心避敌之长，击敌之短，偏偏从敌人意想不到的地方开刀，集中兵力突破瓮门，打他个措手不及。”
从7月8日起，我军开始构筑工事，为总攻做准备。时值盛夏酷暑，高温多雨，战士们顾不得汗流浃背和蛟虫叮咬，冒着敌军的枪击炮打奋力作业。一开始只能在黄昏和晚上干，先挖出一些散兵坑，然后由点到线，逐渐扩大。经过几个昼夜奋战，挖成了深1.5米、宽0.8米的交通壕，绵延复杂，规模巨大，直抵敌前沿阵地30米处。这就使部队的一切活动都不暴露于地上，大大地减少了作战中的伤亡，保证了弹药物资及伤员的前运后送。
7月12日下午5点半，以两发榴弹炮为信号，揭开了兖州城攻坚战的序幕。接着，800挺机枪、12门榴弹炮、3门山炮以排山倒海之势同时发射，一刹时火光冲天，浓烟翻滚，城墙上砖石乱飞。敌人被轰得晕头转向，半天才回过神来向我打炮还击，飞机也盘旋射击。当时敌人的炮兵观察所设在兴隆塔上，我炮兵向兴隆塔连发三炮，使敌炮失去了“眼睛”，从此敌炮射击不再有效。在炮火的掩护下，我军把山炮阵地向前尽力推进，到了距敌仅100米的地方。近距射击威力更大，不久就把老西门的城楼、垛口打垮，火力点大部分摧毁，城墙上打开一个大缺口。此时，新西门以南的城墙也已被打开缺口。于是我突击队员在炮火掩护下，开始了在300米地段内的正面并排攻击。但是，架桥部队却遇到了麻烦，原来敌军放开了泗河水闸，护城河水位迅涨，原备桥桩太短，架桥失败。在这紧急关头，班长杨树宽带头跳进水里，十多名战士用肩头扛起桥板，让突击队员通过。爆破勇士们连续七次将炸药送上城头，炸开了通道。8点45分，突击班长高振才把第一面红旗插上了兖州城头。接着，新西门南侧的两个连队也登城成功，他们是在架桥失败后，奋不顾身泅水过河的。到晚9点，已有大批战士分别从四个突破口进入城里；10点，各登城部队打通联系，后续部队陆续进城，展开巷战。与此同时，在北关和东大营，我军也与敌展开激战。
兖州敌军主力为十二军，这支部队善于守备，战斗力亦强。他们立刻组织力量向我发起集团冲锋，于是展开一场恶战，已被打开的突破口也被封锁。13日凌晨3时，我指挥员向许世友司令报告情况，许司令当即指示：“命令外边的部队坚决往里突：一间屋子，一个墙角，都可以利用起来，打它个七进七出没有关系！”在我军的猛攻下，又重新打开了突破口，大部队潮水般涌进城内，分几条线从西向东推进。在四乡师（今酒厂），天主教堂，县政府（今六中西），府学，中御桥等地方都有激烈的战斗，歼击敌人一大批。
这时天已大亮，不甘失败的敌军不断以飞机盘旋扫射，我军因激战一夜也已十分疲劳，有的连队伤亡较大。于是我指挥部调整战斗组织，改换战术，采取控制街口，打通墙壁和庭院的办法向前推进。这样，经过激烈艰苦的战斗，到下午3点多时，我军各路部队已占领了城内大部街区，胜利在望；敌军不得不向老东门一带退缩。
此时，设在西城的敌军的最高统帅中心绥靖司令部早被我军占领，李玉堂等退往东城。看兖州已是大势已去，李玉堂如丧家之犬，到军部去见二号将令霍守义。李拿出一封信，是李延年用飞机空投给他的，信中蒋介石借李延年之口指示李玉堂，说豫东战况不利，已不能抽调兵力援兖，希望他利用机会设法突围。后来，李玉堂从地道出城，被我俘虏后冒充士兵，又化装成农民逃到了微山岛一农村住下，徐州方面闻讯后将其接回。霍守义当时则决定放弃城垣，退兵东关准备突围。原来，霍守义是东北军将领，素来为蒋介石嫡系所猜忌排挤。他本人和中共和解放军都一直有较亲密的关系，还曾有过起义的打算，只是因为他一直患得患失，顾虑重重，未能付诸实施。到现在已被打得一败涂地，他还心存侥幸，以为只要突围成功，保住实力，仍然可以和蒋介石周旋。下午5点半，霍守义军从新东门和老东门两处分路向南方向突围。东逃的一部在涉过泗河后逃至粉店和西郭村一带被歼；南逃一部在岗头、堡子一带进入我军包围圈，被一举歼灭。到晚8时，霍守义十二军万余人全被歼俘，霍守义及以下高级军官均被俘。
在我军进行兖州攻坚时，即已布兵于兖州之北以准备还击济南方向的援敌。战役打响后，李玉堂、霍守义频频向济南告急，国民党山东省主席王耀武即派吴化文部南下增援。但吴化文为保存实力，行军缓慢；蒋介石亲笔给他写信催促，他也不听。到13日那天，他的先头部队才走到汶河南的太平镇一带，进入了我军的伏击圈。我军冒雨急行军断其退路。此时，兖州已被我攻克，王耀武急忙电告吴化文火速反济，这回吴军行军迅速了，但仍被我军拦头截尾，歼其军1.1万人，缴获了大量武器弹药，还有汽车100多辆。接着，7月14日，我军又胜利解放了济宁和汶上二城。至此，历时48天的兖州战役以歼敌6.8万的辉煌战绩结束。
在兖州战役进行的全过程中，中共中央、中央军委对此战均十分重视。毛泽东、周恩来、陈毅、粟裕等领导都曾亲笔起草电文，指挥部署。无数的解放军官兵英勇顽强，浴血奋战，前赴后继，有的献出了宝贵生命。广大人民群勇支前，修挖工事，运送伤员，供应物资，做出了巨大的贡献。兖州战役是解放战争中一场有重大意义的战役，对兖州人来说，她的意义更不比寻常。兖州的胜利解放，标志着兖州这一有着悠久历史和重要战略地位的古城结束了国民党反动派的统治，回到了人民的手中。此后不久，中华人民共和国宣布成立，和全国人民一样，兖州人民的新的时代就要开始了。（选自樊英民著《兖州史话》）