这是冈村宁次在山东防线上部署的最后一道屏障。第39师团在泰安一线修筑了多层防线，利用泰山余脉的丘陵地形组织了纵深防御。
泰安的攻防战从6月10日持续到6月28日。这是山东战役中最激烈的一战。
日军第39师团在泰安外围设置了多道防线，每道防线之间用战壕和反坦克壕沟连接，丘陵上的火力点互相支援。
第100军在外围阵地上和日军拉锯了将近两周，每天都有炮战和步兵交锋，阵地上的泥土被反复炸翻了好几遍。
第100军军长张柏亭在外围阵地上亲自查看泰安的城防。他用望远镜反复观察日军防线的火力布局，发现日军在泰安外围的第一道防线和第二道防线之间有一个火力衔接的盲区。
两道防线在泰山西麓的一处陡坡处无法形成有效的火力覆盖，因为陡坡的坡度太大，机枪碉堡的射击孔无法覆盖坡面下方。张柏亭把突破口选在了这里。
他命令一个团在正面佯攻日军的防线，同时命令另外两个团利用夜色从陡坡方向悄悄摸上去，在日军两道防线之间的结合部撕开了一个缺口。
6月20日，泰安外围阵地被突破。日军退入泰安城内，利用城墙和城内建筑组织巷战。
巷战持续了八天，双方进行了逐街逐屋的争夺。第100军的士兵们用冲锋枪和手榴弹一个院子一个院子地往前推。
第100军的一个连长在带着一排人冲进一条胡同的时候被日军狙击手击中了脖子，倒下去的时候手里的冲锋枪还在响。一排长接过了指挥，带着剩下的人继续往前打，用手榴弹清理了狙击手所在的建筑。
经过几天的战斗，国军陆续清理了城内的
6月28日，泰安被攻克。日军守军约三千人全军覆没，国军也付出了伤亡两千余人的代价。
泰安失守的消息传到济南时，济南城内的气氛已经开始瓦解。济南的日军守军是一个二线守备大队加上两个独立混成旅团的残部，总兵力不到五千人。
守城的日军大队长在泰安失守的当天晚上就召开了紧急会议。他在会上说，泰安丢了，济南已经守不住了，苏杭的主力部队最迟一周之内就会打到济南城下。
他决定执行方面军司令部的命令，在撤离之前破坏城内的军用设施和交通枢纽，然后向天津方向撤退。
7月3日夜间，济南日军开始撤退。他们在撤离前炸毁了济南火车站和津浦铁路的黄河大桥，烧掉了油料库和弹药库。大火在
…。。