4月21日，就在偷袭北平城成功的第2天，山东**军聂荣臻部，正式打响了攻占德州炮声。日军在德州防守部队是一个整编旅团。凌晨6时，**军临时拼凑的野战炮向德州城展开了炮击，半个小时后，攻城部队从西、南、东三个方向发动攻击。
总部要求25日之前务必拿下德州，为什么一样要25日前拿下的德州，后来的变化，彰显了德州的战略价值。聂荣臻制定了围三缺一的攻坚战术，他命令第1、2师攻城，第3师埋伏在北部的东西两侧，意图是日军撤退后在野外歼灭敌人。可是日军并没有选择撤退，而是顽强固守。[]
好在日军在德州没有修筑坚固的防御工事，军长聂荣臻有信心攻占德州城。德州西北方向便是河北省的衡水城，因此德州是衡水的门户，如果德州有失，哪嘛衡水毕竟门户大开。可是北平城被占领，衡水已经失去意义。
可是眼下日军并不了解情况，他们的职责就是固守城池，没有接到命令日军是不会撤退的。一天时间攻城部队发动了4次进攻，可是在日军顽强阻击下，攻坚没有取得任何战果。夜晚来临，指挥部内聂荣臻脸色很难看。
“报告军长！第4次进攻仍然没有取得进展，日军丝毫没有撤退的迹象！”一名作战参谋禀报。“看样子日军是想固守了，我们是否改变战术！”副军长徐海东说。聂荣臻看着沙盘说：“在等等！命令白天的攻城部队撤下来，1、2师的预备队拉上去，夜间继续发动进攻。”
徐海东说：“军长！空降部队已经在北平城完成空降，难倒这里的日军没有得到消息？“聂荣臻摇摇头说：”日军不可能不知道消息。日军不选择弃城，原因是日军指挥官有可能猜到了我们的意图，日军指挥官不是傻瓜！”
徐海东说：“白天战斗，攻城部队损失很大，我们第一次面临残酷的攻坚作战，没有经验呀！”聂荣臻果断说：“正规作战和游击作战，区别很大，我们必须尽快适应正规作战。下一步我们面临的作战任务，恐怕都是攻坚作战，因此德州之战，我们一来检验我们的战斗力，二来必须按照总部的要求如期拿下。”
一夜进攻加上一个白天进攻，仍然没有攻入城里，日军似乎防守的更加稳固。夜晚又来临，聂荣臻说：“看样子必须改变战术，命令在北部设伏的第3师，取消设伏计划，第3师即可在北部发动进攻，既然日军不选择逃跑，我们就干净吃掉这股日军。”徐海东说：“军长！看样子是一场恶战，我亲自到第1师去指挥，保证今天晚上攻上城头！”
夜晚北部发动了猛烈进攻，日军的防守兵力开始分散。徐海东前往第1师，亲自召集属下说：“同志们！我向军长做了保证。今天晚上务必破城，立即组成突击梯队，发动潮水般攻势。此命令立即下发各旅！”
晚8时，伴随两发红色信号弹，突击队开始发动进攻，迫击炮、轻重机枪猛烈地向日军把守的城墙开火。黑暗中数个突击队，一队队抬着木梯向前冲锋。前面的战友倒下去，后面的立即补上来。
士兵们冒着日军的弹雨，抬着梯子架设到城墙上，日军士兵居高临下射击，投掷手榴弹······。鏖战到午夜，一处城墙垛口被突破，我军士兵从突破口爬上城墙，日军组成敢死队反击。一个小时后，突破口开始稳固，大批士兵爬上城墙。
当徐海东站在城墙垛口时，一个旅兵力已经攻入城内。由于士兵沿着城墙攻击，日军难以招架退入城内。截止到天亮，我军从四面八方突进城内。看样子日军有所准备，巷战爆发了，更加残酷的战斗又开始了。
天亮后一身硝烟的徐海东走进军指挥部，“妈的小鬼子要和我们打巷战，下面战斗更加残酷，部队伤亡很大。”聂荣臻说：“是呀！部队突进城内，推进非常缓慢。巷战本身就难打，可是我们作为指挥员不能着急。我看就采用蚂蚁啃骨头的精神。”
残酷的巷战一直打到25日黄昏，日军被压缩在不到100平米范围内。日军仍然在负隅顽抗，我军把日军包围的水泄不通。最后通牒，日军没有任何反应，20点整最后一击开始，日军士兵在弹药没有的状态下，发动自杀攻击，显然这种招数没有用。
23点10分，军长聂荣臻接到报告，德州城全部拿下，日军全部被消灭。聂荣臻看了一眼手表，长长的出了一口气。立即吩咐向总部报告。身体放松，聂荣臻感觉身心疲惫坐在椅子上睡着了。此时，军部的作战参谋也都纷纷趴在桌子上。
几天来，连续征战的士兵，艰难的拿下德州城后，后勤部队清理伤员、掩埋阵亡的士兵。可是征战的士兵大部分就地进入休息状态。胜利的喜悦来不及庆祝，他们疲劳到极点。