1945年9月6日的淮阴城攻坚战，是彪炳史册的重要战役。它的胜利，为苏中、苏北、淮南、淮北四大解放区连成一片创造了重要条件，也为淮阴后来成为苏皖边区政府首府奠定了基础，具有十分重要的意义。
淮阴是苏北一座千年古城，也是水陆交通枢纽和战略要地。1939年3月1日，日军兵临淮阴，国民党守军不战而逃，淮阴遂告沦陷，城内十万民众陷入水深火热之中。
随着日本政府发出乞降照会，八路军总司令朱德于1945年8月10日24时至11日18时，在延安总部连续发布了七道命令，核心内容是命令各解放区武装部队立即向附近日伪军发出通牒，限令其按期缴械，如遇抗拒则坚决消灭之。新四军第3师兼苏北军区司令部、苏北行政委员会遂联合向盘踞在淮阴城的伪军潘干臣部发出通牒，敦促其投降，但均遭拒绝。此时，伪军潘干臣部受国民党反动派加委，被改编为国民党军第6军第28师，妄图等待国民党反动派重新统治淮阴。淮阴城城高池深、城防坚固。城墙高约8米，城上构筑工事、炮楼，城内主要路口筑有地堡。城墙四周还依托运河、护城河等屏障，增设铁丝网、鹿砦，形成了以城墙为骨干的防御体系。
守敌潘干臣部辖3个正规团，加上淮阴保安团、常备旅等地方武装，总兵力近万人。敌人曾嚣张扬言：“两淮固若金汤，任凭新四军三头六臂也休想飞进城来。”
潘干臣的嚣张气焰，激起我军广大指战员的极大愤慨，更激发了他们昂扬的斗志。我军决心遵照延安总部和陈毅军长的指示，响亮地提出：“打进淮阴城，消灭潘干臣！”
8月27日至31日，新四军第3师第10旅和淮海军分区新2团等部，先后攻克淮阴城北外围据点王营、西坝，并自石码头方向突入，占领运河沿岸的十里长街一带。29日，淮海军分区司令部、淮海分区专署颁布《淮海军分区戒严条例》。至31日，第10旅等部肃清淮阴城外围全部据点，从四面对淮阴城形成合围之势。至此，淮阴城守敌潘干臣部已成为瓮中之鳖。
经过各级指挥员实地勘察，对地形和敌情进行精确了解和周密分析，认为东门外的花街房屋较多，便于我军隐蔽和接近敌人；南门和西门外地形开阔平坦低洼，城内守敌力量较强；北门紧靠运河，易守难攻；城东南角和西北角也各有部分建筑物可以利用。因此，我军部署以东南为主攻方向，相机突入城内，以便分割敌人，各个歼灭。
南门由潘干臣嫡系2个团防守，这里城墙坚固高大，城外是一片开阔地，又有一条约10米宽、两三米深的护城河阻挡，唯一的通道是护城河上的一座小桥，敌人在桥两头都设置了路障。我军在南门小街上搭设的制高火力点，高度达不到城墙，比南门城楼还矮一大截。负责攻击南门的师特务团没有大型火炮，唯一的一门八二迫击炮只有两发炮弹。此外，战士们还找到一颗美制B-29飞机上未爆炸的炸弹，把它安放在一辆手推车上，又将被褥浸湿，围在手推车四周，做成一辆“土坦克”，准备在攻城时用这颗炸弹爆破城墙。其余准备工作就是扎制爬城云梯和搭设浮桥。
在充分进行攻城筹划、思想动员和物质准备之后，我军又进行了临战演练，开展了政治攻势，向敌人喊话，瓦解敌军。总攻前夕，我军指挥部还向潘干臣发出最后通牒，敦促其放下武器，向人民投降。然而他冥顽不灵，竟丧心病狂地杀害了为我军送信的张老汉。围城军民义愤填膺：向潘匪讨还血债的时候到了！
9月6日下午，我军部署在城外的火炮齐声怒吼。淮海区民兵英雄王凤山率领的土大炮队，在北门阵地上向敌阵轰击，敌军炮楼上升起滚滚浓烟。
敌人以为我军开始攻城，便以猛烈炮火向城外狂轰乱射。“轰隆隆”一声巨响，城东北角爆破成功，敌人的一座炮楼被炸毁，城墙被炸开7米多宽的缺口。我军战士曾家良高举红旗，顺着云梯冲向城楼，将红旗插上城头。随后，战士们将手榴弹接连投向敌阵，炸得敌人血肉横飞。同时，炮兵轰开城东南角的一段城墙，突击队员潮水般涌进城里。
我军在南门阵地却遭遇挫折。“土坦克”推进到城门洞里，点燃引信后却没有爆炸。迫击炮只有2发炮弹：第一发打到了城里，第二发虽准确命中城楼，却未造成有效破坏。怎么办？登云梯！第一架云梯被炸断，第二架又立即竖了起来。3营副营长张培英、4连连长惠汉良、6连连长任良泉，一个个牺牲在云梯旁。师特务团3营7连5班班长徐佳标奋力将红旗插上南门城楼，凶恶的敌人举起马刀，将徐佳标两手齐腕砍断。他艰难地用双肘支地，爬向暗堡，用自己的身体堵住枪口。敌人的机枪哑了，战士们怒吼着冲上了城楼。
西门攻城部队迅速肃清顽敌，突入敌教导营营部，活捉营长“赵老虎”，俘获全营伪军。北门攻城部队凭借运河大桥的桥桩和桥墩，冲上北门城楼，肃清了顽敌。
此时，向纵深推进的28团2营4连连长张昌义带领战士冲进敌人指挥部。潘干臣正对着电话发脾气。张昌义举枪喝道：“潘干臣，举起手来！”潘干臣把手从电话机上移开，刚想掏枪抵抗，张昌义扣动扳机，一枪结束了潘干臣的性命。
至此，淮阴城被攻克，生俘敌军8000余人。被日伪盘踞6年多的淮阴城，终于拨开乌云，见了太阳。陈毅军长从延安发来嘉奖电。为铭记这段历史，1985年，淮阴市人民政府在当年南门城下旧址修建了“淮阴攻城阵亡将士纪念亭”，以供人们瞻仰缅怀。