从1944年开始，八路军的敌后战场开始向日军发起局部反攻，山东的八路军也取得了不小的战果。在葛庄歼灭日军草野大队后，罗荣桓决定拿下莒县，这里连接着鲁中、滨海和沂蒙山的根据地，又是鲁南地区两条公路的交叉点，战略地位十分重要。在之前的扫荡中，日军就是把莒县当成屯兵站和补给站。目前城中有日军一个中队以及伪军莫正民部。 这个莫正民原本是国军69军石友三的部下，因受到曲线救国谬论的裹挟投降投降日军，但好在他良知没有完全泯灭，很早就与八路军接触，八路军也秘密派了30名政工干部进入莫部进行改造。就这样，莫正民部下没有对根据地发动攻击，还多次给八路军提供日军的情报，并且随时准备反正起义。 经过研究，八路军决定于11月14日正式攻击莒县，滨海军区第六团以及山东军区特务团为主攻部队，另外，还有大量部队分别负责打击来自日照、临沂的日伪军增援部队，总攻时间定在晚上7时。 14日当天，八路军工兵部队一部分在莫正民接一下化妆进城，埋伏在城东南。7时许，工兵部队引爆了城东南的炮楼，这是总攻的信号。八路军突击队随即发起冲锋下，架起云梯爬上城墙。此时，莫正民部也将队伍中的日本顾问荒井、教官金野以及伪县长、伪警察长等人全部活捉，并把日军中队压制在四个碉堡组成的据点中，随后打开南门接应八路军主力部队进城，八路军在莫部接应下很快占领了大半个县城，并开始向日军的据点发起攻击，日军发动了两次反突击均被击退，在九二式步兵炮的掩护下，八路军发起了连续爆破突击，拿下了其中两个碉堡，但残余日军依然在顽抗。 在城外，日伪军援军也和八路军打赢部队交上了火，南线的大原部队破坏了临沂到莒县的公路，并打退了汤头来增援的日伪军一个小队，之后八路军乘胜攻下了临沂附近的李家庄据点，歼灭日伪军70多人，白塔据点的100多伪军也在八路军的打击下投降。北线日军第五混成旅团在16日也出动数百人南下增援，在崖头，店子一带遭到八路军鲁中1团和滨海13团的夜袭，损失惨重。之后日军一部绕过了八路军的打援阵地，于19日抵达莒县与残余日军会合。但他们很快又被八路军重新包围上，日军后续队伍无法上来。就这样一直到29日，莒县城内的日军弹尽粮绝，只好弃城逃走，八路军得以解放莒县。 莒县的解放，拔除了日军深入根据地的一颗钉子，随后八路军又连续拔除了城外的16个据点，鲁中根据地和滨海根据地连成了一片，700多个村庄和30万人民得到了解放。
