抗日战争胜利后，阎锡山在国民党中央政府的支持下，抢夺胜利果实，从政治、经济、社会各个方面加紧了对人民群众的控制、压榨。老百姓生活在水深火热中，失地失产，可谓民不聊生。解放战争爆发后至1947年春，山西战场敌我力量对比迅速向有利于人民的方向发展，山西成为人民解放军大规模歼敌的战场。文水县女英雄刘胡兰和寿阳县女英雄尹灵芝就是在这一残酷的斗争中被阎锡山匪军杀害的。
一、“三打运城”
1947年4月，解放军先后解放了晋南地区除运城、安邑、夏县以外的19座县城以及广大地区，残余的国民党军队纷纷集结运城。4月26日，中央军委和毛泽东指示：“应乘胜相机夺取运城，彻底解放晋南三角地带。”5月7日至10日，解放军扫清了登城障碍，总攻在即。胡宗南从西北战场抽调4个旅驰援运城。为了避免重大伤亡，保存实力，中央军委下令撤围，休整待命。“一打运城”结束。
1947年7月，刘邓、陈谢两路大军先后横渡黄河，挺进鲁西南和豫西，转入外线作战。为配合外线我军作战，晋冀鲁豫军区决定第二次围攻运城。10月8日，第二次攻打运城的战斗打响，运城守军被团团围困。胡宗南急派钟松师4个旅由河南陕县出发，从三门峡地区北渡黄河，增援运城。运城前线指挥部立即作出决定，放弃对运城的总攻，除留少数部队在外围继续包围运城外，其余部队全部撤围打援，在平陆杜马垣上进行阻击战。
“二打运城”之后，广大指战员一致要求再攻运城。经中央军委批准，解放军4万多人，开始“三打运城”。战斗于12月17日打响。27日下午5时开始发动总攻，至28日晨，战斗结束，运城解放。运城攻坚歼灭战，不仅动摇了山西境内阎军固守城市的信心，而且积累了人民解放军攻打坚城的宝贵经验。
二、临汾战役
运城战役后，晋南大部分地区均已解放。阎锡山、胡宗南不得不加强对临汾这座孤立据点的防守。守城部队除阎锡山部外还有胡宗南部第三十旅。1948年2月，晋冀鲁豫军区组成了以徐向前为首的前方指挥所，确定1948年春季攻势的第一个战役计划，就是攻打临汾。解放军自3月7日发起临汾战役至5月10日，60余天的作战中虽然已伤亡约9000至1万人，但部队情绪仍旧高涨。5月16日，经过指战员们的奋勇拼搏，在城东开挖两条长100余米的破城大坑道，终于越过外壕，挖至又高又厚的古城墙地下。东城城墙被炸开了两个大豁口，攻城部队冒着浓烟飞尘，冲入城内，进行巷战。从3月7日至5月17日，解放军经过72个昼夜顽强奋战，伤亡1.5万人，歼敌2.7万人，终于取得了临汾攻坚战的彻底胜利。5月18日，临汾宣告解放。晋冀鲁豫野战军第八纵队第二十三旅被“前指”授予“临汾旅”的光荣称号。临汾战役不仅拔除了蒋阎在晋南的最后一个据点，还锻炼了一支善于攻坚的部队，为解放晋中和太原创造了条件，有力配合了全国的战略反攻。
三、晋中战役
临汾被攻克后，阎锡山以太原为中心进行布防，总兵力约13万人。同时组建“闪击兵团”进行机动作战。人民解放军华北军区遵照中央军委命令，为保卫晋中麦收、削弱阎锡山的有生力量，于6月18日发起晋中战役。至7月21日，晋中战役胜利结束，共歼灭阎军7.5万人，连克县城14座。除太原外，晋中地区全部解放。龟缩在晋中各城乡的阎锡山军队纷纷逃至太原。
四、太原战役
晋中战役后，阎锡山向蒋介石请求增兵太原，由陕西战场空运来国民党整编第三十师万余人。同时，强迫部分市民和郊区农民入伍，勉强恢复其被歼部队的番号，总兵力达10万余人。在此基础之上，阎锡山又对太原周围的防线进行了重新部署。在抗战后置留日军的指导和帮助下，修筑了形形色色的碉堡5000多个。1948年10月初，阎军出动7个师的兵力，沿汾河以东、南同蒲铁路以西向南进犯，企图突破我军前沿阵地抢劫粮食、抓捕壮丁、破坏我军战役战前准备。解放军发起进攻，太原战役提前打响。先后歼灭了阎军第四十四、四十五师。紧接着，攻占了武宿机场和北营火车站以及太原东南之石咀子阵地，打开了东山碉堡防线的南侧门户。激战至11月13日，四大要塞均被我军占领。
为牵制平、津、张、唐地区国民党傅作义部不致南逃西窜，中央军委于11月16日发出暂缓攻占太原的指示。解放军加紧对太原守敌的政治攻势。国民党中央军第三十军军长黄樵松起义失败牺牲。
平津战役结束后，中央军委调解放军第十九、二十兵团和第四野战军炮兵第一师开赴太原作战。1949年4月20日至22日，解放军全歼城郊外围守敌。24日10时，将敌全部歼灭。太原解放标志着阎锡山在山西38年的军阀统治彻底结束。
五、大同和平解放
1948年11月下旬，解放军晋察冀、晋绥部队奉命向大同挺进，揭开了解放大同的序幕。驻守在大同的阎军总兵力约17000人。虽已陷入解放军的包围之中，但阎军总指挥于镇河和行政督察专员孟祥祉等人还存有幻想，不肯投降，妄图负隅顽抗。
1949年4月21日，毛泽东主席和朱德总司令发出向全国进军的命令。23日，解放军攻克南京，24日解放军攻克太原。大同守敌感到大势已去，于镇河和孟祥祉派阎军暂编第三十八师师长田尚志出城找解放军领导人谈判，表示服从解放军提出的和平解放大同的各项条款，并保证这些条款顺利执行。谈判结束以后，国民党守军当天即撤出北关，由围城部队接防。
1949年5月1日，大同宣告和平解放。至此，解放军彻底推翻了国民党在山西的反动统治，解放了山西全境。