梁兴初将军是东野老将，与黄永胜、吴法宪等人关系比较亲密，双方时常有书信、电话来往。60年代中旬动荡爆发后，梁兴初虽然意识到黄、吴等人“有问题”，但碍于老战友的情面，他也不能对黄、吴避之不见，只能尽量保持客观立场。

1970年，党中央在庐山召开了一次工作会议，会上康生等人为了谋求更多的权势，提议恢复此前被废除的“国家主席”一职。而为了争取支持，康生等人在会场大肆拉帮结派，搞“山头主义”，梁兴初原本不想掺和这件事，可黄永胜、吴法宪却不断给他“灌迷魂汤”，引诱他为康生站台。梁兴初最终被逼得没办法，只得倒向康生，并在会上发表了一系列“不合时宜”的言论。

毛主席一眼便识破了康生等人的阴谋，随后在会上点名批评康生，这直接导致康生的政治生涯走向终结。会后，梁兴初也意识到了自己的错误，连忙向党中央上书致歉，但党中央却并没有给予梁兴初答复，他为此更为不安、惶惶不可终日。

1971年，林彪意图对毛主席不利，抢夺人民政权最高权力，好在主席及时察觉到了不对劲，迅速采取雷霆手段予以反制。而林彪眼看阴谋败露，便携家眷乘机外逃，结果飞机在外蒙境内失事，机上乘客全部遇难。

此事很快便在党内引发了轰动，毛主席随即下令彻查林彪的党羽，清除革命队伍内部的害群之马。很快，黄永胜、吴法宪便被隔离审查，与此二人有过密切接触的梁兴初随后也遭到革职关押，负责审理梁兴初的人坚定的认为梁在庐山会议上犯有重大过错，甚至有“反党”之嫌。除此之外，梁兴初还在1968年、1969年两次到林彪家中做客，这足以证明他是林彪的“爪牙”。

梁兴初则解释说，自己在庐山会议期间受了黄永胜、吴法宪的蛊惑，这才犯了错误，党组织既然要处罚自己，自己也无话可说。至于到林彪家中做客，第一次仅仅只是喝茶，并没有聊什么出格的事；第二次是看电影，当时林彪还邀请了其他同志，约莫有二、三十人，期间林彪只是象征性的和梁兴初握了手，连话都没有说，看完电影后梁兴初便径直回家休息了。

然而，审理人员显然不相信梁兴初的说辞，最终还是认定梁兴初有罪，梁最终被勒令离开部队，转往某工厂挂职锻炼，他此前获得的表彰和荣誉也一并被收回。动荡结束后，梁兴初返回北京，在没有任何名分的情况下居住在西京宾馆。和梁兴初有同样遭遇的老同志还有很多，但大家后来都陆续获得了平反，重新回到工作岗位，唯独梁兴初一直处于一个“不上不下”的尴尬状态。

梁兴初为了解决这一问题，不断给党中央写申诉信，希望组织上能出面为自己平反昭雪，党中央随后将梁兴初的卷宗交给中纪委负责人黄克诚将军复核。黄克诚向来刚直、公正，他对于梁兴初的遭遇深表同情，于是便极力为梁正名，最终，经过不懈的努力，梁兴初在1980年收到了党中央下达的平反文件，他至此彻底摆脱了负面影响！

同年下旬，叶帅突然找梁兴初谈话，准备安排他到济南军区或者沈阳军区任职，继续为国防建设做贡献。然而出人意料的是，梁兴初却婉拒了叶帅的好意，他直言自己已经年过七旬，精力衰微，已经没办法再继续从事革命工作，眼下他只想退休，安享晚年。1981年，中央军委批准了梁兴初的离休申请，安排他到西山疗养，并特许他享受大军区正职干部待遇。

1985年下旬，梁将军突然受凉感冒，秘书连忙将他送往医院治疗，这本不是什么大事，只要挂几天吊瓶就能痊愈。但谁都没想到，就在住院第四天，梁将军突然感觉胸闷气短、呼吸不畅，他连忙向医疗人员呼救。医疗人员随即对梁将军展开急救，结果却毫无成效，梁将军在当晚12点左右溘然长逝。

事后，有人觉得梁将军去世的太过蹊跷，所以便提议对他进行尸检，以确定真正的死因。但梁兴初的妻子觉得死者为大，不愿再搅扰、折腾丈夫，所以坚决拒绝了尸检的建议。梁将军的遗体在火化后在八宝山下葬，而他在江西的故居随后也被开发为红色人文景点，供后世游客参观、瞻仰。