1987年春，开国少将鲁瑞林到北京检查身体。在这期间，他见到前外交部副部长、文化部部长黄镇同志。两人在红军时期是红5军团的战友，很自然地聊起了一些当年的往事。
黄镇对鲁瑞林说：“瑞林同志，你一生的经历很传奇！从一个马夫成为开国少将，后来又当上了大军区副司令。你的这条坎坷历程在我们这些人中很有代表性，应该把它写出来，启发后人，教育后人啊。”
鲁瑞林摇了摇头说：“你还不知道我的文化水平，我是从小拍牛屁股长大的，这担子我怕挑不起来啊。”
黄镇继续鼓励他：“文化并不是知识的全部，你有丰富的军事知识，这也是知识的一部分啊。你的经历不是一般人能有的，写下来，我想对后人是有益的，我们红五军团的老战友一定都希望你写。”
鲁瑞林听后感到黄镇说得有道理，开始着手筹备回忆录的撰写。两年后，他的回忆录《从马夫到将军》在全国出版，一经问世，就引起了国内读者的广泛关注。
鲁瑞林一生的传奇，要从一次受骗说起。1928年秋天，17岁的鲁瑞林正在避难所的窝棚里休息，突然来了一队军人，为首的军官说：“老乡们，你们在城里没有柴烧，我派了一个班的的弟兄保护你们到城外砍柴烧，自愿去的随我们出城，谁砍到柴就谁的。”
话音刚落，一百多个年轻小伙子就报名参加了，鲁瑞林也在其中。他们出城后每人扛了二三百斤的柴满载而归，晚上回城后，他们被集中在一个小院里，柴火全部被没收，所有人也都被扣下了。第二天，这些人就被编进了西北军冯玉祥的部队。鲁瑞林就这样稀里糊涂地成了一个军队马夫。
中原大战后，冯玉祥的26路军被调到江西，参加对中央苏区的第二次“围剿”。蒋介石怀揣诡计，想用西北军当炮灰，剿灭红军，达到他“一石二鸟”的目的。在赵博生、董振堂的领导下，26路军发起了著名的宁都起义，宣布改编为红一方面军第5军团。从此之后，鲁瑞林这个炮兵连的马夫获得了新生。
部队改编后不久，鲁瑞林在马厩喂马，听到楼上的几个连长和班排长在密谋哗变，他们不满革命队伍的严格纪律和官兵平档，想把部队拉出去重新投靠国民党，他们的计划是找指导员请假闹事，趁机打死指导员和支部书记，然后把部队带出去。鲁瑞林听后吃了一惊，立刻把这件事汇报了上去。
几天之后，这几个连排班长果然气势汹汹地找到了指导员请假，他们当场被逮捕，哗变阴谋破产。鲁瑞林因为这次的表现，不久后就晋升成为连指导员。
他在此后参加了第四次、第五次反“围剿”，期间因为在新桥战斗中的杰出表现，获得上级嘉奖，《红星报》登报表扬，鲁瑞林凭借战功升为营长。
长征期间，鲁瑞林所部和红5军团一起，承担了红军后卫的任务，鲁瑞林所在的那个营，是全军的殿后营，经历了无数艰险的战斗。长征到达贵州时，鲁瑞林的这个营几乎拼光了，遵义整编后，鲁瑞林被调到红5军团最强的教导营担任营长。
1936年，红军来到了鲁瑞林的老家甘肃，为了让他更好地发挥本地人的作用，组织调鲁瑞林担任91师民运科科长，负责在当地为部队筹粮，建立区政府。鲁瑞林完满地完成这个任务，后来他被调入刘伯承指挥的援西军，担任红31军后勤部政委（萧克为军长），负责为援西军筹集钱财物品。
全面抗战爆发后，中央以援西军为主体，组建了八路军129师，鲁瑞林调任129师政治部组织科科长。1939年，鲁瑞林被送入北方局党校学习，毕业后率领先遣支队进入太行山，担任太行五分区政委，和他搭档的，是著名的开国中将皮定均。后来，鲁瑞林还给陈锡联上将当过副司令员。
日本投降后，太行军区的二、三、四分区合并为第二军分区，鲁瑞林担任司令员，接着很快晋升为太行军区副司令员兼参谋长，和秦基伟司令员搭档。
刘邓大军挺进大别山后，鲁瑞林所部被留在了晋冀鲁豫军区后方。1947年6月，徐向前元帅从陕北来到晋冀鲁豫，担任晋冀鲁豫军区第一司令员，负责解放山西的重要人物。此后，鲁瑞林又在徐帅的领导下，参加了临汾战役、晋中战役、太原战役等重大战役。
太原战役结束前，鲁瑞林所部改编为解放军第18兵团61军，鲁瑞林担任副军长（军长韦杰），后调任62军政委（军长刘忠中将）。
太原战役结束后，中央决定将18兵团划归一野，交由彭德怀指挥，参加解放大西北的战斗。自此，鲁瑞林又来到了彭老总的麾下。
在进军大西北期间，彭总曾3次找到鲁瑞林，问他是不是西北少数民族，因为当时我们急缺这种干部。鲁瑞林回答自己不是，但对其风俗非常了解，如果组织需要，我可以随时随俗。彭总听后摇了摇头说：那还是算了。
事后鲁瑞林才知道，彭总当时只要确定鲁瑞林是少数民族身份，就任命他当青海省委书记。但他不是。
后来，18兵团又在贺龙元帅的率领下进入四川，鲁瑞林因此又参加了进军大西南的战役。
鲁瑞林一生在军队里出生入死55年，最令他的骄傲的是，他曾直接在4位开国元帅（刘伯承、徐向前、彭德怀、贺龙）的领导下战斗过。
1955年全军大授衔时，鲁瑞林的职务是昆明军区副司令员兼参谋长（司令员为谢富治，开国上将；另一副司令员为秦基伟，开国中将）。按照鲁瑞林的资历和职务，当时组织给他评的军衔是中将，但由于受到所谓“临夏事件”的影响，最后鲁瑞林仅被授予少将军衔，行政级别为6级。鲁瑞林就这样低衔高就，以开国少将的身份，担任着一级军区副司令员的职务。
后来，组织查清事实后，对鲁瑞林忍辱负重，胸怀坦荡的品质非常欣赏，当时授衔已经结束，无法重新评衔。毛主席等军委领导于是特批让鲁瑞林以少将军衔享受中将待遇。鲁瑞林也因此成为了当时全军中唯一一个享受如此待遇的开国少将。
