鲁大昌，字嵩龄，临夏县黄泥湾人。自幼丧母，由其舅母代为操养。至七、八岁，送到城内姬家巷（今自由路）祖父母家里，同其叔鲁有才（继祖母所生）在李光斌的私塾读书。
不数年，叔侄不和，时常打架。祖母偏袒亲子，对鲁大昌异常憎恨。祖父为避免自己生气，又因鲁大昌提出“他念书我不念书”的要求，允如所愿，听其缀学就商。从此叫他摆摊子、当货郎、当脚夫，但均不适合他的口味。终于乘隙窃取了五百制钱，于光绪末年逃至循化，由其兄鲁大元（时在循化参将罗开福的部下当兵）介绍，投入罗开福部当勤务兵。
一九一一年，马安良将罗开福部编为精锐西军附中营，调赴陕西攻打乾州时，因鲁生性刁悍，又与罗开福脾气相投，被罗提升为随身护兵（称呼大旗）。在攻城中，他奋勇向前，胳膊、腿子和腰间三处受伤，更得罗的见爱。后来罗部由陕西退回，驻防临夏。期间，他持罗开福放纵，为所欲为，经常喝酒赌博，行凶打架。
一九一五年，罗开福辞卸了附中营营长职务，东归湖南原籍，鲁大昌也随之而去。因罗与湖北督军王占元有些瓜葛，便在王部的第七师邓子嘉旅窦郎轩团当了第二营营长，给鲁大昌也委了个排长，旋升连长。罗死后，他还代理过几天营长。
罗开福死后，鲁大昌便失去了靠山。一九二一年，鲁大昌脱离王占元部后，曾一度浪游京沪，混迹于烟花柳巷。在穷无聊赖之际，欣闻陆洪涛升任甘肃督军，他即用甘肃旅沪同乡名义，自己领衔，由上海拍发了一个拥陆的电报，遂即返归。
路过平凉时，以卸任营长的身份，觐见张兆胛，备极恭维。张以他为“后起之英”，给陆洪涛拍电保荐。鲁到兰州后，就被陆洪涛委了督署行营副官。过了两三个月后，他为了在部队中谋个实力权位。便央请临夏进士邓隆，用“久不乘马，髀肉重生”的故事，写了一份辞呈，递送上去。此事深得陆的幕僚樊鼎枢的赞赏。不多几日，就委任鲁大昌为宋有才部张志远营的中哨哨官兼帮带。
一九二二年农历正月二十一日，宋部由兰州拱星墩开拔，移驻临洮东校场营房。后经改编，鲁升任步一团第三营营长。从此，他极力改变原前的面貌，一下操场，就脱掉军服，穿上长袍短褂，打扮成文雅风流的样子。他本来读书很少，不过粗识文字，而此时却模仿文人，装腔作势，每天写大字成百，朗诵古文一二篇；称赞诸葛亮“出将入相”，又慕羊祜“儒将风流”。在他住宅的门上，写着“敢言缓带，轻裘羊叔子；自是纶巾，羽扇武乡侯”的楹联。每与士绅往来，总是高谈阔论，很难识透他是一个“绣花枕头”。
一九二六年春，吴佩孚电令陇东镇守使张兆甲与陇南镇守使孔繁锦围剿冯玉祥西北军，妄图消灭冯玉祥在甘武力。张兆甲过分低估刘郁芬的势力，且为了抢夺甘肃督军宝座，未与孔繁锦取得联系，抢先出兵，派所部刘福生、韩有禄率十营兵力，进军定西。
驻定西之西北军梁冠英略加抵抗后，一面缩短战线，据险防守，一面集中兵力，向驻阿干镇之黄得贵部发起猛烈进攻。黄部无力抵抗，即派员向驻在临洮的宋有才部求援。宋有才未战先怯，犹豫不决，便于农历四月初六日晚上，召开军事会议，进行研究。
会上，鲁大昌首先发言，坚持参战，并自告奋勇，愿打头阵。经宋有才勉强同意后，鲁大昌立即回到营部，带领九、十两连，当晚出发，昼夜兼程，于初八日午后到达关山（即今兰州附近七道梁一带）。
正值黄部溃逃，鲁大昌与追兵遭遇。他凭着一股锐气，横冲乱杀，即将西北军击退，占领了狗娃山山顶。
初九日拂晓，西北军集结了约一营兵力，向鲁大昌据守的阵地发起猛攻。鲁大昌惯打白刃相接的交手战，与西北军展开肉搏，并屡用莽撞的“牦牛阵”，数次击退西北军。这样连续激战三天，西北军终未得手。
西北军遂变换战术，于十三日拂晓前，从侧面发起进攻，鲁大昌猝不及防，且右臂受伤，遂撤退回防。此次关山战役后，西北军把他视为劲敌，多次在其战报上出现鲁大昌的名字；张兆甲所部官兵把他捧为“关山战役的英雄”，博得“勇敢善战”的声誉。加之，此时刘郁芬在甘肃征调频繁，差徭过多，以致民怨沸腾，所以民间吹捧鲁大昌者殊不乏人，在社会上也产生了很大“影响”。这为鲁大昌后来的飞黄腾达，盘踞洮岷，创造了条件。
关山战役失败后，宋鲁互相推卸责任，遂产生矛盾。宋认为这场大祸，是由鲁大昌闯下的；而鲁大昌认为，此次作战中，宋有才措施失宜，以致贻误军机。所以，溃败至官堡（今渭源县会川镇）以后，鲁不听宋有才退却陇南的军令，单独退到岷县，企图脱离宋部。
一九二七年春，西北军由临潭和中寨两路，步步进逼。在此形势下，鲁便退到西和，又投入宋有才的怀抱。而陇南镇守使孔繁锦未征求宋的同意，委任鲁大昌为宋旅第一团团长（原团长郑席儒因通敌嫌疑，溃退时潜逃）。嗣后，他更趾高气扬，对宋有才的态度愈加骄横，当时有“跋扈将军”之绰号。
后来，西北军的张维玺将孔繁锦赶出天水，驻西和的宋旅也全部撤退，由武都、碧口到了勉县，投向吴新田，被编为步兵第八旅，鲁大昌为十五团团长。先调驻安康，后换驻与安康接壤的湖北平利，一九二八年张维玺又将吴新田赶出陕南，宋旅溃退到汉阳，遂被李宗仁部夏威师缴械。
从此，鲁大昌又奔走京津沪汉。虽是故地重游，但这一次失败之刺激，与前次之罢免，迥然不同，加之资费告乏，借贷无门，又不敢公开回到家乡，茫茫然如丧家之犬。但是虽在穷途末路，他本性总是难移。不久他抓住蒋介石为捣乱冯玉祥军的后防，搜罗失意旧军官的机会，通过蒋的帮凶何成浚，讨到了“甘肃讨逆军”第二路司令的官衔。
后经过四川万县觐见吴佩孚，又讨了个“甘肃自治军”总司令的职位。到了灌县，适逢家乡的脚夫顾开基准备回临夏。遂商议同行，给他资助了路费。经过茂汶县到达松潘后，雇了一条牦牛，骑到甘南陌务地方，隐匿在一个藏民家里。在藏族头目的协助下，他搜罗了两三匹马，两支坏枪，打着“甘肃自治军”总司令的旗号，利用他在当营长时的影响，进行活动。
他先从收买临潭、岷县两地的警察着手，赶走了两个县长，劫夺了两县准备解省的烟亩罚款五、六万元。后又收抚了洮、岷、漳等县的几股土匪，发饷发服装，以广招徕。他还用恫吓手段，缴获省方派援天水、逗留陇西不进的郭安学所部步枪二百多支，迫击炮、机枪各几门，以及弹药、骡马等。
嗣经筹划考虑，感觉蒋介石的旗帜要比吴佩孚的鲜明些，便又用了“甘肃讨逆军”第二路司令名义，继续活动。后来，又缴获雷中田的一批武装。随着实力逐渐雄厚，他从一九三零开始，先后霸占了岷县、临潭、漳县、陇西、洮沙、临洮、渭源、武都、西固（今舟曲县）、文县、武山、西和、礼县、甘谷等十四县，形成了割据一方的局面，并盘踞七八年之久。
一九三一年，国民政府给鲁大昌一个新编十四师的番号。一九三五年九月初，鲁大昌凭借腊子口天险，企图堵截中国工农红军北上抗日。腊子口是迭部县的一条峡谷，是川甘两省的天险门户，悬崖绝壁，有“一夫当关，万夫莫敌”之势。
鲁大昌用三个营的兵力扼守在这里。红军为了攻克腊子口，组织部队一面从正面进攻，一面沿着东边陡峭的石壁，带着绳索，利用山上的树木，一个一个地爬上去，然后迂回到守敌侧面，用手榴弹袭击，以配合正面的进攻。经过一昼夜的激烈战斗，鲁部三个营全部被击溃，溃逃到岷县县城。1936年12月国民党政府 “论功行赏”，改番号为中央陆军一六五师。旋由部下以用人不当，唯亲可用（指其子鲁敏当特务团团长），财政不公（每月经费十二万元，以七万元分配）等控告。
经由第八战区司令官朱绍良进行调查后，作了处理：用人方面，参谋长一职，由中央委派，准鲁敏辞职，保送陆大受训；财政方面，由中央派了韩琦为军需处长，强调财政独立。经过这一番的内部矛盾，蒋介石为了消灭杂派，造成“青一色”的全国武装，乘隙夺去实权，委任甘肃的黄埔一期学生王治歧接替了其师长的权位，给鲁大昌封了个新编第二军军长的官职，后来又挂了个第八战区东路总指挥的空头衔。
此后，他住在兰州，用在陇西等十多县残酷剥削所得，又通过中国银行借贷，在七里河大兴土木，修建高楼大厦，过起极为奢侈的豪华生活。他还在家门口悬起“总指挥部”的大牌，以“高级将领”的身份，出没在高级军政官僚集团之中，给蒋家王朝装点门面。
此外，他利用其身份，交结银行老板，作囤积居奇的生意，发抗战财。一九四六年得到谷正伦的支持，选为国大代表。一九四九年解放时，一度逃居岷县。后被人民政府管押劳改，期间因病保外就医。一九六二年十月一日，在兰州病亡。
