刘秀平定陇西军阀隗嚣后，准备南伐蜀帝公孙述，而就在这时，出现了一个很大的问题。
原来，在陇地后方的金城郡（治今甘肃兰州西北），本与西羌聚居地西海郡（注1）相邻。当年赵充国平定西羌，自此历西汉一朝，羌人都少有叛乱，可到了王莽乱政，四夷内侵，西羌也开始蠢蠢欲动，屡次入寇金城、陇西。对此，隗嚣的策略是与之交好结盟，即放任羌人定居金城，以此为代价征发羌军与汉军为敌。至隗嚣败亡，西羌当然不服汉朝，屡次作乱，甚至深入到了陇西重镇临洮（今甘肃岷县）一带，如此后方起火，对于汉军南征是非常不利的。因此汉军统帅来歙上书刘秀，表示：“今陇西侵残，非马援莫能定。”于是，建武十一年夏，刘秀便将熟悉凉州情况的马援拜为陇西太守，率步骑三千人前往平乱，以稳固西北局势，保障汉军伐蜀全局战略。
这一年，马援四十九岁，这迟来的独当一面，让这员老将欣喜若狂。数十年等待与蛰伏，总算没有白费，至此临洮一役，终于拉开了马援辉煌军事生涯的序幕。
面对气势汹汹的诸羌联军，马援擒贼先擒王，对其首恶先零羌发动了一次突袭，先零羌措手不及，数万大军竟败于马援三千步骑之手，然后就是一路溃逃，又被汉军追斩首级数百，其马、牛、羊等牲畜万余头全成了汉军的战利品。其余诸羌部落闻风大惧，哭爹喊娘、面壁裂墙，连忙弃守陇西诸塞，集体向汉军投诚，马援不费一兵一卒又收降叛军八千余。
不久，伐蜀北路军总指挥来歙在河池遇刺身亡，副总指挥盖延又忽生重病，刘秀焦头烂额。就想着把马援调去伐蜀，可就在这时，后院又起火了！逃回金城郡的先零羌余部又纠集数万羌兵人，据守浩亹（注2）要塞，以此为基地，四处抢掠作乱。刘秀只得放弃前议，让马援率军西入金城郡，进剿浩亹关。
羌人早已见识到了马援的厉害，不敢轻敌，竟将家眷与辎重充塞在允吾谷（允吾音铅牙）里阻截汉军，企图负隅顽抗！深入敌境，利在速战，马援才不跟羌人磨耗，于是广发军探，寻得一条秘密小径，大军沿小径从天而降，又一次端了羌军营寨。羌军又是措不及防，又大惊崩坏，又远逃至唐翼谷中据守。马援乘胜追击，至唐翼谷，羌人已重整旗鼓，又在北山聚集精兵，居高临下占有地利，欲做最后之拼死恶战。
马援不喜欢持久战，但更不喜欢恶战。他就是喜欢奇袭，喜欢你，没道理。
当然，奇袭也要有变化，不能次次一样，还得讲究“奇正配合”。马援这一次，先让大军在正面列阵，往山上佯攻，暗地里却派一支数百人的骑兵绕到羌军侧背，待天黑之后冲入羌营，趁夜放起火来，同时击鼓叫噪，虚张声势。羌人一时也不知有多少汉军袭来，又一次大乱惊溃。马援见机立刻发动正面总攻，大军掩杀过去，也不知多少羌人在夜色中稀里糊涂成了刀下之鬼。马援杀得兴起，身先士卒，亲冒矢石，却不幸被一支乱箭射穿小腿，黑夜里也无人知晓，而他就这么强忍剧痛挨了一夜，直到第二天早晨战争结束，大家这才发现马援受了重伤，皆大惊怒，纷纷自告奋勇，请求继续追击羌军余部，为将军报仇血恨。马援却以汉军兵少，不宜深追穷寇，而收其谷粮畜产而还。
经此一战，气焰嚣张的先零羌一蹶不振，其诸羌领导地位也被另一部落“烧当羌”所取代。
另外一边，刘秀听说马援受伤，非常心疼，赶紧下诏慰劳，并赐以牛三百头与羊三千头给马援养病，说你多吃点烤羊腿牛蹄筋好好补补吧。马援却像往常一样，又把这些赏赐分给了辛苦的将士们，一根毛都没留。
此后，金城郡内的数十万羌人，一部分逃回了西海郡，一部分被迫投降了汉朝，刘秀将这些投降羌人全部内迁至天水、陇西、扶风三郡，以就近掌控，并利用他们来打击匈奴。这本是个“以夷制夷”的好计，结果在后来却成为了东汉朝最大的一个政策失误。
我们都知道，当初汉武帝派兵迁民控制河西走廊，很大程度上就是为了切断羌与匈奴的联系。可如今东汉朝一打败他们就往河西与关中迁，而这片地区在两汉之交被祸害的最多，汉人本就已经很少了，如今又迁来这么多异族，人口比例失调，自然会引发民族矛盾，进一步激发叛乱（注3）。可后来东汉朝廷却还持续不断地把更多的羌人内迁以守卫北边（注4），最后甚至逾越了“以夷制夷”的政策，让羌胡雇佣兵来镇压国内起义，这就使得西北武人集团的力量日益强大，且日益失控。
失控的主要原因，还是东汉朝廷自信不足，为压制原先效力于隗嚣的凉州地方势力，而有意大量任用关东人出任凉州官员乃至护羌校尉。这些关东人的根基和利益都不在凉州，他们既不擅羁縻羌人，又肆意贪污，压迫边民。特别是号称宽厚长者的汉章帝执政以后，朝廷吏治日益宽松，以至汉和帝时，“西州豪右并兼，吏多奸贪，诉讼日百数”（《后汉书·陈宠传》）；还有汉桓帝时，皇甫规（难得的凉州本地出身高官）在凉州整顿吏治得罪了不少人，免官回乡后竟遭到凉州贪官百余人的攻讦与毁谤。所有这一切，都使得凉州、关中诸郡数百万“汉化羌人”与“羌化汉人”与东方朝廷之间的离心力越拉越大，最终才导致双方积郁了百年的矛盾在董卓进京后彻底爆发。
当然，造成这种情况的最根本原因，还是关东豪族对西北土地的轻视。与西汉不同，东汉的政治与经济中心在洛阳，起家的军事力量则在河北与幽州，所以朝廷里充斥的都是关东士大夫，他们对西部和西北地区的安全利益缺乏兴趣，对于西北的羌民乃至西北的士人都看低一等，而在人才选拔上偏向于人口富庶的关东（注5）。比如东汉中后期有一位大学者王符，学问渊博，才华横溢，但只因为他是凉州安定郡人，所以连个孝廉都举不上，结果一生蹉跎，竟未能进入仕途（注6）。其实凉州士人文化水平并不低，但他们政治边缘化，文化遭歧视，不仅“束修良吏，进仕路狭”（和帝永元十三年诏），甚至就连立下了赫赫战功而又学识渊博的顶级儒家精英“凉州三明”都被朝廷卸磨杀驴、被关东名士冷落歧视，则更别说那些蛮夷化的凉州中下层武人了。
我们都知道，在西汉时期，“六郡良家子”是长安羽林、期门、郎卫的主要来源，甚至也是西汉各大名将功侯家族的重要来源；然而到了东汉，董卓这些六郡良家子却被视为“羌胡之种”，即便战功卓著，但如不向关东名门士族摇尾效忠，则连半点政治利益都沾不上（注7）。所以最终，他们拒绝像他们的前辈“凉州三明”那样交出兵权，而是冲进京城大闹一场，结果将病入膏肓的东汉帝国彻底葬送，并由此开启了汉末乱世与五胡乱华的悲情乐章。
总之，东汉统治集团对凉州的漠视是非常根深蒂固的。事实上，早在马援平羌这一年，就有朝廷官员认为：湟中地区（金城郡破羌县以西，今甘肃乐都、西宁一带）道路遥远又多变乱，实在没什么战略经济价值，且行政费用太大，不如内迁其汉民而弃予羌胡。
图：湟中谷地
对于此弃地提议，马援当然是极力反对的，于是他立刻上书朝廷：“破羌以西城多完牢，易可依固；其田土肥壤，灌溉流通。如令羌在湟中，则为害不休，不可弃也。”马援认为湟中水土极佳，利于汉人农耕，如此沃野，岂能轻易放弃？而且此举等于主动缩减防卫纵深，从此汉军将无法再依托长城作战，等于自废武功，白白浪费了秦皇汉武耗尽民力留给后人的长城大礼包。总之，若湟中不保，则我河西地区必将受到北方匈奴人与西方羌人的夹攻而不保，而河西不保，则陇西关中将成为前线，通往西方的贸易路线也将被匈奴人控制，长此以往，匈奴人必将称霸中亚，则大汉危矣！
刘秀一听言之有理，赶紧收回成命，下令武威太守（武威郡即今甘肃武威，在金城郡北）高山侯梁统，将内迁至此的三千湟中汉民再遣返回去。为了进一步加快西部大开发，马援又奏请朝廷，在金城郡各县设置长吏，修缮城郭，建立坞候（防羌人掳掠的小城堡），兴修水利，劝以耕牧，郡中百姓从此安居乐业。肥沃的湟中谷地，又恢复了当年的兴盛景象（注8）。
接着，马援又积极展开外交，说服塞外西羌部落首领前来与汉人通婚。对于武都郡内背叛公孙述前来投诚的氐族人，马援也上奏朝廷恢复其王侯君长之位，并赐以印绶。刘秀对马援言听计从，一律照办，并将镇守武都郡的马成大军也调回了洛阳。
刘秀决定赌一把，把整个西北局势交给马援，以腾出人手到经济建设方面去，东汉初始，哪里都缺人啊！比如说马成吧，大司空李通因病辞职，他就得赶紧调回洛阳弥补空缺，主管各方营造之事。
刘秀赌着了！在马援的坐镇之下，凉州又太平无事了一年。直到建武十二年十一月、公孙述被灭、天下初定之时，陇蜀交界处的武都郡突然出事儿了。
注1：即今青海湖一带，乃当年王莽为了宣扬自己威德加于四海而用重金收买羌人内附而新设的郡（因当时已有北海郡、南海郡、东海郡），为了稳固这块地盘，王莽还增加了五十条法令，以便增加成千上万的罪犯，移民而充实之。但天下大乱后，新莽政权无力顾及边疆郡县，羌人遂又趁机夺回了故土，西海郡也随之废弃。
注2：浩亹音合门，在今甘肃永登县西南、大通河东岸，其地势水流峡山，岸深若门，奇险无比。
注3：见《后汉书·西羌传》引班彪上疏：“今凉州部皆有降羌，羌胡被发左衽，而与汉人杂处，习俗既异，言语不通，数为小吏黠人所见侵夺，穷恚无聊，故致反叛。夫蛮夷寇乱，皆为此也。”
注4：东汉初期，羌人还只是内迁到西北边郡，到了东汉中叶，不仅关中三辅，就连长安附近的京兆尹，都迁来了相当多的羌族（《后汉书·西羌传》）。
注5：西汉察举以郡国为单位，不论郡国大小，人口多少，每年每郡国举孝廉二人，以网罗天下人才而不致偏颇（明清时科举考试实行分省分榜，也是为了兼顾各省的利益）；可东汉察举自和帝之后却以人口为单位，每二十万口，岁举孝廉一人。而我们知道，东汉西北边郡人口稀少，很多郡的人口还不到五万，朝廷按此标准进行察举，明显是偏向关东。
注6：故王符在其著作《潜夫论》中不仅对东汉的西北察举制度大感抱怨（十岁不得举……衣冠无所觊望），也对关东人漠视羌乱的情况痛心疾首：“往者羌虏背叛，始自凉、幷，延及司隶……周回千里，野无孑遗，寇钞祸害，昼夜不止，百姓灭没，日月焦尽。而内郡之士，不被殃者，咸云当且放纵，以待天时。用意若此，岂人心哉！”
注7：其实，东汉打压关西豪强的政策，与西汉迁徙关东豪强的政策，只是同一件事的两面，都是为了中央集权与强干弱枝；只不过由于外患比较集中在关西，所以显得东汉王朝特别犯傻。
注8：只可惜，七十多年后（公元110年），一次更大规模的西羌叛乱爆发。在关东士大夫的怂恿下，汉安帝最终下诏放弃了凉州西北部大量地盘，“陇西徙襄武，安定徙美阳，北地徙池阳，上郡徙衙”，将这些西北边郡的治所纷纷南迁向关中靠拢。从此，东汉边军也再无法像西汉时那样依托长城作战，而只能在三辅乃至河北地区修筑邬堡，屯兵备守（见《后汉书·西羌列传》：“诏魏郡、赵国、常山、中山缮作坞候六百一十六所……筑冯翊北界候坞五百所”）。西北局势遂日益败坏。然而到了东汉末年，仍有出身关东世族的司徒崔烈等人建议放弃整个凉州，随便边章、韩遂等人闹个够。
