廖耀湘出生于湖南，是蔡锷将军的同乡，他的夫人是黄兴的侄女。

廖药箱的家庭不算富裕，但是在当地的农民群体中还算得上是小康。他的祖父是一位饱读诗书的私塾先生，曾经在村里教书，父亲则是一边种田一边读书，因为廖耀湘所处的村子交通十分方便且物产丰富，所以文化开放程度十分高。

廖耀湘这个名字寄托着祖父与父亲对他的期盼，希望他能够名耀三湘。

在廖耀湘6岁的时候，尤其祖父指导开门读书，读的是祖辈上传下来的四书五经。等到他稍微懂得其中道理的时候，满清朝廷已经江河日下。有远见的廖耀湘的父亲觉得科举制度早已经被废除了，仅凭着读古书实在是难有出息，只有出国留学才是成才的正道，1918年，廖耀湘考进县立高等小学，接受现代教育。

1920年，廖耀湘从县立高等小学毕业，成绩优异的他考入了长沙私立岳云中学。

1925年19岁的廖耀湘从岳云中学毕业，当时国内时局十分混乱，湖南的政局更是扑朔迷离，谭延凯和程潜两位老资格乡及政治家落败，就食广东，时时不忘打回老家湖南去。

在黄埔前三期的弟子中，湖南籍的学生占比很大，受到湖南时局的影响，廖耀湘也有了从军的打算，当时廖耀湘是中学毕业文化程度比较高，北上报考大学并非他所愿，而且他的家庭条件也很难供他读完大学，受到新潮思想影响，满怀少年志向的廖耀湘选择南下报考黄埔军校。

这些年供廖耀湘上学，全家几乎倾尽了财力，就连他去广州报考的路费都没有筹集到，因此他错过了黄埔五期的招生，不得已只能就近从军解决吃饭的问题，于是廖耀湘便进了赵恒锡属下的湖南陆军第三师叶开鑫的部队，从列兵开始干起。

1926年5月，廖耀湘筹集齐了去广州的路费，同年7月，廖耀祥正式报考黄埔军校第六期。

后来在抗日和国共战争，中国军中众多的将领大多都出身于黄埔前四期，而以廖耀湘第六期这样的资历，能成为领军的大将，年纪轻轻就做到了兵团司令，实在是少之又少。

1930年，廖耀湘已上市的资格被派到法国学习三年法语以后进法国圣西尔军校学习，同年回国担任国民革命军中央军校教导总队骑兵队少校连长。

1937年抗日战争全面爆发，廖耀湘被升为中央军校教导总队第二旅中校参谋主任，参加了淞沪战役和南京保卫战。

国民党政府撤退至武汉之后，廖耀湘又被提升为军官训练总队上校大队长，当时他给蒋介石提出了建军改进方案，得到了蒋介石的赏识与重用。

1939年9月，第五军奉命南下广西发起昆仑关战役，第22师作为该市的主力夺占昆仑关并歼灭日军6000余人。廖耀湘因此被赞誉为抗日英雄。1942年3月，廖耀湘将军率领新22师作为中国远征军第五军一部赶赴缅甸与日军作战。

1944年8月，在孟珙之战，密支那攻防战胜利结束之后，廖耀湘荣升为第六军军长，新六军为缅北反攻战役的胜利做出了杰出的贡献，歼灭日军数万人。

1945年国共抗战中最著名的雪峰山大战中，为保成战役的胜利，蒋介石特地命令陈纳德将军的第14航空队将全副美械装备的廖耀湘新军3万多人空运到芷江作为战役的总预备队，保障了指将会战的胜利。

抗战胜利之后最重要的问题是接收南京，当时日本人很嚣张，他们并不认为自己失败了会到南京去受降，因此在这种情况下需要一支有震慑力的部队，当时中国有正式的令立的部队是新一军和新六军，新一军还没有回国，新六军就在芷江。

几天之后，廖耀湘率领新六军奔赴南京，接受日军正式对中国战区的投降，让日军投降的心服口服。

第二次国共内战爆发之后，新六军被调往东北战场，廖耀江新六军于1946年1月抵达东北，同年5月他已经占领了长春等地，之后被林老总以游击战的打法拖住了手脚，因此未能北渡松花江。

1948年9月辽沈战役开始，中国人民解放军包围锦州，希望切断东北战场国军的退路，廖耀湘奉命去解锦州之困未果，被人民解放军包围于黑山，大虎山一带，同年10月26日，廖耀湘部被全歼，他本人被俘虏。

被俘虏的廖耀湘死活都不愿意和德胜将军韩先楚握手，进了战犯管理所之后，廖耀湘仍然非常自负，他常说自己的失败并非是自己的原因，而是上面举棋不定，一再贻误战机。

1961年廖耀湘北特设，到了1968年，廖耀湘因心脏病发逝世，一代抗日名将就这样撒手人寰。