南朝最强军队“北府兵”由谢安在376年命谢玄组建，主要招募北方流民。至383年已拥有八万兵力，关键于淝水之战击败苻坚。该军力对东晋内战及镇压起义至关重要，刘裕也利用其指挥权建立刘宋。但到450年，北府兵基本消失于南朝军事中。
北府兵在5世纪初因战争损失巨大，难以恢复。这些军队主要由流民构成，而北方已无新流民可补充。关于北府兵的招募方式和世代从军的问题，历史学家们意见不一，这也反映了南朝军事体制的变化。东晋朝廷在建康建立时，试图创建强大军队却遇到障碍。4世纪70年代末，苻坚帝国的威胁使京口附近的北方流民首领与东晋朝廷深度合作。
到了4世纪70年代，为了适应北方人担任东晋官职的需求，侨置县、郡和州的体制被建立起来。流民领袖被任命为县令和郡守，并融入军事体系。这些领袖拥有世代传承的私人军队。他们通过招揽中级军官迅速扩充军力。这一进程在4世纪中叶汉水地区也有所体现，但受益的是桓温和其继任者，而非建康的东晋政府。385年谢安过世后，司马道子成为晋朝的实际掌权者。
司马道子与子元显力图控制各州，加强中央权力。北府兵曾是支持者，却逐渐变成威胁。东晋时，刺史兼管邻州，有效防北方威胁，但也使朝廷受制于地方。权臣亲族任刺史时无问题，但到4世纪末，这种联系已失。桓玄掌控长江中游和汉水流域，其父桓温曾收复四川并北伐。
桓温以汉水流域的流民基地作为军事实力，传给儿子桓玄。长江下游的军事力量由王恭控制，他出身显贵，直接指挥北府兵。
王恭因与建康朝廷关系紧张，于397年展示军威，迫使司马道子处死两名支持者。但后来，司马道子通过策略反击，导致王恭在398年进攻建康失败。王恭被刘牢之背叛后，迅速败亡。
司马元显为强化朝廷权力，减少对北府兵依赖，于399年在都城组建军队，招募私人奴婢和农耕宾客。
孙恩起义源于南方豪族对政府征召奴婢宾客的不满，导致杭州湾南岸爆发起义。孙恩是北方大地主，但与南方精英同为天师道信徒。起义迅速蔓延至八郡，集结了十万信众。东晋派刘牢之率兵镇压，经过数次拉锯战，孙恩于402年失败后自杀。孙恩军队以船只为主，利用浙江沿海岛屿作战。刘裕在镇压中崭露头角，成为刘牢之的副将。孙恩妹夫卢循率残部南下广州，405年接受朝廷招抚，获刺史职位。
402年，司马元显和刘牢之计划征讨桓玄，但桓玄趁孙恩起义时东晋朝廷无暇顾及，控制了长江中上游。桓玄主动出击，从江陵沿长江而下，攻下建康。刘牢之叛变，助桓玄轻易占领建康。
桓玄进入京城后，杀死司马元显，剥夺刘牢之兵权并逼其自杀。403年底，桓玄称帝，国号“楚”。北府兵旧部反对这一行为。404年二月，刘裕从京口起兵，向建康进军。
刘裕获得北府兵的支持。面对反抗，桓玄退回江陵，再次举兵沿长江进攻。
404年五月，刘裕与桓玄在湖北鄂城决战。刘毅烧毁桓玄舰队，桓玄败逃后被杀，晋安帝复位，刘裕掌握实权。
刘裕专注于北伐，曾两次南征以巩固权力。410年，他击败起义军首领卢循，卢循逃亡至越南北部身亡。
412年，刘裕消灭前同僚刘毅的势力。
420年，刘裕成为刘宋开国皇帝。
刘宋开国皇帝刘裕为避免国家分裂，采用亲族担任重要职位的策略。这一策略在宋文帝的三十年统治期间有效维持了国内的和平。然而，453年宋文帝被太子刘劭杀害后，刘骏起兵击败刘劭，登基成为新帝。刘骏在位期间，尝试削弱叔父的权力但引发了内斗，并成功削弱其影响力。他还创立“典签”制度监视王族，以防叛乱，但这需要中央的支持才能实施。
刘骏于465年去世，触发了一场被称为“叔侄之战”的内乱，让人联想到西晋八王之乱。这场斗争涉及多方面精英，最终宋明帝仅能控制一郡。宋明帝在472年去世后，内乱再次爆发。他的兄弟，江州刺史，反叛进攻首都，但被萧道成阻止。
萧道成在477-478年间击败沈攸之，并在479年称帝，建立齐朝。这个朝代只维持了二十二年，其政治稳定性并未超过之前的朝代。萧道成及其继承者继续使用刘宋的政策，通过宗室成员和典签来控制各地，但效果不佳。
到了498年，萧宝卷的即位引发了更多的阴谋和叛乱，导致州郡长官纷纷起兵反抗。
萧衍，萧宝卷的族叔，在500年举兵反萧宝卷，迅速取得胜利。他的军队士气高涨，轻松征服荆州和江州。501年，萧宝卷被杀，萧衍进入建康。他在502年建立梁朝，统治了四十八年中的大部分时间。在他的领导下，尽管他三次“舍身”于寺庙并让大臣赎回自己，南朝享受了一段长时间的和平与繁荣。
548年，侯景从北朝投靠南梁后引发叛乱，攻占建康并自立为帝。但遭遇南方精英抵抗，未能有效统治。侯景死后，陈霸先于557年建立陈朝，重新统一南方。
由于领土缩减（失去四川、汉水流域和淮河以北地区），陈朝持续至589年被隋朝所灭。南朝的兴亡多因战争，其内乱常是建康周边与长江中游重镇之间的权力斗争。
刘裕和萧道成成功扩展了建康的权力，而沿长江进攻的王敦和桓玄未控制建康，但萧衍做到了。南朝分为两区，各有资源和兵源，但都未能长期稳定统治对方。
长江作为战略通道，方便了军事行动和补给运输，许多关键战役在水上进行，包括桓玄和410年的卢循的败仗。
出身卑微的将领们逐渐掌握了建康的权力顶峰，如宋、齐、陈的开国皇帝，他们倾向于提拔与自己背景相似的人掌管朝廷要职，这标志着与东晋时期的显著不同。
东晋时期，显赫家族如王敦、桓温及其后代控制了朝政和军事力量，包括北府兵。尽管这些家族拥有军事权力，他们通常不亲自参战，例如桓温更多通过影响力而非直接战斗来指挥军队。
在士族眼中，像桓温这样的人物并非典型代表，且未得到全体敬仰。他们认为他仅仅是新兴的武人，而非真正的高门才学之士。士族更重视血统、职位及学问传承，而桓温虽以儒学和博学获得尊重，但并未完全符合这些标准。
