这个时候，益州也发生了兵变，建立谯蜀政权，脱离了东晋。刘裕当然不能容忍，派兵灭掉谯蜀，巴蜀地区重新纳入东晋版图。
不久，皇室司马休之父子作乱，割据荆、扬二州，刘裕派兵剿灭。至此，经过几年连续征战，南方各个割据势力全被刘裕消灭了，东晋出现了百年来未有的统一局面。
公元417年，刘裕统一东晋之后，趁后秦内乱之际，率军再次北伐。刘裕兵分四路，声势浩大，后秦军队闻风溃逃。晋军进展神速，五个月时间，就攻占洛阳，收复了河南全境。接着，挥师西进，突破潼关防线，一举攻陷长安。后秦皇帝姚泓率群臣投降，后秦宣告灭亡。
刘裕通过两次北伐，灭掉了南燕、后秦两国，攻占洛阳、长安两座都城，收复了淮北、山东、河南、关中大片土地，使东晋版图空前扩大，刘裕也因此威名远扬。
刘裕在军事上取得巨大成就，在治国方面，也表现出非凡的才能。刘裕针对东晋长期存在的各种弊端，大刀阔斧地进行了一系列改革。他首先改革的，是用人制度。刘裕结束了长期存在的门阀专政时代，开启了按才能选拔官吏的新篇章。
东晋时期，中央和地方的大权，一直掌握在王、庾、桓、谢四大家族手里，选拔官吏，主要依据出身门第，都是名门大族的人当官，寒门出身的人很少，致使大量庸人充斥朝廷，这是东晋长期不能兴盛的重要原因。
刘裕出身寒门，对门阀专政深恶痛绝，也深知其弊端，于是，他果断抛弃了这一极不合理的用人制度，提拔重用了大批寒微之人，为东晋政权注入了新鲜血液，呈现出新的生机和活力。更加令人称道的是，刘裕首创采用考试的办法选拔官吏，这是科举制度的萌芽。
在政治上，刘裕致力于削弱强藩，强化中央集权，减少州府官吏和军队的数量，防止他们拥兵自重；在吏治上，刘裕严格整顿，对“骄纵贪侈，不恤政事”者，予以严厉惩罚，甚至处死；在经济上，刘裕实行轻徭薄赋政策，多次下令减免税役，减轻百姓负担，发展生产；在文化上，刘裕推崇儒学，重视教育，加强对汉文化书籍的保护，注重改善社会风气。
刘裕执政以来，凭着卓越的政治、军事才能，用了十几年时间，使东晋政局稳定、疆域拓展、政治清明、经济发展、人民安居乐业，开创了一个崭新的局面。刘裕的卓越功勋，受到人们的广泛赞颂。
这个时候，东晋的最高统治者，仍然是那个分不清春夏秋冬、生活不能自理的白痴皇帝。刘裕与傻皇帝相比，何止强一万倍。因此，刘裕代晋称帝，就是顺理成章、理所当然、天经地义的事情了。