蒙古族历来实行分封制，凡是抢掠的土地、人口，都分给子孙和功臣。如今元朝得到如此大的地盘，再搞分封明显不行了，在汉族士大夫们的建议下，忽必烈实行了中央集权制度。忽必烈按照汉族统治者的模式，建立了强有力的中央政权，设置百官，并不断加强和巩固皇权，把大权都集中到皇帝手中。
元朝幅员辽阔，各地情况不同，忽必烈把燕京、河北、山东、山西等富饶邻近的地方，作为京畿地区，由中央直接管辖，而在其他地方设立了岭北、辽阳、甘肃、陕西、河南、湖广、江浙等十多个行省，省以下设路、府、州、县，分别任命官员进行管理。另外，在吐蕃、大理等边远地区，主要依靠当地上层人物进行管理，形成了土司制度。
忽必烈依靠武力，获得广阔的万里江山。然而，打天下比较容易，只要有强大的兵力就能做到，而治天下就困难多了，光靠武力是不够的。元朝建立以后，面临着许多矛盾和问题，治理天下十分困难。
一是缺乏治国理政的能力和优秀人才。忽必烈虽然雄才大略，但治理一个庞大而复杂的王朝，还是有些力不从心。辅佐他建立元朝的汉族士大夫们，多数都是儒学大家，但实际理政能力欠缺。那些以尚武著称的蒙古官员，更是没有治理天下的经验和水平。
二是蒙古族内部很不稳固。忽必烈改变蒙古族的分封制度，实行中央集权，引起许多蒙古贵族的怨恨和不满，相继发生多起诸王叛乱事件。
三是民族矛盾错综复杂。元朝民族众多，在发展水平、文明程度、宗教信仰、风俗习惯等各个方面，都有很大的差异。元朝虽然表面上实现了华夷一统，但实际上并没有把各民族真正凝聚起来，民族政策也有一些问题，尤其在后期，致使民族矛盾尖锐复杂。
四是对南方统治不力。中国北方长期在辽、金、蒙统治之下，人们已经习惯了夷族统治，因而北方的士大夫们大多依附于元朝。可是，南方在宋朝统治下长达三百多年，民众对夷族统治十分抵触，士大夫们也多数不与元朝合作。元朝没有采取有效的政策措施，反而对南方人提防歧视，致使南方反抗不断。在元末农民大起义中，很多是在南方爆发的。
五是经济发展缓慢。蒙古人是游牧民族，不熟悉农耕，元朝建立以后，虽然也采取了一些发展经济的措施，但并不得力，效果也不明显。忽必烈建立了庞大的中央机构和官僚队伍，却很快就出现了财政危机。忽必烈先后任用阿合马、桑哥等人理财，他们不是采取发展经济、培植财源的方法，而是加重税赋，横征暴敛，导致民怨四起，社会动荡不安，也妨碍了经济发展。
因此，元朝这个华夷一统的大王朝，看上去十分庞大，但从它建立的那天起，就矛盾重重，危机四伏。所以，元朝与其他大一统王朝不同，它始终没有出现过治世，也没有起伏，而是一路下行，逐步走向崩散和灭亡。所以说，元朝是虎头蛇尾。
元朝在建立之初，最大的矛盾是在蒙古内部，许多蒙古贵族相继发生叛乱。