公元310年，刘渊病逝，长子刘和继位。时间不长，弟弟刘聪发动政变，杀死哥哥刘和，自己做了皇帝，称为汉昭武帝。刘聪在位期间，派兵攻占洛阳、长安，灭掉西晋，占领了河北、河南、山西、山东、陕西大片地区。
刘聪当了八年皇帝后病逝，他的长子刘粲继位，称为汉隐帝。汉隐帝昏庸，吃喝玩乐，把军政大权委托给大臣靳准。靳准出身于匈奴靳氏部落，他有两个绝色的女儿，叫靳月光、靳月华。刘聪爱其美色，皆封为皇后，一个称为上皇后，一个叫做右皇后。
刘聪的儿子刘粲也贪恋二女美色，他继位以后，不顾辈份，强行霸占了二女。靳准心中恼怒，于是发动政变，杀了刘粲，自封为“汉天王”，并向东晋皇帝称臣。
当时有个汉人，名叫北宫纯，在前赵政权担任尚书。他见匈奴人自乱，认为是个好机会，便号召汉人起义，建立汉人政权。不料，北宫纯大失所望，汉人响应者寥寥无几，结果起义被轻松剿灭，北宫纯被杀。
公元319年，镇守长安的刘矅起兵，讨伐靳准。刘矅是刘渊的侄子，年幼丧父，刘渊把他养大。刘矅文武双全，屡立战功，靳准不是对手。刘矅剿灭靳准后，迁都长安，自己登基称帝，尊刘渊历代祖先为皇帝。
刘矅对众人说：“我们的祖先，兴于北方，当年为了收买汉人而立汉宗庙。现在，应该改国号，以匈奴单于为祖。”
于是，刘矅改国号为赵，并祭祀冒顿单于。由于刘矅的“赵”与刘渊的“汉”一脉相承，所以，史学界把这一政权统称为汉赵或者前赵。
刘矅虽然改了国号，但仍然标榜赵是天下人的政权。刘矅让儿子当匈奴大单于，自己则称为赵昭文皇帝，表示他是北方各族人的正统统治者。刘矅还积极推行汉文化，尤其推崇儒学，在长安设立太学，学生多达一千五百多人。
刘矅称帝以后，开始向西部拓展地盘，他先平定了关中、陇右一带，接着，又进兵前凉。前凉也是十六国之一，但却是汉族人建立的政权，奠基人是张轨。张轨担任晋朝的凉州刺史，西晋灭亡后，张轨的儿子建立了前凉政权，割据一方，统治范围包括甘肃、宁夏西部和青海、新疆的一部分地区。
公元323年，刘矅亲率二十五万大军，西征前凉。当时前凉的统治者，是张轨的儿子张茂。张茂自知难以抵抗，便献上牛羊珠宝，向刘矅称臣。刘矅封张茂为凉王，任命为西域大都护，旋即班师。前赵灭亡后，前凉重新独立割据，后被前秦所灭。
刘矅在不长的时间内，平定关陇，降服前凉，威名大震，不禁飘飘然起来，产生了骄傲情绪，听不进不同意见，而且沉湎酒色，耽于享乐。
刘矅没有想到，这个时候，他的身边正卧着一只猛虎，那就是前赵著名大将石勒。石勒雄才大略，蓄势已久，即将猛扑过来，给前赵政权