315年9月，匈奴皇帝刘聪命大司马刘曜率兵发起对长安的第四次进攻。匈奴军这次进攻的重点是北地、冯翊两郡，晋帝司马邺派遣骠骑大将军允率军前往抵抗。10月，匈奴军攻占冯翊，郡太守梁肃退守万年(今陕西富平东南)。至公元316年7月，刘曜率军向北地郡发起进攻。允率军30000前往增援北地郡，但至半路见北地城浓烟四起，遮天蔽日，晋军大乱，以为城池已破，允便率军退回灵武。刘曜乘势攻克北地城，并一一攻克渭河以北各个城邑。9月，秦王司马保派将军胡崧率军增援长安，在长安以西将刘曜军打败，但胡崧军却未扩大战果，而是将军队驻扎在渭水北的槐里(今陕西咸阳西)，静观战局。
刘曜见胡崧军不攻，便率军将长安城包围，并很快攻城。允、索纟林率军退守内城。至11月，城中粮食已尽，晋愍帝见城池已守不住，派侍中宗敞出城向刘曜送上降书。刘曜接受了晋愍帝的投降，封其为怀安王。至此，西晋王朝就此灭亡。
公元318年7月，刘聪病死，太子刘粲继位。大将军靳准乘刘粲沉迷酒色，不理朝政之机，发动政变，将刘粲处死。靳准自号大将军，汉天王代行天子政事。
刘粲即位后，命刘曜为相国都督掌管一切军务，镇守长安。刘曜听说靳准政变，便率大军自长安出发，征讨靳准。同时，匈奴另一大将石勒亦率军50000前往征讨靳准。在出征途中，刘曜自封皇帝，任石勒为大司马、大将军，晋爵赵公。12月，在刘曜、石勒两路大军的强大压力下，靳准部发生政变，靳准被杀。刘曜、石勒就势将靳准军击败，匈奴归于刘曜的统治之下。
公元前319年冬，石勒因不满刘曜杀其部将王修，起兵反刘，宣布以其所管辖24郡地区为赵国。这样，两位在灭西晋战争中战功卓著的匈奴战将，又要争个你死我活。
石勒并非匈奴本族，而是匈奴别族的羯人。这个民族并非黄种人，而是匈奴人与被征服的白种民族混居而成的部族。在西晋初年，羯人跟随匈奴人从北方进入中原，一直随匈奴人生活。乱世出英雄，石勒从目不识丁的小人物，适逢匈晋交战，以几百人的队伍起家，成为一代君王。
刘曜、石勒经过十年的混战，双方于公元328年2月进行了最后决战，决战地点是在昔日的晋朝都城洛阳。决战的结果，刘曜被石勒擒获杀死。又经近八个月的战斗，石勒军最后攻占刘曜部的大本营长安，刘曜势力被最后消灭。公元前330年9月，石勒在襄国称帝，史称后赵。后其都城又迁往邺城(今河北临漳西)。
公元333年，石勒病死，后赵政权被石虎掌握。石虎在做了14年赵王后，于其当政的最后一年，公元349年1月，即皇帝位。公元349年4月，石虎死后，其子石遵因未能继承石虎皇位，率90000大军攻入后赵都城，杀死继任皇帝，年仅10岁的石世及皇后刘氏，自立为皇帝。5月，沛王石冲起兵###石遵，双方各率100000大军交战于平棘(今河北赵县东)。最后石遵取胜，石冲兵败被赐死。