石遵的弟弟石苞，当时镇守长安，听说石遵擅自称帝，也兴兵问罪。不料，东晋军队借机犯境，石苞只好先与晋军打仗。石遵早就忌惮弟弟石苞，于是派出两万骑兵，以支援石苞为名，趁其不备，将石苞劫持到都城，消除了这一祸患。
石遵平息了战乱，觉得自己的位子坐稳了，便没有兑现诺言，让冉闵当继承人，而是立自己的儿子为皇太子。冉闵很生气，感觉自己被耍了，心生怨恨。石遵忌惮冉闵英勇，密谋要除掉他。
石遵的哥哥石鉴，在朝中任太傅。石鉴也有野心，便把密谋情况悄悄告诉了冉闵。冉闵大怒，与石鉴联合，杀了石遵，让石鉴当了皇帝。石遵当皇帝只有一百八十三天。
石鉴当上了皇帝，任命冉闵为大将军，封为武德王。石鉴也忌惮冉闵，处心积虑地想要除掉他。石鉴与弟弟石苞、亲信张才等人密谋，想在深夜里刺杀冉闵，但未能成功。石鉴担心泄露机密，连夜将石苞、张才等几个亲信杀了灭口。石虎的儿子们，个个心如蛇蝎，没有起码的道德底线，一切为了个人利益。
石鉴又与另两个弟弟石祗、石琨勾结，让他们联合苻洪、姚弋仲军队，传檄讨伐冉闵。石琨等人纠集了七万军队，攻打邺城。冉闵只带千余骑兵，在城北抵抗他们。冉闵果然英勇无敌，他手执两刃矛，飞马攻击敌阵，敌兵纷纷应刃而倒，军队溃散，斩首级三千多。
在邺城内，羯族将领集结了三千羯族士兵，准备杀掉冉闵。这个时候，冉闵已经做好了准备，他利用民族矛盾，鼓动汉人入城，结果百里之内的汉人，纷纷涌进城来，对羯人展开了大屠杀。
冉闵亲自率领汉人，诛杀胡羯，不分贵贱，不论男女老幼，见羯人就杀，许多鼻子高、有胡须的人也被误杀。皇帝石鉴被杀掉，冉闵又杀害石虎子孙三十八人，将石氏家族全部诛灭。城内尸横遍地，血流成河，死者达二十多万。这就是历史上有名的冉闵屠胡灭石。冉闵的做法，同样充满着暴力和血腥。
公元350年，冉闵废除赵国称号，建立新的政权，国号大魏，自己登基称帝。
冉闵灭掉后赵，自称为帝，踌躇满志。不料，居于燕地的鲜卑慕容部势力崛起，即将进军中原，刚刚建立的冉闵政权，面临着巨大危机。