刘渊虽然是匈奴人，却从小在洛阳长大，在洛阳生活了多年。刘渊年幼时就十分聪慧，熟读四书五经，特别喜欢《春秋左氏传》和《孙子兵法》，能够从头到尾背诵下来。
刘渊长大后，身材魁梧，仪表堂堂，身高八尺四寸，胡须有三尺多长。他又学习武功，善于骑射，体力超人。因此，刘渊属于文武双全，而且胸有计谋，见识超群。
当时，执政的是曹魏权臣司马昭，司马昭十分看好刘渊，在他学习和生活方面，给予优厚的待遇。司马炎称帝以后，也很欣赏刘渊，夸赞他说，就连春秋时期的由余和汉代的金日磾，都不能超过他。
后来，刘渊的父亲去世，司马炎命刘渊接替父亲的职务，为代理左部帅，不久，又任命他为建威将军、五部大都督，监五部军事。刘渊成了西晋的高官，而且拥有实权。
刘渊在任职期间，严明刑法，主持正义，乐善好施，礼贤下士，对人真诚相待，四方豪杰，无论是汉人还是匈奴人，都纷纷投奔他的门下，就连一些名家大儒，也慕名前来拜访，刘渊名声远扬。
后来，西晋爆发了八王之乱，战火纷飞，人民痛苦不堪。匈奴的事情，自然没人管了，而且还饱受征兵、征粮和徭役之苦。匈奴五部的人，一致推举刘渊当头，建立政权，以求自保。刘渊素有大志，觉得天下已乱，正是建功立业的好机会，于是欣然应允。
公元304年，刘渊公开声称自己是汉朝外甥，要恢复汉朝江山，于是打着恢复汉朝的大旗，建国号为“汉”，史称汉赵，也叫前赵。
刘渊追尊蜀汉皇帝刘禅为孝怀皇帝，建造汉高祖刘邦以下三祖五宗的神位进行祭祀，以表明自己是大汉王朝的正统继承者。刘渊当时没有称皇帝，而是称为汉王，四年之后，他才正式登基，当上了大汉皇帝。匈奴就是被汉朝灭掉的，如今却由匈奴的后人来恢复大汉江山，好像有点滑稽。
不过，刘渊打出汉朝的旗帜，还是有效果的。当时，司马皇族为了争权夺利，只顾内斗，不管百姓死活，人们觉得，西晋还不如汉朝，人心思汉的情绪比较普遍。刘渊是汉朝外甥，恢复汉朝也是有点道理的，这对于争取民众大有益处。因此，不仅是匈奴人，也有大批的汉人，纷纷加入了刘渊的队伍，使刘渊的势力迅速壮大。
西晋的并州刺史司马腾，见刘渊势力崛起，脱离了晋朝，就领兵来打。不料，刘渊的汉军时期旺盛，马腾四战四败，一败涂地。马腾在并州呆不下去了，只好带领残兵败将，逃到了山东。
刘渊获得大捷，军心大振，于是乘胜进军，接连攻占了太原、中都、汾城、晋阳、蒲阪、平阳等地，占领了并州地区。刘渊胸怀大志，很有智谋，他立即把都城迁到了平阳。平阳离洛阳不远，下一步，刘渊就要兵进洛阳了。
刘渊雄心勃勃，正要攻打洛阳，却不料得病死了。不过，刘渊的儿子们也不简单，他们继承了父亲的事业和志向，继续展开对晋朝的攻击，最终灭亡了西晋。