西晉末年，一場宗室之間自相殘殺的“八王之亂”，使日益腐朽的司馬氏政權江河日下，對國內匈奴五部的控制力也大大衰減。早就蠢蠢欲動的匈奴人劉淵借中原板蕩之機，在西晉北部版圖上獨立門戶，建漢稱帝，攻城掠地，由此揭開了“五胡亂華”的序幕。

劉淵，生年不詳，祖父為南匈奴單于於扶羅，父親為匈奴左賢王劉豹，母親為匈奴呼延氏，是個地地道道的匈奴人。史料記載，匈奴劉姓源于漢匈和親。當年，匈奴強盛時，劉邦“以宗女為公主，以妻冒頓，約為兄弟，故其子孫遂冒姓劉氏”(《晉書》)，劉淵的叔祖劉宣、父親劉豹便是其中的代表人物，并取了漢名。承襲父祖，劉淵也跟著姓了劉。

劉淵生得體貌偉岸，姿儀不凡，深得時人崇重。由于他文武雙全，語出驚人，司馬昭對他另眼相看。西晉時，劉豹去世，劉淵代父之職，成為南匈奴左部帥，歷任北部都尉、建威將軍、五部大都督等職。期間，劉淵“明刑法，禁奸邪，輕財好施，推誠接物，五部俊杰無不至者”(《晉書》)，幽冀一帶的名儒，也不遠千里紛紛前來拜見，個人威望與日俱升。

“八王之亂”爆發后，成都王司馬穎執鎮鄴城，封劉淵為寧朔將軍，監五部軍事。當時，因為戰亂，中原漢人大量流徙江南，并州境內的胡漢勢力對比和人口分布發生了重大變化，匈奴貴族劉宣等人見司馬氏骨肉相殘，四海鼎沸，興邦復業有機可乘，便秘密推舉聲名顯赫的劉淵為大單于。劉淵得到消息后，歷經周折，成功擺脫司馬穎，蛟龍終歸大海。

西晉永興元年(304)十月，劉淵在左國城(今山西離石)建立政權，國號為漢，改元元熙。

因晉氏猶在，四方未定，劉淵沒有貿然稱帝，而是效仿當年劉邦，權且稱漢王，依照漢制設置百官。元熙五年(308)，劉淵羽翼漸豐，便正式稱帝。劉淵是匈奴人，一心想著興邦復業，可他為何要稱漢皇帝呢？筆者認為，這與劉淵的人生經歷以及當時的社會形勢有關。

劉淵自幼居于漢地，酷愛讀書，癡迷漢文化，曾拜上黨名士崔游為師，遍習中原的儒家經典和歷史、軍事著作，甚至可以“略皆誦之”，深受漢文化影響和熏陶。這一點，從劉淵七歲喪母時表現出“擗踴號叫，哀感旁鄰”(《晉書》)的孝道禮儀上不難看出。在日后與太原名儒王昶、王渾、王濟的密切交往中，劉淵逐漸成為一個漢化程度相當深的匈奴人。

崇尚漢文化，使劉淵傾心接受漢化;而劉淵在官場上受到的種種遭際和不公，也是逼使他主動向漢人、漢文化靠攏的一個重要因素。

晉武帝時，王渾、王濟等人舉薦劉淵擔當消滅孫吳的重任，卻遭到了孔恂、楊珧等人的強烈反對，特別是諫辭中“非我族類，其心必異”(《晉書》)八個字，既刺痛了劉淵的自尊心，也反映了漢匈之間難以消除的民族隔閡。