1259年，蒙哥汗決心徹底解決南宋，忽必烈重獲起用，負責指揮東路軍，攻打鄂州。當雙方正在激戰時，從四川傳來消息：蒙哥汗在釣魚城戰死。面對這一突如其來的變故，忽必烈在幾經猶豫后，決定從鄂州戰場抽身。在與南宋權臣賈似道議和后，忽必烈率大軍急速北上，開始了對蒙古大汗寶座的角逐。

1260年三月初，在部分蒙古宗王、中原漢地官僚士大夫的擁戴下，忽必烈于開平正式登上蒙古大汗的寶座，并首次采用漢族王朝的年號——中統紀元。忽必烈的登基，標志著一個新時代的來臨。忽必烈的即位，并不是一帆風順的。幾乎就在他即位的同時，弟弟阿里不哥也在哈剌和林附近被擁戴為蒙古大汗。

作為幼子，阿里不哥是拖雷夫婦遺產的合法繼承者，掌握著父母留下的大部分蒙古部眾與軍隊。蒙哥出征南宋時，阿里不哥奉命留守和林，牢牢控制了蒙古政權的政治中心。蒙哥死后，阿里不哥得到蒙哥諸子及蒙古汗廷大臣的普遍擁護，以蒙哥合法繼承者的面目出現。

相反，忽必烈數年前就曾因與蒙哥發生沖突而賦閑，只是因蒙古對南宋戰事吃緊才重獲起用。他拒絕奔赴漠北參加選舉蒙古大汗的忽里臺，在開平另起爐灶，偏離了蒙古本土選舉大汗的政治傳統，這對維護他正統大汗的形象是非常不利的。

面對阿里不哥的挑戰，忽必烈首先爭取到另一個弟弟旭烈兀的支持。此時，旭烈兀正主持蒙古第三次西征，前鋒已逼近埃及。得知蒙哥去世后，他迅速撤軍東歸，途中遇到忽必烈的來使，承認他在阿姆河以西的權利。旭烈兀于是留在當地，建立起承認忽必烈宗主地位的伊利汗國。

蒙哥去世后留下的四川蒙古軍將領，大多傾向擁護阿里不哥。為了斬斷阿里不哥的右臂，忽必烈緊急派遣廉希憲等人趕赴陜西，設計殺死擁護阿里不哥的蒙古將領。駐守六盤山的蒙古軍主帥渾都海被迫西撤，與阿里不哥南下接應的阿藍答兒軍會合。

中 統元年(1260年)九月，雙方在甘州東刪丹附近的耀碑谷發生激戰，渾都海、阿藍答兒戰死，川陜地區被牢牢控制在忽必烈手中。漠北地區是雙方的主戰場。為了打贏這場戰爭，忽必烈幾乎調動了他所有的精銳部隊。戰爭進行得非常殘酷，和林不僅得而復失，戰火還一度燒到了大漠以南。中統二年(1261年)十一月，昔木土腦兒一戰決定了阿里不哥失敗的命運。此后，阿里不哥的處境每況愈下。四年后，走投無路的他被迫向忽必烈投降。

阿里不哥汗位之爭，并非我們通常所理解的造反或叛亂。中國有句古話，“成者為王敗者寇”。阿里不哥歸降時，忽必烈曾得意地問過他們之間到底誰對誰錯，阿里不哥回答說：“從前我對，現在你對。”這也可算作他對那句中國古話所作的蒙古式闡釋吧。

忽 必烈沒有想到的是，阿里不哥的投降，僅僅是噩夢的開始。海都，蒙古第二代大汗窩闊臺的嫡孫，一直在關注忽必烈與阿里不哥的戰爭。阿里不哥投降后，他繼之而起，扯起反對忽必烈的大旗。同阿里不哥相比，海都是一個更難對付的挑戰者。他不僅復興了衰落的窩闊臺汗國，成功地控制了察合臺汗國，甚至還將西面遙遠的欽察汗國也聯合到自己的旗幟下。

至元六年(1269年)春天，成吉思汗三子——術赤、察合臺、窩闊臺三系代表在塔剌思草原舉行忽里臺大會，成立了共同反對成吉思汗幼子——拖雷系領導下的元朝與伊利汗國的聯盟。這次會議成為蒙古帝國最后走向分裂的標志。從此，忽必烈永無安寧之日，越來越多的蒙古宗王站出來向他發起挑戰。

至 元二十四年(1287年)，正當忽必烈為對付海都等西北諸王殫精竭慮的時候，東道諸王首領乃顏，領導成吉思汗三位弟弟的后裔，在東北也發動了聲勢浩大的叛亂。年逾古稀的忽必烈，不得不親自統率大軍，前往平叛。雖然乃顏很快戰敗被殺，叛亂逐漸平息，但以海都為首的西北諸王之亂，直到忽必烈去世也沒有得到解決。蒙古黃金家族成員向忽必烈發起的挑戰，并非僅僅是在爭奪蒙古大汗的寶座，雙方在意識形態上也存在著嚴重分歧。塔剌思大會后，西北諸王曾派使臣入朝質問忽必烈：“本朝舊俗與漢法異，今留漢地，建都邑城郭，儀文制度，尊用漢法，何故？”這些蒙古宗王認為他們才是成吉思汗《大札撒》的恪守者，而忽必烈則是一個不折不扣的背離者。南宋滅亡標志著中國大一統局面的重現，同時又成為忽必烈新的征程的開始。日本、安南、占城、緬國、爪哇，一個個被列為他的征服目標?？上У氖?，幸運之神不再眷顧忽必烈，他的好運就此發生逆轉，上述征服行動一而再再而三地失利，而尤其使他難以釋懷的是至元十八年(1281年)征日的慘敗。

蒙古興起時，日本正處于鐮倉幕府的統治之下。忽必烈即位，順利解決高麗問題后，即將目光投向日本。從至元三年至十年(1266—1273年)，忽必烈先后五次派出使臣赴日招撫，希望不戰而屈人之兵，可均不得要領而回，于是引發了至元十一年(1274年)的第一次征日。此次征討，大軍雖于今九州福岡附近博多灣等處登陸，但因遭遇臺風襲擊，戰船大部被毀，最后無功而返。

第一次征日并未使忽必烈灰心，此時他正密切關注南宋戰事，于是繼續派使臣前往日本招撫。這次幕府終于有了明確答復——將來使全部斬首。當消息傳到大都時，忽必烈終于被激怒了，一個專門對付日本的機構——征東行省建立起來了。

至 元十八年五六月間，兩支龐大的遠征軍駛向日本：一支從合浦(今韓國馬山)出發，由第一次征日主將忻都率領，共四萬人，戰船九百艘;一支從慶元(今浙江寧波)出發，由南宋降將范文虎等率領，共十萬人，戰船三千五百艘。可到八月初，臺風再顯神威，徹底摧毀了元軍戰艦。十四萬大軍生還者不足五分之一。前近代世界歷史上規模最大的海上遠征就這樣失敗了。這是忽必烈一生從未遭受的慘敗，使其顏面盡失，成為他心中永遠的痛。

此后，忽必烈雖然又先后三次重組征東行省，但終其一生，再也不能派出一船一卒，因為龐大的征需已使百姓不堪重負，國家財政岌岌可危。日本則因兩次抗元均借助了臺風之力，炮制出所謂“神風”之說，太平洋戰爭后期出現的“神風突擊隊”即源于此。

中 國社會科學院歷史研究所研究員劉曉認為：元朝第二次征日失敗，原因很多。就日本而言，有了第一次戰爭經驗后，幕府早已在九州沿海構筑了堅固的工事，各地精銳武士云集于此，以逸待勞，嚴陣以待。相比之下，元朝則顯得準備不足，比如，當元軍請求忽必烈為遠征軍配備足夠的戰馬、火器時，忽必烈竟以海戰不需此類裝備為由予以回絕。對征日統帥，忽必烈也未慎重考慮，以致將領之間戰前矛盾重重，無法協調統一指揮，在鷹島遲滯達一月之久，失去了最佳戰機。更為致命的是，因軍事征調期限很嚴，遠征軍不少戰艦系沒有龍骨、只適合內河航行的平底船改建而成，日本九州海下考古發現已充分證實了這一點。以這樣的戰艦越海奔襲日本，會留下巨大隱患，在臺風來襲時不堪一擊。所以說，所謂的“神風”之威，實際上很大程度是由元朝自身原因造成的。