忽必烈派使臣黑的前往日本，曉諭其盡快稱臣。（網路圖片）
日本龜山天皇文永四年（1267年）的時候，忽必烈派使臣黑的前往日本，曉諭其盡快向自己稱臣。
黑的先是到了高麗，準備從那裡坐船去日本。對於宗主國來的尊貴客人，高麗顯得很貼心。他們派高麗起居舍人潘阜在九月到達日本，替黑的遞交了國書，同時遞交了一封高麗國書，勸告日本向自己學習，免得遭受刀兵之苦。
日本幕府領導層對這個事情還是召開過會議研究的，與會人員都覺得日本與南宋一直是友邦，蒙古是南宋的敵國，於情於理，日本都不應該同蒙古勾搭在一塊。還有就是蒙古離咱們這麼遠，不清楚其虛實，最好不搭理他。會議結果按程序上報朝廷，朝廷也按照程序支持鐮倉幕府的決定。
在高麗的黑的見遲遲沒有回音，在1268年親自到了日本的太宰府交涉，結果他被禮貌地要求離境，實際上是被武裝遣返高麗。
1271年，忽必烈改國號為「元」，再次派漢人趙良弼為使者出使日本。趙良弼在太宰府逗留了幾個月，都沒受到幕府的接見，只得黯然回國。
忽必烈失去了耐心。1274年，浩浩蕩蕩的大元帝國日本遠征軍九百餘艘戰船，三萬九千餘人（其中蒙古軍、漢軍二萬五千人、高麗軍七千人，另有高麗水手約七千人），以蒙古人忻都為主將，高麗人洪荼丘、金方慶，漢人劉復亨為副將，從高麗的月捕（今馬山港）出發，越過對馬海峽向日本扑來。
元軍很輕鬆地粉碎了日本沿海諸島的微弱抵抗後，抵達九州博多灣，大舉登陸。這個時候集結在博多灣附近的日本軍隊大約有三四萬人，主要是九州的武士，他們進行了激烈的抵抗。一方是縱橫天下所向無敵的蒙古鐵騎，一方是充滿自信、戰鬥意識極為頑強的日本武士，兩支戰術特點完全不同、從未謀面的軍隊狠狠地撞在了一起。
剛一跤手，日本武士就吃了大虧。
原因是日本武士的戰鬥方式極為落後，完全與時代不同步。軍隊組織上採取的是一族一門的組織方式：一個家族的武士及其郎黨（與主人沒有血緣關係的門客、家奴等從者）組成獨立的作戰單位，各打各的，為了立功還互相競爭。此外，沒有統一的調度，投入戰場的時間也就往往先後不一，基本沒有協同配合。
日本武士還熱衷於日本國內戰爭中的「一騎討」戰法，以單個的武士為核心，帶領自己的一族郎黨，無組織無紀律亂哄哄地向敵軍衝鋒。衝到近前開打時，還要按照日本的作戰傳統報家名：我是某某家的某某，我的職務是什麼，我的老爸某某某，他又立下了什麼功勞，有什麼榮譽稱號等等。
這在習慣於集團作戰的元朝軍隊看來簡直是笑話。於是，戲劇性的場面不斷出現。
一個穿著華麗鎧甲的武士縱馬上前，後面跟著幾個、幾十個騎馬或者步行的郎黨武士。衝到元軍近前，猛地一勒馬韁繩，豪邁地大喊：我是某某家的某某，我的行政級別是什麼，我有什麼榮譽稱號，你們誰敢跟我一戰。
很可惜，蒙古武士沒有尊重日本文化傳統的習慣，而且語言又不通，日本武士身上立刻插滿了箭矢，根本報不完家門。
與日本軍隊混亂的組織相反，元軍的進攻就極有章法，分別以十人、百人、千人和萬人為各級作戰單位，設十夫長、百夫長、千夫長和萬夫長。其中，千人隊為主要作戰調動單位，元軍指揮官在高處觀察敵情，擊鼓鳴金，統一指揮部隊進退，得心應手，如臂使指。
擊鼓鳴金，這個在中國戰爭史上再普通不過的軍事指揮方法，居然也給日本武士帶來不小的麻煩。日本武士沒見過什麼世面，他們的戰馬更沒見過世面，被戰鼓和銅鑼巨大的聲響嚇到了，到處亂竄，等日本武士好不容易把受驚的戰馬安撫下來，已經又倒下了好些人。
進攻時，元軍列隊前進，與日本武士遭遇後，立即中間分開，從兩頭合圍，聚而殲之。士兵多數隻穿輕甲，機動力強，配備戰刀、長矛和大斧等武器，近身作戰相當強悍。
元軍的武器裝備也有極大的優勢。他們使用的弓，弓身和箭支均較短，射程和威力遠遠大於日本武士使用的竹弓。日本的竹弓有效射程一般在六十步（一步等於一點五米）以下，而元軍的弓射程都在一百二十步以上，少數特製的強弓更可以達到驚人的三百步射程。箭矢上還餵了毒。
此外，元軍還擁有日本武士聞所未聞的大規模殺傷性武器——回回炮和震天雷。
所謂「震天雷」，是用生鐵罐子填裝火藥，點燃引線後，用拋石機或人力發射出去。而回回炮實際上就是個大型拋石機（中國真正意義上的火炮出現在元朝中期），最初由阿拉伯人製造，是扔石頭的，蒙古人有了震天雷後，自然就改扔震天雷了。
元軍一路推進，但日本武士頑強的戰鬥意志也給元軍將領留下了深刻印象。元軍傷亡不小，而且一隊一隊不斷出現在戰場上的日本武士，使元軍將領產生了對日本軍力的誤判，認為日軍數量難以計數，遠遠超過元軍人數。元軍統帥忻都最後決定軍隊回船，向高麗方向撤退。由於運氣太差，元軍途中遭遇暴風雨，損失慘重，只有三分之二的部隊安全返回了高麗。
忽必烈此後還派遣過杜世忠等兩撥使者前往日本，但是，以北條時宗為首的日本幕府悍然踐踏「交兵不斬來使」的國際準則，砍掉了這兩撥使者的腦袋，同時採取一系列的措施加強防務工作，隨時應戰。
後宇多天皇弘安四年（1281年），忽必烈已滅了南宋，騰出手來發動第二次對日戰爭。元軍這次行動，最致命的是交通安全隱患，他們乘坐的戰船由於工期太趕，質量不過關。
元軍在攻陷日本壹岐島後集結，準備對日本本土發動總攻，卻遇到了颶風。
颶風來之前，還是有一些徵兆的：但見「山影浮波，疑暗礁在海口，會青髯見於水上，海水作硫磺氣」。元軍決策層對這次颶風的重視程度不夠，沒有及時讓船隊駛往避風港灣，只是把戰船綁在一起。這種方法，對付一般的風浪還可以，但要對付颶風就不大管用了，反而會因為船隻碰撞損失更大，更何況船隊中豆腐渣戰船居多，怎麼經得起劇烈撞擊？
颶風過後，元軍戰船翻了一大半，決策層決定緊急撤退，混亂中，估計有五六萬元軍被拋棄在了日本大小島嶼以及海岸邊上，各自為戰。由於沒有統一的指揮，加之糧食斷絕，他們中約兩三萬人被俘。
日本人對他們進行身份鑑定，其中的蒙古人、北方漢人和高麗人全部被拉出去殺掉，只有南人以及有技術專長的工匠得到了寬大處理，被當作奴隸，為日本的經濟建設做貢獻去了。
忽必烈嚥不下這口惡氣，此後，他多次準備笫三次攻打日本，都因為跟安南作戰失敗以及國內財政危機等原因未能實現。等他死後，征討日本的事情就再也無人提起了。
