忽必烈曾向高丽人提出要求：协助他与日本建立联系。在长达4个世纪的历史时期内，日本岛国的大部分地区在很大程度上处于与中国完全隔绝的状态。由于9世纪中叶佛教在中国遭受迫害，日本与中国逐渐疏离，直至最后决定几乎完全切断与中国的贸易和文化联系。对于忽必烈来说，如果能与日本重建朝贡关系，就能在汉人心目中树立自己的高大形象，这将是其他任何方法都无法比拟的。正是这种急于博取汉人赞赏的心态，促使他决定一定要与这个日出之国建立联系。但直到那时为止，蒙古将领还从未参加过海战。而此时忽必烈做出了一个重大的决定，要跨海降伏这个岛国。虽然他并没有打算发起一场海战，但是他降伏日本的计划最终导致了悲惨的结局。
高丽人不喜欢日本人，但是他们并不热衷在忽必烈控制日本的计划中担当中介的角色。自从1223年以来，高丽沿海地区就一直遭受着被称为“倭寇”的日本海盗的袭击和抢掠。日本海盗利用高丽遭受蒙古入侵而无暇防备的机会，大肆侵扰高丽的沿海地区，直至1263年。但是高丽王室认识到，日本海盗的行为并不是由日本政府或者日本军事政权支持或认可的，因而没有对日本宣战。它仅仅派遣使者抗议日本海盗的袭击。一旦日本海盗获悉蒙古人已经征服了高丽，而朝鲜半岛战事已消除，他们便停止了袭击。因此，高丽人并无特别的兴趣帮助蒙古人与日本建立联系。
然而，忽必烈另有想法。在1266年的秋天，他派遣使节向日本人通报了新朝在中国建立的消息，并请他们向新皇帝进贡。高丽人负责帮助使团横渡海峡。负责接待忽必烈使团的高丽人试图劝阻他们执行使命，并警告他们说，日本列岛附近的海面风急浪高，气候恶劣，异常危险。事实上，高丽人根本不想被卷入蒙古和日本的关系之中。高丽人的恫吓终于奏效，蒙古使者对充满危险的赴日旅程感到气馁，于是匆匆返回中国。他们的报告激怒了忽必烈，他也认为高丽人不值得信赖。在1267年的夏天，他给高丽王廷写了一封措词严厉的信，斥责他的“属民”不仅不协助他的使节，反而阻挠他们前往日本。他决心排除高丽人的干扰，再做尝试。
1268年，他再次派遣使团前往日本，这一次高丽人比较合作。特使中包括一位礼部官员和一位兵部官员。忽必烈指示他们向日本人通告他已经登基的消息，并向他们表明，日本应该向他称臣纳贡。
日本人并不欢迎蒙古使团，他们的行动正好为在政策上一意孤行的忽必烈提供了进攻日本的借口。位于京都的日本皇室实际上非常软弱无力，真正的权力掌握在镰仓幕府手中。幕府里，幕府执权北条时宗是最终的决策者，而他并不打算顺服蒙古。自恃拥有骁勇善战的武士阶层，凭借偏居大洋、易守难攻的日本列岛，他和他的前任执权北条政村一样，断然拒绝了蒙古使者的建议。忽必烈在信函中曾提到日本天皇是一个“小国国君”.在初步讨论了应该如何回复忽必烈这封信之后，幕府决定干脆直接把蒙古使者遣送回国，连只言片语也不回复。虽然朝廷官员已经起草了一封和解信并抄寄了一份给幕府请求批准，但幕府执权没有批准寄出公函。忽必烈并不为日本政府的反应所动，在1271年初再次派遣使团带着同样的信息赴日。负责护送蒙古使节的高丽人秘密地警告日本人，他们将面临蒙古人的军事威胁。可是日本人再次拒绝蒙古使节进入王廷。在返国途中，蒙古使节抓住了两个日本渔民，把他们带回中国。忽必烈热情款待了日本渔民，命令他们请求他们的统治者对中国皇帝和蒙古大汗表示适当的尊敬，尽快派遣使者前来进贡。然后他派人护送他们经高丽返国。可是，日本方面对忽必烈释放被扣留的日本渔民没有任何反应。
此时，忽必烈确实已被日本人的“傲慢”弄得茫然失措，心烦意乱。他决不允许他们一直这样公然蔑视他，反抗他。他的双重角色，无论是作为蒙古大汗还是作为中国皇帝，都不能容忍被一个小国如此羞辱。蒙古风俗要求适当招待外国使节，而中国传统则要求所有国家接受中国皇帝为天下共主。这样明晰的天命意味着，忽必烈不能继续容忍他的使节在日本受到怠慢。然而，在决定动武之前，他再一次派遣使节到达日本。他选派的特使赵良弼（1217-1286）于1272年春出发，并于同年的10月在九州岛东岸的今津町登陆。当他觐见日本天皇的要求被粗鲁地拒绝后，他发出了最后通牒：日本天皇只有两个月的时间对忽必烈的信函作出反应。日本天皇愿意对蒙古作出一个平和的模棱两可的回答，但幕府拒绝任何妥协。镰仓的武士占了上风，他们把中国特使驱逐出境。幕府的粗暴无礼被描述为“等同于宣战”.赵良弼于1273年6月返回中国，向忽必烈报告了日本的风土民情，可能还包括防务情况。赵良弼描述了他在日本受到的羞辱，这深深地激怒了忽必烈。他不能再耽延，因为耽延只会使日本人更加肆无忌惮。在赵良弼返回前几个月，蒙古人刚刚在襄阳取得了征宋战役的重大胜利，因此忽必烈可以抽调一小部分军队前去征讨日本。同时，他的对日战役也是他征宋战役的一个组成部分，因而也是必要的。日本人一直积极地与忽必烈的夙敌南宋开展贸易活动。击败日本人，他便能切断两个劲敌之间的联系，从而削弱南宋。
忽必烈的征日准备工作已经进行了相当长的一段时间了。他命令高丽人制造船只，运送他的军队横跨日本海，从日本列岛的最南端发起攻击。1274年11月，他派遣了一支由蒙古人、汉人、女真人组成的15000人的军队和6000至8000名满心不悦的高丽士兵（他们并不想参加这场战役），由大约7000名高丽水手引导，从合浦（在现在的韩国釜山附近）出发开往日本。蒙古军分乘300艘大船和400到500艘小船，首先在对马岛和壹岐岛登陆，轻易地荡平了驻守在那里的日军。但是，忽必烈派往日本的军队无论规模上还是实力上都不足以彻底扫平日本列岛。他肯定低估了日本人的抵抗能力。
最关键的战斗自然将在九州进行。虽然日本人知道蒙古大军正在开过来，但是他们的准备工作做得还很粗略。他们的经济状况无法在九州维持一支规模可观的军队，他们也没有一个政治统一和中央集权的政权去组织一支强大的军队投入战斗。他们根本无法对付蒙古人的远程武器，包括十字弓和各种各样的弹射器。他们的指挥官缺乏实战经验，与身经百战的蒙古统帅无法相比。日本军队长于肉搏，但是蒙古军队习惯于以组织严密的小组为单位集体作战，这种战术是日本人所不熟悉的。所以，当蒙古军于11月19日在九州东岸的博多登陆时，日本人处于绝对的劣势。蒙古军在进军之前鼓乐齐鸣，其战阵和攻击方法使得日本人毫无招架之力。第一晚的战斗就使日本军队遭受了人员和装备的重大损失。他们的残兵败将更是不堪一击。溃败看来是在所难免了，那天晚上，唯一使他们大难不死的是无边的黑暗。
但大自然为日本人提供了更好的保护。就在同一天晚上，海面突然起了风暴。高丽水手马上对蒙古将领说，他们必须回到船上，把船开往海上，直到风暴消退。否则，他们的船只就会与岸边的岩石相撞而沉没，那样，他们将失去唯一的撤退工具。蒙古人勉强同意了，并开始从博多撤退。一些日本人追击并杀死了一些正在撤退的蒙古兵。然而，那天晚上蒙古兵遭受的大多数伤亡都发生在海上。狂风、巨浪和礁石把几百艘船只击成了碎片。根据一些记载，蒙古军有1.3万人因此丧生。日本人因这场风暴而大难不死。蒙古人的远征以彻底的失败而告结束，残余的蒙古军驶回了老家，向忽必烈报告了这次惨败。
由于大汗正把全部精力投入到征服南宋的战役中，他无法腾出手来立即向日本人复仇。相反，1275年忽必烈又向日本派遣了一个使团，由杜世忠和何文着带领，要求日本称臣，以免再度兴师入侵日本。日本当局正因为最近的军事胜利而趾高气扬，并相信他们的神拯救了他们，于是把不幸的使节处死，进一步加深了与中国王朝的嫌隙。对蒙古人来说，再没有什么比这种行径更可恨的了。忽必烈决不能允许这样一种暴行逃过惩罚。但是，直到好几年后他才腾出手来再次兴兵讨伐日本。
13世纪70年代中叶，忽必烈已经平定了高丽，甚至把他们变成了征日战役中的帮手，尽管高丽人并不情愿这样做。但他无法以同样的手法降伏日本人。他在别处有更多需要操心的事情，特别是对他的帝国领土完整的现实威胁。中亚向他的政治权威提出了更加严重的挑战。他必须首先解决那个地区的问题，然后再回过头来对付日本人。
1279年，当最后一位宋帝蹈海淹死以后，忽必烈终于腾出手来，把他的注意力放在征服日本上。而高丽人作为征日战争的重要依靠力量，也需要时间从1274年的那次远征中恢复元气。那次战争严重破坏了高丽经济。蒙古人不仅强征了大批粮食，消耗了大量的当地居民的物资，而且征召了大批成年高丽男性为这次远征服役，只留下很少壮劳力耕田。因而，造成了粮食短缺现象，以至于忽必烈需要定期向高丽供应食物来纾困。即使到了13世纪80年代末，他仍在向高丽提供救济粮。但是尽管存在这些问题，忽必烈仍决心要进攻日本，而这次行动是失败的，其后果是灾难性的。
1280年，忽必烈已经做好了再次发动侵日战争的准备。他开始征兵，调集粮草。1279年，他最后一次派遣使节去劝说日本人改变态度。然而，北条时宗声称这批使者是由间谍组成的，因此把他们全部砍头。为了报复，忽必烈发动了一场大规模的远征。在1280年早春以前，入侵方案已经全部布置就绪。远征军的统帅构成也仔细地进行了平衡，包括一个蒙古人，一个汉人和一个高丽人。高丽人洪茶丘担任这次战役的海军统帅，因为高丽国王坚持要由高丽人指挥海军中的本国水手。忽必烈选择不久前刚刚投降蒙古的南宋将领范文虎担任远征军汉军指挥，忻都为蒙古军指挥。在当年年底之前，忽必烈已经指定了10万大军由范文虎和忻都指挥。他向他们发放了军饷，提供了盔甲。高丽国王组织了一支10000人的军队，并提供了15000名水手，900艘船只以及粮食供应等。出于对高丽积极协助的感激，忽必烈特别指示他的军队，在穿越高丽国土开往海岸的途中，不得扰民。第二年，忽必烈又向他的军队补充了大量给养，包括军饷、盔甲和弓箭等。不过，福建安抚沿海都置制使蒲寿庚提供了唯一一条不协调的记录。他说，蒙古人要求他和他的百姓修造200只船。而实际上，他们只建造了50只船。他声称，200只船的建造任务远远超过了他们的承受能力。他对蒙古人不合理索求船只的含蓄批评，只不过是众多抱怨征日行动中的一个声音罢了。
元军统帅部组织了对日本海岛两翼夹击的突袭。40000名士兵从中国北部乘高丽船只开往壹岐岛，与从福建泉州开往那里的10万蒙古大军会合。他们计划从那里出发，联合攻击日本其他地区。根据中国方面的报告，这次远征一开始就有不祥之兆。这些预兆包括在海上看见了蛇，并闻到海水中发出的硫磺气味。而事实也正是这样，这次远征计划从一开始就出现了偏差。各个方面的将领显然在互相争论不休。从南部乘坐中国船只出发的部队延误了战机，因为他们庞大的队伍要求进行更复杂的后勤准备工作。从北方先期到达的军队，在高丽统帅的指挥下，等待了一段时期，终于“对中国舰队主力部队的到来”绝望了，于是，他们于6月10日攻占了壹歧岛。两个星期之后，他们向九州本岛进发。他们在宗像附近登陆，此处在日本人辛辛苦苦修建的主要防御工事的北边不远处。同时，南部的中国军队终于完成了他们的准备工作，并且在得知他们的盟军已经登陆以后，决定在九州与他们会师。他们在九州南部登陆，打算向北进攻，与其他元军会合。凭借如此强大的军事机器，成功应该完全是唾手可得的。
然而这次远征竟以悲惨的失败而告终。在8月整整1个月期间，日本军人成功阻止了由南、北两路而来的蒙古军队，使他们无法突破日本人用墙垣构成的防线。元军自身的缺陷也使得日本人的顽强抵抗更加有效。蒙古统帅和汉人统帅之间的紧张关系削弱了远征军的力量。占远征军绝大多数的汉人军队士气低落，根本不愿投入到这场艰苦的战斗中去。而且，他们在九州登陆以后，便发现自己处于危险境地，在受到敌人或自然灾害的袭击时无法有效保护自身免受伤害。他们驻扎在开阔地带，没有城堡、要塞或城镇作为屏障。这些屏障一方面可以提供适当的保护，另一方面也可由此向敌人发动突袭。因而，他们很少主动进攻日本人。这两支军队打了差不多两个月，但双方不分胜负。
突如其来的自然灾害使得蒙古人取胜的希望彻底化为泡影。8月15日和16日，发生在东亚的典型仲夏台风袭击了九州沿岸。高丽水手觉察到风暴即将来临，于是试图把船开往公海躲避危险，但他们的努力失败了。40000名北方战士中1/3被狂风消灭了，而10万名南方部队在试图逃脱时更有一大半葬身大海。被困在九州岛的战士或被屠杀，或被俘虏，或在企图借助留在岸边的小船逃跑时被淹死。
对日本人来说，这次台风绝不是一次意外事件。这是从神那里刮来的保护日本的神风，因为他们的土地是受神保护的。这次蒙古人入侵的失败使得自我膨胀的日本种族中心主义观点一度甚嚣尘上。对日本人来说，这次台风说明，神决不会允许敌人征服和占领他们的疆土。而对于蒙古人和忽必烈汗来说，这次失败则是毁灭性的。忽必烈一生中还从未遭受过如此惨重的损失。据人民网
