十一月六日，元军败退的消息传至京都，日本朝野弹冠相庆，欣喜若狂。而年轻的北条时宗并没有完全被胜利冲昏头脑，在冷静地分析了眼前的形势之后，担心争强好胜的元军不会轻易善罢甘休，肯定会卷兵再犯，在加强防御工事的同时，又下达“异国警固番役”的诏令，征发日本六十五岁以下的成年男子充当预备役士兵。

同时，他对各国武士也做出了较为细致的分工：四国、九州地方的武士在本地加强防御；中国地方的武士防守堪称西门锁钥的周防、长门，并随时准备支援四国、九州的抗战；京畿、关东地方的武士驰援京都；奥羽地方的武士也要随时做好应战准备。

此外，幕府还在博多湾修建一堵高约二公尺、宽三四公尺、长约二十公里的防御墙，距离海岸线约五十米。其主要功能是阻挡驰骋在沙滩上的元军铁骑，所以它的高度不超过两米。原计划从1276年三月起建造，花了小半年的时间建成。但日本缺乏修建石墙时所需的技术精湛的瓦工、砌墙技师以及黏合剂，导致萨摩国负责的那一段石墙直到1277年初才建成。

另外，幕府鼓励皇宫和朝臣都厉行节约，以便国库充裕的财富足够用于国防建设。

动武不行，灭日之心不死的忽必烈在初战失利后沉思了三个月，于1275年二月初九，再次派出以礼部侍郎杜世忠为首，兵部侍郎何文著、计议官撒都鲁丁等人随行的使团去通好。

三月十日，杜世忠一行抵达高丽国都开城，国王王愖委派舌人郎将徐赞担任向导兼翻译，并遣水手三十余人随行。四月十五日，元朝使团在日本长门国的室津浦（今山口县丰浦郡丰浦町）登陆，想必是绕过太宰府官员的阻挠，希望直接与京都朝廷或镰仓幕府交涉。态度比以前更加强硬的幕府，把他们送至九州的太宰府。五月，镇西方面得到幕府答复，同意杜世忠等四人在太宰府的看护下东行，前往镰仓。

八月，杜世忠一行四人进入镰仓，受到北条时宗的召见。他们出示了国书，并传达了忽必烈诏谕日本之意。谁知强加的战争已严重挫伤了日本政府的感情，刚愎自用的幕府看完措辞盛气凌人的国书后怒气冲天，说：“你元朝战败而归，还有何颜面以胜利者的姿态要求我与你通好？”遂把元朝伐日的国仇统统发泄到元朝使团身上，于九月七日极不客气地将四名元使在竜口全部处死，高丽送行使徐赞充当了陪葬品，一如既往地保持沉默。

1279年，中原战事已消弭，西部防线已建立。忽必烈翘首以待的杜世忠等已出使日本四年有余，仍音信全无，不免想入非非。直到1280年二月，有四个护送元朝使团的高丽水手从日本驾驶小船侥幸回到高丽，元朝使臣被害的消息才辗转禀报给元朝。

忽必烈自登上皇位以来，南征北战，气势如虹，从来没有遇到过大的挫折。这使他产生一种错觉，认为自己掌控下的大元帝国是所向无敌的。孰料，作为弹丸之国的日本竟敢龙头锯角，使他颜面扫地，为了挽回败局，他下令沿海各省抓紧造船，准备进行一次规模更大的东征。

忽必烈原以为可以用武力征服日本，孰料第一次东征以失败而告终，使者又被枭首，不得不发动第二次东征。

为确保第二次伐日的成功，元朝需要一支比之前更为庞大的舰队来运输陆军及军需。忽必烈在遣使团出使日本的同时，命令高丽继续建造战船和征集水手。而高丽还没有从1274年伐日的溃败中舒缓过来，粮食被征用，青壮年男子被征丁，近乎荒芜的田地里，只有老人和孩子艰难耕种，生灵涂炭。在将近五年的时间里，不得不靠元政府的接济艰难度日，几乎无力完成忽必烈摊派的军事任务。

不堪重负的高丽国王王愖上书忽必烈，恳请放缓征日的步伐。书曰：“小邦近因扫除逆贼，惟大军之粮饷既连岁而户收，加以征讨倭民，修造战舰，丁壮悉赴工役，老弱仅得耕种，早旱晩水禾不登场，军国之需敛于贫民，至于斗升罄倒以给。已有采木实草叶而食者，民之凋敝，莫甚此时而。况兵伤水溺不返者多，虽有遗噍不可以岁月期其苏息也。若复举事于日本，则其战舰、兵粮，实非小邦所能支也。国已皮之不存，是为无可奈何矣。天其眼所未到应谓岂至于此欤，伏望俯收款款之诚曲谅，哀哀之诉。”

在忠烈王恳切的哀求下，忽必烈于1276年正月收回成命，让高丽停止造战船、兵械、屯聚粮食的战备，延迟了伐日的军事计划。

随后，踌躇满志的忽必烈把建造六百艘战舰的任务交给刚接收的南宋新置的四行省：扬州、湖南、赣州、泉州制造战舰。元朝成功接收南宋，也成功接收了南宋王朝发展了一个半世纪的造船技术和航海史，一跃成为一个拥有巨大海上舰队的大元帝国。在忽必烈灭日野心的督导下，让世界史上阵容最庞大的舰队华丽登场。

极具有讽刺意味的是，五月，忽必烈将第二次征日的宝押在南宋降将范文虎身上。

范文虎自率部降元以来，除了零星镇压反元起义之外，几乎没立过战功。他想利用此次征伐日本，来赚取在元廷立足的政治资本。他想当然地以为，只要多用兵，攻伐日本不在话下。再说，蒙古将领都不善于指挥水战，他倒是个合适人选。

七月，命范文虎去江南召集降服南宋的蒙古、回回等残部十万余人，成为第二次征日的主力军。忽必烈与范文虎商议了伐日的行动细节，范文虎建议：“臣奉诏征讨日本，比遣周福、栾忠与日本僧赍诏往谕其国，期以来年四月还报，待其从否，始宜进兵。”

1279年六月，忽必烈采纳其建议，派周福、栾忠等为使诏谕日本。周福一行在没经过高丽，也没有高丽人做向导的情况下，于六月二十五日（说二十六日）抵达日本的对马岛。七月二十四日，周福一行等所赍诏书经镰仓送到京都朝廷。经过朝廷的审议，仍与前次一样，所有的使臣在博多被斩首。

两次元朝使臣被日方斩杀的事实已证明，诏谕日本臣服无疑枉费心机，劳而无功。元朝试图通过和平外交手段达到让日本臣属的目的，而日本民族则强烈要求独立自主，极力拒绝受别国的节制。

1279年正月，元朝在高丽设置征东行省，主持征伐大计。由高丽国王王愖任行省左丞相，范文虎、忻都、洪茶丘为右丞，驻高丽；李庭为左丞，张禧为参政，驻庆元（今浙江宁波）。实际上，日本行省一分为二，分别设置在高丽、江浙一带。

九月，忽必烈加封高丽国王王愖为开府仪同三司、中书左丞相、行中书省事，借此提高高丽国在元朝体系中的地位，将其牢牢地捆绑在征日的战舰上。

南宋灭亡之后，兵力大增，1281年正月，忽必烈下达征日的命令。范文虎向忽必烈提出增设汉军万人和为回回炮匠调拨两千马匹，忽必烈断然否定后者，驳斥道：“战船安用马匹。”忽必烈把征日诸将招至京师，训谕道：“始因彼国使来，故朝廷亦遣使往，彼遂留我使不还，故使卿辈为此行。朕闻汉人言，取人家国，欲得百姓土地，若尽杀百姓，徒得地何用。又有一事，朕实忧之，恐卿辈不和耳。假若彼国人至，与卿辈有所议，当同心协谋，如出一口答之。”

从忽必烈的担心看来，第二次伐日战幕未启，就弥漫着某种不祥之兆。

年初，受命西征的阿术，病卒于哈剌火州（今新疆吐鲁番）；二月，忽必烈的皇后弘吉剌氏（帖古伦大皇后）病逝于兴圣宫；三月，忽必烈帐前智囊人物许衡“以疾归”。

训谕后，忽必烈强调：“此间不悉彼中事宜，阿剌海辈必知，令其自处之。”

五月三日，忽必烈再次发兵两路，东路军由忻都、洪茶丘率领四万作战部队，战船九百艘，仅携带“三个月军粮”，从高丽合浦出发，月底侵袭日本对马、壹歧两岛；江南军由范文虎率领十万屯田部队，战船三千五百艘，从庆元（今浙江宁波）、定海起航，张珪、李庭所部作为预备队在港口待命。总计蒙古人四万五千人，高丽人五万，汉人约十万（绝大多数为屯田兵，携带很多农具、种子等农资）。作战部队主管作战，屯田部队在被占领区屯田，生产米粮，作为长久之计，两军约定于六月会合。

东征伐日的阵容之大，在当时历史上是绝无仅有的，此项纪录直到最后才被打破。

但是，立功心切的东路军没有按既定计划行事，便自作主张贸然向博多湾进军。在日本沿岸建起了石墙（石堤）“元寇防垒”阻碍下，元军的战舰无法顺利登陆。元军以索连舟，设弩而守，日本驱船进攻者，大多中炮击沉。在海上停泊了一个月，战斗持续到六月十三日，元军舰艇几次强行登陆作战均以失败而告终，并且一直遭到河野通有（河野党）以及竹崎季长等人的袭扰。由于南路军未到，东路军仅余一月的粮食，箭矢也即将告罄。时值盛夏，船上的蔬菜和饮水供应都非常困难，加上陆地士兵长期在海上作战，不但疲惫不堪，还染上各种疫病。看来率先抢占博多湾的计划已成为泡影。遂决定于六月十五日从志贺岛撤退，驶向壹岐岛，与江南军会师。

在等待江南军到来的同时，六月中旬至七月初东路军在壹歧岛与日军进行了激烈的争战。据《高丽史节要》中载：“忠烈王七年六月壬申金方庆、金周鼎、朴球、朴之亮、荆万户等与日本战，斩首三百余级。日本军突进，官军溃，茶丘乘马走，王万户复横击之，斩五十余级，日本兵乃退，茶丘仅免。翼日复战败绩。军中大疫，死于兵疫者凡三千余人。”

抢滩登陆后，与日军酣战在一起的元军早已把忽必烈要求诸军攻入日本后“擅杀”的谕训抛到脑后，无论男女老幼，逢人便杀，无一人幸免。元军拉网式的杀戮，使岛民纷纷逃匿于深山中，忐忑藏身。尽管如此，被元军搜捕出来后，仍难逃杀戮的厄运。把岛民洗劫殆尽后，杀上瘾的元军把下一个目标锁定在壹歧岛。

江南军方面出师不利。征日战舰尚未扬帆远征之际，主帅阿剌海生病不能成行，命阿塔海为征东行省丞相前往接替。江南军统率范文虎认为先遣舰队早已发出，不宜久等，遂在阿塔海尚未到任的情况下，即命江南军于六月十八日分批开航出海。当阿塔海赶到出发地点庆元时，范文虎已率军扬帆东渡了。

与此同时，比计划迟到一个月的江南军，于七月才与东路军在日本鹰岛、平户岛会师。加上李庭、相威等原定作为预备军也先后赶到。两路大军会师后，军势大振，本应立即进攻太宰府，却迟疑未发一兵一炮，估计是海上天气恶劣所致。

东路军与驻守壹歧岛的日军酣战多日，军需消耗严重，仅剩下一个月的粮草。东路军与江南军将领在继续战斗和班师的问题上，意见存在严重分歧。加上洪茶丘与高丽军统帅金方庆积怨颇深，南宋宿将范文虎属于南人，遭蒙古诸将轻视，军令之行不力，果然发生了忽必烈临行前担忧的状况。

征日诸将各抒己见的争吵，出现在《高丽史节要》中：“忻都、茶丘等累战不利，且范文虎过期不至，议回军。曰：‘圣旨令江南军与东路军六月望前必会于壹歧岛，今南军不及期，我军先到，大战者数矣。船腐粮尽，其将奈何？’方庆默然，经十余日，又议如初，方庆曰：‘奉圣旨赍三月粮，今一月粮尚在矣，俟南军来，合而攻之，必灭岛夷矣。’诸将莫敢复言。”

公说公有理，婆说婆有理，谁也不服输。忻都和洪茶丘等认为东路军军粮所剩不多，江南军又预期不至，建议班师。而高丽统帅金方庆则认为军需至少还够维持一个月，等江南军一到，定能灭掉日本诸岛，取得伐日的胜利。

正当这次远征军对日本发起最后攻势时，一场突如其来的台风又登陆博多湾，多变的海洋忽然掀起惊天动地的台风。一时间，海风怒吼，乌云翻滚，一座座山峰般的浪头席卷而来。元朝的舟师还没靠岸，被海浪吞噬了二三成，进而搅乱了这次军事行动。多行不义必自毙，被日本视为“神”的台风似乎有意惩罚渡洋前来伐日的元军。

元军与日军对峙两个月后，刁钻的上帝再次伸出那双翻云覆雨之手，元军的厄运再次降临。八月一日夜里，西南太平洋台风渐渐逼近，其剧烈程度似乎比1274年的逆风更强劲一些，杀伤力度更大一些。惊涛骇浪把为防止日军偷袭用绳索连在一起的几千艘元军战舰彻底击碎，侥幸剩余的战舰，不是帆歪桅断，就是篷毁舱漏。元军将士哭号着溺死在海中，尸体随潮汐进入浦口，造成浦口阻塞，以致行人可以从上面踩踏而过。元军士卒被吓得斗志全无，死于台风的不可胜数。这场噩梦般的台风持续肆虐了五天，幸免于难的士卒每逢忆起此事便不寒而栗。

只有平章政事张禧等部未雨绸缪，采取了避风的措施，事先筑垒平户岛，各船的间隙为五十余米止泊，才避免风涛触及，得以保全战舰。台风袭击之后，范文虎收拾残部和补救船只试图再举征日之事时，发现高丽将帅洪茶丘、金方庆带着亲兵偷偷地乘坐尚未碰坏的数十艘建造精良的战舰，乘风破浪远去。

老天好像故意阻挠元军的征日计划，在漫长的一个月的时间里，日本海的夏季台风活动频繁，没有停息的时候。在南宋历史上，以逃跑著称的范文虎见大军进退不得，不由得六神无主。他本来就怀有轻敌之心，根本没有做任何应变的准备。也不甘示弱，被张禧的战舰从海里捞上来之后，在一天夜里，便“自择坚好船乘之，弃士卒十余万于山（五龙山）下”。

军中无帅，数万名元军士兵被残酷地遗弃在鹰岛上，既无主帅，也无完好无损的战舰，简直是赤手空拳，其惨状可想而知。他们恸哭咆哮之后，推举一位张姓百户做残部主帅。张主帅乘风势减弱，指挥将士登山伐木，修造船只，企图归还，但为时已晚。

镰仓幕府决不允许他们活着，八月五日，日本大军在鹰岛周围集合后，向散布于沿海各岛和抱着木板漂浮于海面上的元军发动袭击。七日，以少弍景资为主帅的日军驾驶着数百艘战舰，对处于穷途末路的数万元军大开杀戒。加上语言沟通不畅，张百户不可能在短时间内把残余的元军有序组织起来。张百户率军与日军进行肉搏，六七万人，一半丧身利刃之下，一半溺毙于海中，“伏尸蔽海，海可步行”，余下的二三万人被驱至八角岛。

八月九日，元军将士也饱尝了蒙古铁骑分类屠戮败军的滋味，日本将全部的蒙古人、高丽人和汉人悉数杀掉，而日本镰仓幕府将南方汉人视为唐人，认为新附军是“唐人”，为表示对唐人的友好，遂“不杀之而奴之”。十余万人，只有三名士兵拼凑小船，逃至元朝，前去通风报信。

原来，日本与唐朝友好，他们认为南宋才是继承中原的正统，所以对南方人持宽容的态度。这也许是日本对元朝极不友好的原因。

《元史》载有元军此次伐日的损失程度：“至元十八年八月壬辰诏征日本军回，所在官为给粮。忻都、洪茶丘、范文虎、李庭、金方庆诸军，船为风涛所激，大失利，余军回至高丽境，十存一二。”作为元军伐日的帮凶，高丽军也损失惨烈。元军的第二次东伐日本又以惨败而告终。

令人惊诧不已的是，范文虎逃归后，佯称他们欲扬帆征讨日军，突遇台风，导致船毁兵亡，欲举兵再战时，厉德彪、王国佐率先逃跑，扰乱军心，不得已才撤军，至高丽合浦后解散的谎言，忽必烈对此深信不疑。

此次全军覆没的真相直到败卒于闾脱身归来，方才大白于天下。险些被范文虎愚弄的忽必烈大怒，将尽罢免大小将校，召刘国杰为征东行省左丞相。后经劝说，才全部恢复他们的官职。据此，忽必烈苦心策划的第二次东征日本之役又以失败告终。是年是日本后宇多天皇弘安四年，日本史上称之为“弘安之役”。从此，处于鼎盛期的大元帝国开始一步步走向衰退。

日军将台风对元军的第二次惩罚，视为“神”的行为，并从此继续依赖于神灵的福佑。甚至继续在卷轴的绘词中走动的竹崎季长把自己“弓与箭一样的人”归因于神灵。正视历史的话，元军第二次伐日败于“人祸”。临行前，忽必烈明知诸多将帅之间不和，却执意委以重任执行东征任务；况且，伐日军队士卒的成分，从1281年二月，忽必烈的诏中可以略见一斑，“敕以耽罗新造船付洪茶丘出征，诏以刑徒减死者付忻都军”；加上中途易帅，无人指挥，无限度地拖延了非常珍贵的会师时间。

日本江户时代后期的儒学者、诗人赖襄（号山阳）就13世纪忽必烈两次“征伐”日本失败所作的乐府歌：

筑海飓气连天黑，蔽海而来者何贼？

蒙古来。来自北。东西次第期吞食。

吓得赵家老寡妇，持此来拟男儿国。

相模太郎胆如瓮，防海将士人各力。

蒙古来。吾不怖。

吾怖关东令如山，直前斫贼不许顾。

倒吾樯，登虏舰，擒虏将，吾军喊。

可恨东风一驱附大涛，不使膻血尽膏日本刀！