虽然元军大举伐日接连招致两次惨败，忽必烈征日之心仍旧不死。为维护声望，“弘安之役”两年后，忽必烈命阿塔海为东征行省丞相，高丽国王王愖为左丞相，同时命舟师习水战，储备粮草，募集兵卫两万余人，准备秋季再次大举伐日。

1282年七月，高丽国王王愖请缨，愿意举国之力建造战舰一百五十艘，臂助元朝征日之举。1283年，忽必烈命高丽筹集军粮二十万石，并命“右丞阇里帖木儿及万户三十万人，蒙军习舟师者二千人，特默齐万人，习水战者五百人，征日本”。并责令江南各行省大造船只，按人头摊派造船数量和造船材料，加上修缮兵器，弄得民生凋敝，怨声载道。

四月，第三次征日的准备工作已达到巅峰，忽必烈不惜血本，并从五卫军中抽调两万人以填充讨伐日本的军事力量。五卫军是忽必烈设置的中央军队，由亲军都指挥统辖，分前、后、左、右、中五卫，以汉军为主体，称之为汉人卫军。

尽管如此，第三次东征日本的步履仍然迟缓不展，无论是元廷官员，还是民间，反对举兵伐日的呼声一天高过一天。

1283年五月，刑部尚书崔彧见状，上言百姓黎民之苦，请求忽必烈暂停征日之举，奏曰：“江南盗贼，相挺而起，凡二百余所，皆由拘刷水手，兴造海船，民不聊生，激而成变。日本之役，宜姑止之。又，江西四省军需，宜量民力，勿强以土产所无。凡给物价与民者，必以实。召募水手，当从其所欲。伺民气稍苏，我力粗备，三二年后，东征未晚也。”又曰：“昨中书奉旨，差官度量大都州县地亩，本以革权势兼并之弊，欲其明白，不得不于军民诸色人户通行核实。又因取勘畜牧数目，初意本非扰民，而近者浮言胥动，恐失农时。”又言：“各路每岁选取室女，宜罢。宋文思院小口斛出入官粮，无所容隐，宜颁行。”

淮西尉宣使、西夏将军世家之后昂吉儿上奏说：“臣闻兵以气为主，而上下同欲者胜。比者连事外夷，三军屡衄，不可以言气；海内骚然，一遇调发，上下愁怨，非所谓同欲也。请罢兵息民。”

南台御史大夫姜卫亦遣使上奉曰：“倭不奉职贡，可伐而不可怒，可缓而不可急。向者师行期迫，战船不坚，前车已覆，后当改辙。为今之计，预修战舰，训练士卒，耀兵扬武，使彼闻之，深自备御，迟以岁月，俟其疲怠，出其不意，乘风疾往，一举而下，万全之策也。”

因伐日之心空前高涨，崔彧、昂吉儿及姜卫的劝谏之言根本入不了忽必烈的耳朵，诚然，江南风生水起的反叛及越南抵抗，使东征的难度日趋增高。

为反对东征日本带来的沉重负担，南方人民的反抗斗争渐成风起云涌之势。致使造船的进度年复一年地拖延下来，忽必烈的伐日计划几乎严重受挫。据史料统计，至元二十年（1283），大小起义二百余起，至元二十六年（1289），增加到四百余起。几乎南方各地都有起义事件的发生，尤以浙、闽、广、交界地区最为剧烈。从1280年到1286年间，漳州陈吊眼、许夫人，福州林天成，南康杜可用，廉州霍公明、郑仲龙，福建黄华，四川的赵和尚都先后起兵。起义的首领大都是南宋抗战将领张世杰的旧部，多打着恢复南宋的旗号。

两月后，江西道宣慰使史弼上奏忽必烈说，连日建造东征船只，致使百姓怨声载道，建议忽必烈放缓东征步伐，采取宽舒民怨的政策。

为稳定大元帝国内动荡不安的因素，忽必烈下诏，命令诸地暂缓造船事宜，“所造征日本船，宜少缓之，所拘商船悉给还”。而后，征日工作时紧时缓地进行着，只要条件允许，忽必烈荡平日本之心仍沸腾不已。

既然利用军事手段在短期内难以实施平日的计划，忽必烈认为日本“倾向佛乘，欲聘有道衲子，劝诱以为附庸”，便另辟蹊径，试图借助佛教手段迫使日本俯首称臣。1283年八月，派普陀山僧人如智与提举王君治前往日本，后遇台风而还。

1284年，忽必烈再次派遣江西行省参政王积翁与僧人如智出使日本。王积翁原为南宋的福建制置使，元军越仙霞岭进兵入闽时，王积翁献闽图籍降元有功。他任职福建时，曾监管过和高丽、日本、马来亚、暹罗诸国海上通商，自诩“能谕日本”，对忽必烈说：“日本难以力服，可以计取。如令臣去，事成，不至劳师丧财；事不成，亦无损于国威。”愿赴日本为元朝再立大功。便命王积翁、普陀僧如智一行乘“巨舶四艘”赴日，途中王积翁自恃元朝委任的高官，习惯于平时的作威作福，无恶不作，常鞭打水手。七月抵达日本对马岛，结果不愿赴日的舟人任甲“诸舟人共谋，杀积翁”抛尸大海而还，导致这次出使过早夭折。

从早期黑的、殷弘开始，一直到王积翁、如智，从蒙古到元朝，历经十八年的外交努力，所有的努力都付诸东流，最终以失败而告终。

1284年，礼部尚书刘宣上书道：“近议复置征东行省，再兴日本之师，此役不息，安危系焉。唆都建伐占城，海牙言平交趾，三数年间，湖广、江西供给船只、军需粮运，官民大扰，广东群盗并起，军兵远涉江海瘴毒之地，死伤过半，即日连兵未解。且交趾与我接境，蕞尔小邦，遣亲王提兵深入，未见报功，唆都为贼所杀，自遗羞辱。况日本海洋万里，疆土阔远，非二国可比。今次出师，动众履险，纵不遇风，可到彼岸，倭国地广，徒众猥多，彼兵四集，我师无援，万一不利，欲发救兵，其能飞渡耶？隋伐高丽，三次大举，数见败北，丧师百万。唐太宗以英武自负，亲征高丽，虽取数城而还，徒增追悔。且高丽平壤诸城，皆居陆地，去中原不远，以二国之众加之，尚不能克，况日本僻在海隅，与中国相悬万里哉！”

对刘宣上书的结果，史载忽必烈“嘉纳其言”。

1286年正月，忽必烈终于做了一个异常艰难的决定，以“以日本孤远岛夷，重困民力，罢征日本，召阿八赤赴阙，仍散所顾民船”为由，取消征讨日本的诏令。

1286年，即第二次伐日后的五年，忽必烈先后对安南（今越南北部）、占城（今越南南部）、爪哇（今印度尼西亚爪哇岛）、缅国（今缅甸）等地用兵，但均没取得进展性的胜利。精疲力竭的忽必烈才意识到元朝虽疆域辽阔，也有力不从心的时候。再对日本执意攻伐下去，不仅劳民伤财，恐怕大元帝国的安危都成了问题。

忽必烈吩咐安童传诏下去，撤销征东行中书省，停止造船，征日之事，容以后再说。《元史》称：“帝以日本孤远岛夷，重困民力，罢征日本，召阿八赤赴阙，仍散所顾民船。”江浙一带军民久苦于是役，消息传来，欢声雷动。后来虽又几次复征之议，但都遭到诸臣的竭力反对，加上连年征讨安南、缅甸、爪哇，造成国力衰弱，兵力不足，才又延缓下来。

忽必烈于1294年去世后，元成宗铁穆耳即位。1298年，好事的江浙省平章政事也速答儿乞用兵日本。成宗回答说：“今非其时，朕徐思之。”

1299年三月，元成宗命妙慈弘济大师、台州临海僧人一山一宁持国书出使日本。国书写道：

有司奏陈，向者世祖皇帝尝遣普陀禅僧如智及王积翁等两人奉玺书通好日本，咸以中途受阻而还。爰自朕临御以来，绥怀诸国，薄海内外，糜有遐遣。日本之好，宜复通问。今如智已老，普陀僧一山一宁道行素高，可令往谕。附商船以行，庶可必达。朕特从其请，盖欲成先帝遗意耳。至于惇好息民之事，王其审图之！

这份国书言辞恳切，绝没有杀伐之气，字里行间洋溢着睦邻友好的诚恳愿望。

一山一宁在平山万寿寺僧西涧土昙及弟子石梁仁恭随行下，于1299年三月，自庆元搭乘日本来华商船远涉重洋，并顺利抵达日本博多。由幕府迎抵镰仓，受到日本朝野僧俗的热烈欢迎。一山一宁访日，阐明朝廷修复中日睦邻友好本意，结束了当时中日之间的战争状态。留居日本近二十年，为日本佛教界造就了一大批颇有影响的人才。日本后宇法皇在其去世后赐谥“一山国师妙慈弘济大师”封号。这促使了中日战争状态结束，官方友好往来发展。