“倭寇”是日本海盗的专称，早在朱元璋统治的洪武时期，倭寇就长期在中国东南沿海地区骚扰。据统计，洪武年间有记载的倭寇入侵达44次之多，而且其中大部分集中在洪武十四年之前，平均每年超过两次。为了解决这个问题，朱元璋可谓殚精竭虑，绞尽脑汁。

洪武元年，他派永嘉侯朱亮祖镇守广东，在沿海要地设置卫所，派兵防守，同时发国书给日本诸国（当时日本正处于分裂的“南北朝”时期）表达了自己希望与日本诸国建立睦邻友好关系，一起消灭倭寇，共享太平之福的愿望。

但当时的日本幕府将军足利义诠以“倭寇乃九洲海贼所为，日本政府根本就不知道”为由予以搪塞。洪武二年，着眼于长远利益的朱元璋又派杨栽等七人出使日本，并亲自写了一封措辞严厉的信威胁“倭寇”。

接到信后，日本国的怀良亲王大怒，斩杀明使五人，其他二人扣留，朱元璋的这一次交涉毫无成果可言。

洪武三年三月，不死心的朱元璋又派莱州府同知赵秩等再次出使日本。赵秩经过一番惊险的周旋和唇枪舌剑后，终于软化了怀良亲王的立场。怀良亲王派和尚祖来捎带了大量的贡马和土特产向明朝“奉表称臣”，而且还送还了七十多个被倭寇抓去的中国人。

朱元璋十分高兴，在皇宫设宴款待日本来使，并赏赐了大量的财物。考虑到日本人普遍信仰佛教，朱元璋还派了八个和尚护送祖来回国。但是朱元璋对当时的日本缺乏最起码的认识，他高估了怀良亲王的影响力，怀良亲王只是一个亲王而不是国王，他的意志并不能代表整个日本国的意志。

那么当时最有势力的日本国王是怎么想的呢？说来还真是凑巧，这位仁兄的想法正好与怀良亲王相反，他并不认为跟中国交好是一件多么急切的事，于是两国的交涉搁浅。

后来日本国也有一些零零散散的朝贡，但因为这些多是地方实力派官员贪图大明朝的赏赐而搞的私人活动，没有正规的表文和印信，所以朱元璋都不怎么搭理。洪武十三年，日使再次来贡，情况同前几次一样，也是没有表文，但带了一封日本征夷将军源义满的奉丞相书，文章写得极其嚣张，朱元璋看后很不开心，便拒绝了日本的朝贡。

洪武十四年日本再次来贡，朱元璋又一次推却，并让礼部写了一封信，责备日本国王和他们的那个征夷将军。日本不甘示弱，也回了一封极其强硬的信。朱元璋看了这封表文大怒，史载“帝得表愠甚”，但考虑到元朝两次出征日本损兵折将的前车之鉴，朱元璋经过深思熟虑，没有下决心东征日本。

不过这一件事后，朱元璋改变了以往企图交好日本的策略，而改为在内部积极设防，在沿海各地加强防守和卫所建设等，尽量减少倭寇造成的损失。最后他以日本支持胡惟庸造反为由，于洪武二十年（1387年）果断地断绝了跟日本的往来。把日本列为“不庭之国”，永远不准日本来中国贸易，并写入了传给后世子孙的《皇明祖训》中。在这本《祖训》中，日本还被列入了永不攻打的十五国之一。