公元三世纪中叶，大和国兴起于本州岛中部，到了五世纪，大和国征服日本其他各部，建立起日本第一个统一的国家政权。
此时的中国处于极不稳定的南北朝时期，大和政权开始南朝称臣纳贡。南朝经历宋、齐、梁、陈四朝，前三朝都与日本国有外交往来。
公元478年，南京城来了一群身材矮小的使者，他们就是倭国人。这是刘宋政权开始后两国的第一次往来，后来宋文帝刘义隆在位，倭国实力大增，新王珍希望刘宋政权赐予节制六国政权，也就是现在整个朝鲜半岛跟日本国的军事都归他管，南朝刘宋没有同意，只册封他为“安东大将军、倭国王”。
倭王武继位后，刘宋政权式微，便答应了倭国之前的请求，但消息带回倭国后不久，刘宋就灭亡了。后来萧道成建立南齐，倭国派使者前来道贺，并询问此事是否算数，南齐一口回绝，至此两国再无任何交集，直到南梁建立，同样的事情又发生一遍，还是无果。
五世纪在位的五位倭国王讚、珍、济、兴、武都与我国有外交往来，这在《宋书》、《南齐书》、《梁书》中都有记载。后来由于册封之事，两国直到隋朝才再次开始往来。
这一时期日本还是处于古坟时代，对外扩张成为这一时期的主要活动。
