从先秦时代开始，就不断有大陆移民进入日本列岛。最早用文字撰述的日本史籍《古事记》、《日本书纪》中，把外来移民称之为“汉人”、“新汉人”、“吴 人”、“唐人”、“归化人”等。大陆移民移居日本列岛的主要可分为四个时期，即秦汉时代——发轫期;魏晋南北朝时代——高潮期;隋唐时代——持续期;宋明 时代——终结期。其中也不乏日本朝廷为吸收先进文化，引进技术人才，多次遣使至中国大陆和朝鲜半岛寻觅、劝诱汉人来日等，种种因素推动了大陆移民的赴日高 潮。
第一次是在秦汉时期(公元前3世纪至公元3世纪)。
其间流传最广的就是发生在秦始皇时期的徐福东渡日本的传说。在司马迁的《史记·秦始皇本纪》中中有这样一段记载：始皇二十八年：“齐人徐 (徐福)等上书，言海中有三神山，名曰蓬莱、方丈、瀛洲，仙人居之。请得斋戒，与童男女求之。于是遣徐福发童男女数千人，入海求仙人。”那么，徐福求药寻 仙最后去了哪儿呢?据《史记·淮南衡山列传》记载徐福最后到达“平原广泽”之地，竟“止王不来。”据说，这“平原广泽”是今天日本的九州。在日本学术界， 研究徐福事迹的学术团体、学者和专家有很多，也有很多研究徐福事迹的文章、著作和专著，都确认了徐福到达并开发日本事实，徐福至今也仍受到日本民众的尊崇 与爱戴。
网络配图
遣唐使于公元895年废止后，一直到元朝，中日两国之间的关系趋于冷淡，官方往来基本停止，大规模有组织的大陆归化人移民浪潮也基本结束。有据可查的是洪 武二十五年(1392)，朱元璋“更赐闽人三十六姓”人琉球。这批中国移民主要是向琉球传授中国先进的生产技术和文化。琉球王国也曾主动请求赐人，如 1606年，尚宁王受册封时，便请赐明人归化。如从中国去的蔡氏为蔡襄的后人，林氏为林和靖家族的后人。
到了元灭南宋和清军入关的残酷民族战争与屠杀中， 又有些南宋和明朝遗民(主要是江南汉人)迁居日本(比如著名的南宋温州雁山能仁寺住持高僧祖元、明朝宗室遗民朱舜水等)，但为数已不足道。一个最主要的原因就是唐宋以来，中国造船技术的进步和指南针的使用大大提高了中国人的航海技术，大量的贫苦农民和战争难民开始浮海到自然条件更为优越的南洋一带谋生，人多地狭的日本已逐渐失去了对大陆人民的吸引力，不再是中国海外移民的首选目的地。
17世纪末，清朝统治日趋稳定，民族压迫政策有所减轻，经济由恢复而发展，开始进入封建社会最后也是持续时间最长的盛世——康乾盛世;日本则进入了德川幕府统治时期，中日两国都奉行闭关锁国的国策，官方往来再次中断。至此时，引发移民潮的原动力不复存在，持续了将近2000年的中国大陆移民迁居日本的历史终于彻底终结。
正如日本一位史学家所说的，“只要统计一下我们祖先的数字就明白了。可以说我们现代的每一个日本人，都继承着一千数百年前生活着的全部日本人的血液，所以，必须承认，我们不论谁的血液中，都含有百分之十或二十古代归化人的血液。虽然流行着我们的祖先同化了归化人的说法，但并非如此，归化人(汉族移民)就 是我们的祖先。”