2世纪以前，日本濑户内海东岸以大和为中心的地区成为本州吸取大陆文化的门户，成为经济发展的先进地区，进而形成了许多小的国家。3世纪以后，日本本州中部的大和地区出现了一个较大的政权——大和国家。经过一系列征服战争，大和国家逐渐占领邻近地区，于4世纪初征服了包括北九州岛在内的许多地区。后又涉足朝鲜半岛，占领南部的任那，以此为据点掠取奴隶和物资，并胁迫百济与之结盟。到5世纪时，大和国家先后东征毛人55国，西征众夷66国，渡平海北95国，大体上统一了日本列岛，建立了统一的大和国家，今天的日本就是在此基础上发展起来的。
日本长期生活在海中的岛屿上，与大陆的来往比较困难，所以历史上很长时间里，只有语言没有文字。这个时期形成和使用的语言称之为“和语”。大约4世纪到5世纪，大量的日本来华留学生即遣唐使、遣隋使，将先进的中华文明，包括汉语及汉字带到了日本，日本人开始学习和使用汉字作为记录工具，正式开始了使用文字记载语言的历史。
