唐朝時期，日本先後十幾次派出遣唐使團，到大唐學習先進制度和文化。日本遣唐使團中，除了官員之外，還包括一些留學生和留學僧。
在這些留學生中，最負盛名的大概要屬阿倍仲麻呂（公元698—770）。阿倍仲麻呂19歲時隨第9次遣唐使團來大唐留學，入唐後稱爲朝臣仲滿，後被唐玄宗賜名晁衡（又稱朝衡）。
他在唐朝最高學府國子監的“太學”中求學數載後，考取了大唐進士，是日本留學生中唯一科舉及第的人。科舉及第後他留在大唐爲官，曆任左補阙、衛尉少卿、秘書監兼衛尉卿等職。阿倍仲麻呂性格豪爽，與唐朝大詩人李白、王維、儲光羲等交情很深。
公元753年，阿倍仲麻呂隨日本第11次遣唐使團回國，但在海上遇到了風暴，與其他船只失去聯系，被吹到大唐皮州海岸（今越南境內）。登陸後又慘遭當地土人襲擊，全船一百七十多人，只有阿倍仲麻呂和遣唐大使藤原清河等十余人幸免于難。
後曆經艱險，再度返回長安。公元770年1月，阿倍仲麻呂在長安病逝。唐代宗爲了表彰他的功績，追封他爲璐州大都督。
天寶12年(753年)，仲麻呂歸國時，傳聞他在海上遇難。李白聽了十分悲痛，揮淚寫下了《哭晁卿衡》的著名詩篇：
“日本晁卿辭帝都，征帆一片繞蓬壺。明月不歸沉碧海，白雲愁色滿蒼梧。”
詩人把仲麻呂比作潔白如碧的明月，把他的死，比作明月沉碧海。因爲是明月沉碧海，所以天愁人哭，萬裏長空的白雲，刹時間也變得灰暗陰沉，一片愁色籠罩著天地人間。詩中感情充沛，深刻表達了兩人的誠摯友誼，成爲中日友誼史上傳誦千年的不朽名作。
仲麻呂回到長安後看到李白爲他寫的詩，百感交集，當即寫下了著名詩篇《望鄉》：
“卅年長安住，歸不到蓬壺。一片望鄉情，盡付水天處。魂兮歸來了，感君痛苦吾。我更爲君哭，不得長安住。”。
