公元960年，宋太祖趙匡胤發動兵變，建立了宋朝（北宋），接著，趙氏兄弟又用了大約20年的時間，陸續平定了那些地方割據性質的軍閥國家，結束了五代十國的分裂局面，實現了國家的統壹。其時，在中國的北方，契丹族的遼國（公元916～1125年）並未被北宋征服，而與之對峙。北宋統治者在國內采取文治主義方針，保持了較長時間的和平局面，促進了產業經濟的發展，實現了文化的發達。但在另壹方面，北宋王朝又與北方各新興民族之間不斷爭戰，耗費了數額巨大的軍費和防務費，造成國家財政的沈重負擔。為了確保財源，朝廷不得不采取保護、鼓勵對外貿易政策，致使對外貿易迅速發展，形成了與都市繁榮和工商業發展互為補充的局面。
許多北宋商人，比如朱仁聰、周文德、周文裔、鄭仁德、孫忠、李允等，都曾乘商船多次往返於中日之間，成為當時廣為人知的人物。宋朝商人運往日本的貿易物資，主要是棉、綾等絲織品和香料、藥材等，其次便是陶瓷器、文具等；日本的輸出品主要有砂金、水銀、錦、絹、布、扇、刀劍等，大體上與前代相同。
日本自從公元894年決定停派遣唐使之後，采取限制與中國往來的政策，只允許少數僧侶來中國。這樣，中國私人商船攜帶包括書籍在內的“唐物”赴日貿易和日僧訪宋所進行的壹些文化宗教活動，便成了這壹時期中日文化交流的紐帶。
從11世紀中葉起，日本豪商和莊園領主中開始有人向高麗方面派遣貿易船。從12世紀前半葉（南宋初期）開始，這壹情況又有所發展，出現了日本商船直接開赴中國進行貿易的趨勢。南宋方面指定靠近長江口的明州（寧波）為對日貿易港，日本商船便開始頻繁駛人明州。利用商船出海而入宋的日本禪僧也日益增多。
進入鐮倉時代（公元1181年日本源氏取代平氏，1193年源賴朝在鐮倉開設幕府），日本對外貿易管理權由幕府繼承。因為鐮倉幕府從壹開始就對對外貿易采取比較放任的政策，允許自由貿易，所以日宋間貿易繼平氏時代的繁榮期之後又有了很大發展。
宋錢從12世紀中期開始大量輸入日本。中國的銅錢也是在這個時期開始流通於日本的。《東大寺文書》中記載，京都買田地以銅錢額標記價格。南宋孝宗（公元1162~1194年在位）時，日本和高麗的商船每年都要開往明州進行貿易，不光以物換物，更願意以現錢交易。鑒於宋錢大量流人日本和高麗的情況，宋慶元（宋寧宗趙擴年號）五年（1199年），宋朝政府曾公布法令，嚴禁把銅錢帶到日本和高麗去。
13世紀初，成吉思汗統壹蒙古，創立了蒙古帝國。公元1271年，世祖忽必烈（公元1215～1294年）作為中國王朝的繼承者建立了元朝。在對外關系上，元世祖曾多次對鄰近國家用兵。至元（元世祖年號）十壹年（1274年）和十八年（1281年），便曾兩次遠征日本。這期間，即使因為征戰造成兩國關系惡化，但彼此間的貿易往來並沒有中止。《元史·日本傳》中就有日本商船來華貿易的記載。元朝統治者十分關註海外貿易收益，因此歡迎並優待民間貿易。
宋元時期，除了貿易往來，作為文化交流，中日兩國間來往最多的還是僧侶。北宋時期，第壹個因入宋而知名的僧人是奝然（diāorán）（公元938～1016年）。奝然本是日本東大寺和尚。他是與弟子成算、嘉因等壹同搭乘吳越商人陳仁爽的船只人宋的。《宋史·日本傳》中寫道：“雍熙元年（984年）日本國僧蔚然與其徒五六人浮海而至，獻銅器十余事，並本國《職員令》、《王年代紀》各壹卷。”宋太宗（趙匡義，公元976~997年在位）曾召見裔然，並賜之以紫衣。宋雍熙（宋太宗年號）二年（985年），奝然隨浙江臺州寧海縣商人鄭仁德船回裔。數年後，鄭仁德返回時，奝然遺其弟子喜因奉表向太宗致謝，並獻上不少當時日本的高級工藝品。表中多有對宋朝皇帝的頌揚及感恩之語，從中也可看出裔然對中國的深情及其精深的漢文造詣。
另壹位日本高僧源信（公元942～1017年），從宗教無國界的信念出發，曾委托回國的宋商朱仁聰帶回自己撰述的《往生要集》。《往生要集》後被浙江天臺山國清寺收存，其教義也受到人們推崇。源信的教義不僅在日本凈土宗信仰的歷史上占有重要位置，而且對宋代佛教界的影響也很大。
北宋時代，日本僧侶入京和回國都要搭乘宋人的商船，到了南宋，情況便與北宋不同。引人註目的是此時已有日本船開到中國或漂流到中國。南宋時代，佛教禪宗在江蘇、浙江壹帶十分興盛。南宋的士大夫乃至皇帝都願與禪僧結交，以表示自己的儒雅高潔。這壹時期，為修習禪宗而人宋的日本僧侶絡繹不絕（luòyìbùjué）。
最早人宋的和尚是東大寺的重源（公元1121~1206年）。重源1167年來到中國，曾去朝拜天臺山、育王寺等地，第二年9月與榮西壹起回國。回國時，他帶回宋版《大藏經》等許多經典以及凈土五祖像、十六羅漢像和許多佛具、佛畫，並把它們捐贈給了東大寺等寺院。
比重源晚壹些入宋的另壹位僧人是日本禪宗臨濟宗的開山祖榮西（公元1141～1215年）。榮西在中國遇到重源，二人同去天臺山、育王寺朝拜、修行，並於1168年9月攜帶天臺宗經典60卷回國。榮西還帶回茶種，回國後，在傳布臨濟宗的同時，極力向日本傳播飲茶風習。榮西於1187年再次人宋，到天臺山萬年寺學禪。榮西在宋滯留了5年，於1191年回國。回國後，他先在九州普及禪宗，又於1195年在博多營造聖福寺。後下鐮倉，住壽福寺，在鐮倉武士中發展信徒，並於1202年在京都營造建仁寺，致力於禪宗的普及。
榮西的門人明全（公元1184～1225年）在榮西死後繼續主持建仁寺。1223年，明全偕道元等人入宋，住天童山修習曹洞宗，兩年後在天童山圓寂。明全死後，道元（公元1200～1253年）繼承曹洞宗的正統，師從天重山住持如凈，嚴格修行坐禪。1227年秋，道元辭別如凈，攜明全遺骨回國。據說在臨別時，如凈禪師告誡他：不住城邑（yì，城市），不近國王大臣，即使壹人或半人也要教化。道元歸國後，於1233年在京都山城開興聖寺。1244年，道元又營造永平寺，全身心致力於弟子的培養，成了日本曹洞宗鼻祖。
榮西的法孫圓爾辨圓（公元1203～1280年）1235年入宋，歷訪育王寺、天重山、徑山（杭州府）諸寺，在徑山萬壽寺學禪。1214年歸國後在博多開崇福寺、承天寺，在京都東南營造東福寺，專事弘布禪宗，成為臨濟宗東福寺派鼻祖。1280年死後被花園天皇賜“聖壹國師”號。圓爾辨圓門下的僧侶大多相繼入宋。其弟子無關普門（公元1212壹1291年）1251年來到中國，在宋修行達10年之久。歸國後居住東福寺，受“大明國師”稱號。
南宋時期，與日本僧侶相繼人宋學禪的同時，也有不少中國僧侶東渡日本。蘭溪道隆（大覺禪師，公元1213～1278年）是第壹個把大陸禪宗正式傳到日本的中國禪僧。他聽說日本的禪宗逐漸興盛，便於1246年和他的弟子們壹同抵達日本，人京都泉湧寺來迎院，傳布禪宗。後在該院院主智鏡幫助下移居鐮倉壽福寺。
這時正值鐮倉時代中期，掌權的北條時賴願意接納新興的禪宗，企使鐮倉既為政治中心，也為宗教中心，以便掌握宗教的實權。北條時賴以道隆赴日為良機，支持道隆於1253年在鐮倉創建建長寺，道隆因此成了該寺的開山祖師。建長寺是模仿杭州徑山禪寺的式樣修建的，象征著鐮倉禪宗的質的轉換。時賴又於1255年招募禪徒，鑄造巨鐘，由道隆撰寫鐘銘，署名“建長禪寺住持宋沙門道隆”，據說這是日本有“禪寺”之名的開端。
元代，因為元軍征日，在壹段時間內，中日間的僧侶往來中斷。直至中國僧人壹山壹寧（公元1247～1317年）去日之後，受其感化影響，來中國的日本僧人才逐漸增多。壹山壹寧是普陀山的高僧，1299年（元大德三年）受任元成宗（鐵穆耳，公元1294～1307年在位）的外交使節，持國書赴日，最初被幕府疑為間諜，禁錮在伊豆修禪寺，後因其高德被赦免。壹山壹寧長期居住在日本，曾住過鐮倉的建長寺、圓覺寺、凈智寺、京都的南禪寺等處。其博學多才受到日本上下各階層人士的尊重和仰慕。壹山壹寧對日本文學、書法、繪畫等方面的發展產生過影響。
1305年以後，日本僧人人元者驟增。據說1305年壹山壹寧的弟子龍山德見人元時，有17人同行；t342年赴日僧竺仙梵仙的弟子人元時，也有25人相隨；1344年日本僧大拙祖能人元時，有數十人組團同行。此外，單獨人元的僧人也有很多。人元日本僧人中，有不少在中國旅居達lO年甚至20年之久，被中國禪寺迎為住持的也不鮮見。
與日本僧人人元相對應，中國的禪僧也相繼赴日。其中最負盛名的如清拙正澄（公元1274～1339年）、明極楚俊（公元1262～1336年）、竺仙梵仙（公元1292~1348年）等，都是元朝第壹流的高僧。他們抵日後，擔任京都、鐮倉禪寺的住持，受到朝廷和幕府的尊重與信賴。尤其是清拙正澄，將中國禪林的各種規式移植到日本，對完善日本禪林規則起了很大的作用。