日本的汉方医学其实就是日本化的中医学，两者的关系可以说是同源异流、同根异枝。日本传统医学起源于中国传统的中医理论，汉朝时编辑成的经典著作《伤寒杂病论》记录了传统的中医理论。

关于中日医学交流，流传着这样一个故事。约在公元414年，当时日本列岛还处于古坟时代，国家的雏形刚刚形成。一次天皇病了，四处寻找医生看病，但始终未能治愈。后来，一个朝鲜医生金武出现了，金武来到宫中，药到病除，治好了天皇的病。天皇大喜，经询问，才知金武曾到过中国（当时中国正处于魏晋南北朝时期），并在中国学到了中医知识。日本这才知道在遥远的大陆，还有着这一神奇的医学，于是开始派人去学，中医也正式开始在日本列岛登场亮相。

此后，中日医学交往见诸史册。公元552年，梁元帝萧绎赐给日本《针经》一套。公元562年，知聪携《明堂图》及医药书籍164卷到日本，开始了中日医学的直接交流。

隋唐之际，中日两国医学方面的交往日益频繁。公元608年，日本推古天皇派遣药师惠日、留学生倭汉直福因等赴中国学医，他们于628年学成回国，带回大量隋唐医书。此后随着鉴真大师东渡抵日，盛唐时期的大量医药著作源源不断地传入日本。

据统计，仅宇多天皇宽平三年(891年)时藤原佐世奉敕登记日本图书，撰成《日本国见在书目》，书中就收载有医书166部，计1107卷。其中如徐文伯的《杂药方》、僧深的《方集》、葛洪的《肘后方》、胡洽的《胡洽方》、鉴真的《鉴上秘方》、陶弘景的《本草经集注》、龚庆宣整理的《刘涓子鬼遗方》等都成为了日本医学界的至宝。