我国的中成药生产与应用历史非常悠久，最早可追溯至战国时期。在湖南长沙马王堆汉墓出土的《五十二病方》中记载医方个，药方的用法，既有内服，也有外用，内服还有汤、丸、饮、散的区别。另外，我国第一部医学经典著作《黄帝内经》记载了13个方剂，其中就有9种成药，包括丸、散、膏、丹、药酒等剂型。
东汉末年张仲景的《伤寒杂病论》中载有膏剂、丸剂、散剂、栓剂、洗剂、灌肠剂、烟熏剂等多种剂型及制作方法，收载有60余种成药，如五苓散、理中丸等，现仍在临床使用，效果肯定。
晋代葛洪所著的《肘后备急方》，收载成药数十种，在配方、制作方法上有了新的发展。收载剂型有蜡丸、锭剂、条剂、饼剂、灸剂、熨剂、尿道栓剂等，并将成药专章论著。
唐代孙思邈编著的《备急千金要方》和《千金翼方》，为集唐以前医方之大成，分别收载医方余首和余首，同时收载了很多成药，较著名的如磁朱丸、紫雪丹、定志丸等；剂型则涉及丸剂、散剂、膏剂、丹剂等。王焘所著《外台秘要》，收方首，也有很多成药，如苏合香丸（原名乞力伽丸）至今沿用，并在此基础上开发出了冠心苏合丸、苏冰滴丸等著名中成药。
宋代是中成药发展较为兴盛的阶段，北宋政府官办药局“惠民和剂局”专司制药和售药。由政府组织编写的《太平圣惠方》和《圣济总录》，收方达数万首，成药有膏药、丹剂等的专篇介绍。裴宋元、陈师文等撰写的《太平惠民和剂局方》，是我国历史上第一部由国家刊行的成药药典，载方首，如黑锡丹、至宝丹、藿香正气散等，对后世影响很大。此外，宋代尚有民间的方书收载中成药，如钱乙的《小儿药证直诀》中记载了大量的中成药，如导赤散、泻白散、七味白术散、六味地黄丸等沿用至今。
金元时期，金元“四大家”创制了各具特色的中成药，如刘河间的防风通圣散、六一散；李东垣的半夏枳术丸、香砂枳术丸；张子和的木香槟榔丸、禹功散；朱丹溪的大补阴丸、越鞠丸等。
明清时期，李时珍的《本草纲目》收载中成药剂型近40种，方剂首。陈实功的《外科正宗》收载了余种成药，如冰硼散、如意金黄散。吴鞠通的《温病条辨》中也创制了大量成药，如桑菊饮、银翘散、安宫牛黄丸等。清末出现了北京著名的“同仁堂”“万锦堂”等药店，生产出售的成药有多种。
新中国成立以后，中成药的研发和应用得到长足发展。《中国药典》（年版）收载中成药种，年版增加至种。当然批准的中成药中也存在同一药品处方的不同剂型，同一药品的多个生产厂家的品种。目前国家对药品的监管力度不断加强，药品审评标准不断提高，研制开发出了一批组方合理、疗效确切、安全性好、质量可控的新品种。
中成药是中医药学的重要组成部分，近年来中成药学作为独立学科的明确提出，是以中医学理论为基础，以中药学、方剂学、中药化学、中药药理学、中药炮制学、中药制剂学等学科为支撑，学科内容也将在临床医疗实践和中成药生产实践中不断得到丰富、完善和发展。