国清寺始建于隋文帝开皇十八年（598年），是依据天台宗创始人智顗亲手所画的样式所建的。智顗开创天台宗后，想建一寺庙，作为该宗的正式祖庭，但限于资金，迟迟不得动工。他在临终遗书晋王，说：“不见寺成，瞑目为恨”。晋王杨广（后为隋炀帝）见书后，极为感动，便派司马王弘监造国清寺。初建的国清寺寺址在现在大雄宝殿后面约100米处的八桂峰前山坡上。唐会昌中（约845年），原寺毁于火，旋即重建。唐大中五年（851年）著名书法家柳公权在寺后石壁上题写的“大中国清之寺”六个大字摩崖石主刻，至今仍清晰可辨。 从唐大中朝到清雍正朝的880多年间，国清寺几度或毁于兵火，或摧于风暴，但都是屡毁屡建。每次重修，寺宇规模都有所发展，位置也越来越往下移至山麓平旷地带。
国清寺在佛教发展史和中外关系史上都具有重要地位，寺周保存了大量的摩崖、碑刻、手书、佛像和法器等珍贵文物。 国清寺是一座历史文化古刹。孟浩然、李白、贾岛、皮日休、陆龟蒙、杜荀鹤、洪适、郭沫若、邓拓、赵朴初等文人雅士均留下不朽名篇。寺内有中国佛教天台宗第五祖章安灌顶大师手植的“隋梅”一株，至今仍郁郁葱葱。纪念唐代著名诗僧寒山、拾得、丰干的“三贤堂”，重13吨的明代释迦牟尼青铜像，18尊元代所雕的楠木罗汉，王羲之、柳公权、黄庭坚、米芾、朱熹的摩崖手迹，寺外有纪念唐代天文学家僧一行为编制《大衍历》至国清寺求算学的“一行到此水西流”碑及“一行禅师之塔”等。更主要的是陈隋之际，智者大师（538-597年）在天台山创立了中国汉化佛教第一宗——天台宗。 唐贞元年间（公元785─805年），日本高僧最澄到天台山国清寺学习天台宗义理，回国后在京都比睿山创立了佛教天台宗。该宗教徒尊国清寺为祖庭，时时来华参谒，促进了中日文化交流。
11世纪，高丽僧人义天至国清寺求法，又将天台宗传入朝鲜半岛。
