一代诗仙李白更与青山结下了不解之缘，诗人在《日夕山中忽然有怀》写道：“久卧青山云，遂为青山客。山深云更好，赏弄终日夕。”诗人生前既爱青山风景，又慕谢公品格，“一生低首谢宣城”，曾有“宅近青山同谢眺”的夙愿，一心想与谢眺结为异代芳邻。晚唐诗人杜荀鹤诗曰：“青山明月夜，千古一诗人”道出了青山与诗仙李白的相互交融。历代文人墨客也曾纷至沓来，曾巩、陆游、李之仪、杨万里、谢缙、黄景仁……等先后游览青山、凭吊李白。

青山古迹丰富，西麓有国保单位李白墓，省保单位青山六朝墓群，北麓有省保单位琉璃瓦窑址、园艺晋墓群，东麓有市保单位窑墩遗址，县保单位郑家新石器遗址，以及顾家坟遗址、王大下遗址、船头村遗址、大庙遗址、金牛遗址、船村遗址、公场遗址等众多古人类生活聚落址。郑家新石器遗址为新石器崧泽文化早期文化遗存，早在6000年前，古先民们便在当涂青山这块土地上繁衍生息。自汉唐以来，青山就是屯兵之所。东晋王敦、桓温、桓玄一度屯据姑孰，遥控建康。青山是金陵至宣城的必经之地，北宋诗人郭祥正诗：“重冈复岭控官道，北望金陵真国门”的诗句便揭示了青山在历史上的军事价值。“天下名山僧占多”，青山也不例外。观音庵、白云寺、青山寺、百灵庙、云雾禅林寺、青云庵等寺庙。位于包子山山腰的保和庵（谢公祠）更有“华东第一”石佛的历史人文景观。