中五台道观始建于南北朝时期，原名是九天太一元君庙，金大定三年（公元1163年）朝廷赐名太清观，并颁发尚书礼部牒（牒文现存咸阳博物馆），明朝时称真武台，后改名为中五台和南五台齐名，时庙高数丈，峻峭如削，游人如织，香火旺盛。据塔尔坡当地老者讲，过去站立在楼台最高处可览咸阳全城景致。山雨欲来风满楼就是指这楼台。

1949年5月彭德怀元帅在此设指挥部进行了咸阳解放史上著名的中五台战役，1950年土改时道观依然存在，1953年部分殿堂被改为中五台小学，1964年观内大量建材被拆迁修建渭滨公园亭台，1967年又拆迁部分观内建筑材料修缮塔尔坡小学，1968年文革破四旧道观建筑全部拆毁复垦为耕地，四周夯土全被毁坏。直到1989年金太真道长和信士在遗址修建了吕祖殿和老毋殿，1992年渭城区文物局把中五台定为市级历史文化名城保护单位，1995年4月渭城区人民政府批准中五台为宗教活动场所，2003年起经多方筹集资金修复了部分建筑，道观内已建成山门和三殿一楼，其中真武大殿为道观主殿，高24米，重檐飞峙，气势巍峨……从此游人云集，香火不断，千年清观重现辉煌。

中五台历史遗迹丰富，主要有由金大定时颁发“尚书礼部牒”原样雕刻的牒石，记录着该观名称的来由，其文为：“陕西东路转运司京兆府咸阳县，住持九天太一无君庙道士王道法状告：见住本庙，自来别无名额，已纳讫合着钱数，乞立太清观名额。勘会是实须合给赐者。”