蚌埠历史文化悠久，物华天宝，人杰地灵。张公山系涂山山脉，涂山一带曾是原始社会后期涂山氏居住的地方。涂山脚下的禹会村，传说是当年治水英雄大禹会诸侯之地，至今这里流传着大禹治水三过家门而不入的动人故事。据《怀远县志》记载：明朝嘉靖年间此山就叫张公山，山下一湖，名化陂湖，现更名为张公湖。相传，明朝有个张姓战将，卸甲归田，隐居山下，由于他德高望重，当地百姓尊称张公，张公山因此得名。
 　　清朝，张公山顶建有寺庙，每年还有一次初春庙会。该庙原名“寺山庙”，后改名“中岳庙”，又改为“观音庙”。由于庙的基础南高北洼，庙门朝北，当地百姓又称之为“倒座观音庙”。1938年日军侵占蚌埠后，寺山庙遭到彻底毁坏。