蕺山为绍兴古城内三座主要小山之一，也是绍兴的主要历史文化名山。蕺山之名源于此山盛产蕺草，相传越王勾践尝吴王夫差秽后常于此采蕺而食得名。因东晋王羲之别业在蕺山南麓，又名王家山。又因王羲之舍宅为寺名戒珠寺，一称戒珠山。山上曾有董昌生祠、三范祠、北天竺、蕺山亭、蕺山书院等众多建筑，历史上盛况非同一般。如今蕺山已经修复的主要建筑有文笔塔、蕺山书院、蕺山亭等。其实，蕺山上曾经有一座兼山亭，也很有历史，很值得一讲。
据康熙《山阴县志》载：“兼山亭，在县治西北蕺山巅。嘉靖十五年，知府汤绍恩、推官陈让建，以山居艮方，故名。”
可知，兼山亭建于嘉靖十五年，即公元1536年，建设者汤绍恩于1535年任绍兴知府，在越建三江闸，兴修学宫，广设社学，缓刑罚，恤贫弱，旌节孝，济灾荒。为官造福一方，深得百姓爱戴。陈让于1535年任绍兴府推官，在任正风俗，明教化，辅助汤绍恩建三江闸。作为辅佐之官，乾隆《绍兴府志》将其列为名宦，自然有过人之处。为什么取名兼山亭呢？是因为蕺山位于艮方。艮与“兼山”的关系，最早见于《周易》艮卦的卦辞：“兼山，艮，君子以思不出其位。”可见兼山亭是富含文化的一座亭子。
但是，兼山亭在建成一段时间后，因年深日久而废圮，一说山顶的建筑曾改称“表海亭”。清初学人毛奇龄《西河诗话》云：“蕺山，即故越王采蕺地也。旧有兼山亭，今累累特荒塳耳。”可知此时兼山亭已颓败。据康熙《绍兴府志》载：“兼山亭……国朝康熙二十年，知府王之宾重建。”康熙二十年，即公元1681年，这座亭子得到重建并再次命名为“兼山亭”。重建者为王之宾，奉天沈阳人，荫生，康熙十九年任绍兴知府，曾于康熙二十二年（1683）主持修纂《绍兴府志》，为康熙年间绍兴府志修纂体系中的重要组成部分。
王之宾重建兼山亭后，当时的山阴知县范其铸曾作记并赋诗纪念，是如今了解兼山亭与王之宾的重要文献资料。从记中可知，王之宾到任后“举凡政之有裨于士民，为之立纲陈纪，振衰起弊，百度聿新，风俗不变”，并广泛搜罗有名的才俊，选拔其中表现最为突出的，为绍兴人民所推崇赞许。
王之宾在处理政务之余，想到蕺山上前贤所建的兼山亭仅留下遗迹，其他建筑已不复存在，又了解到兼山亭关系绍兴的文明气韵以及学校的振兴，于是决定重建，并率先捐出自己的俸禄以作表率，之后筹备材料，聚集工匠建设装修。到了第二年的三月上巳日，亭子终于落成，仍然叫作兼山亭。登亭可以眺望江山的秀丽景色，瞻仰百姓的繁荣昌盛，不仅仅是当作让人心意畅快、耳目愉悦，登高游览好去处。
范其铸又在诗中说：“云满千家映雉堞，风吹万户漾桑麻。雕梁新构承朝日，画栋重开噪晚鸦。”诗句写出了兼山亭的高峻壮丽景象。康熙年间的教育家、浙江兰溪人唐彪也曾登临兼山亭并作诗：“戢亭重峙使君游，画栋巍峨起越州……何幸追随分讲席，右军犹见旧风流。”兼山亭雕梁画栋，巍峨雄峻，真有当年王羲之兰亭雅集之风流神采。
兼山亭终究未能抵过岁月的消磨，如今已消失不存，但由于蕺山尚在，文献长存，所以兼山亭的风采仍可追怀。