山中宰相，出自《南史·陶弘景传》：“国家每有吉凶征讨大事，无不前以咨询。月中常有数信，时人谓为山中宰相。”南朝梁时陶弘景，隐居茅山，屡聘不出，梁武帝常向他请教国家大事，人们称他为“山中宰相”。
梁武帝萧衍没有做皇帝前，就和陶弘景是好朋友。萧衍初夺得大权预备立国，但取什么朝代名称，一时打不定主意。陶弘景根据当时流传的童谣和预卜吉凶的书籍，说其国号应当是“水刃木处”，拼起来是“梁”字，萧衍采纳了他的建议，定国号为梁。事后，萧衍感谢陶弘景，派人进山慰劳，同时也让陶为他炼些丹药。史书上称当时武帝对陶弘景“书问不绝，冠盖相望”——书信、问候不停传递，使者车辆在途中一辆接一辆，可以相互远远地望见。武帝知道陶弘景是个奇才，几次想请他出山做官，但陶坚辞不出。诏书来得急了，陶弘景就画了两头牛让人带去呈给武帝。画中一牛散放在水草间，一牛则被加上了金笼，有人执着鞭子在驱赶它。武帝一看，明白了意思，笑着说道：“这人没有什么荣华富贵的欲念，看来是打算仿效在泥淖中拖着尾巴自由爬行的乌龟（语出《庄子》，比喻自由自在的隐居生活)。”只是有军国大事，仍然派人咨询，“山中宰相”的名声便是这样形成的。