羊续悬鱼的故事出自《后汉书·羊续传》。东汉羊续为官清正廉洁，到南阳任郡守不久，一位郡丞给他送来南阳本地有名的特产——白河鲤鱼。羊续拒收，推让再三，但对方坚持要其收下。待对方走后，羊续把鱼“悬于庭”，风吹日晒，成了鱼干。后来，该郡丞又送来一条更大的白河鲤鱼，羊续便指着庭院中的那条鱼干说：“你上次送我的鱼，如今还在那儿挂着，不用再送啦！”郡丞一听，明白了羊续的用意，遂惭愧地走了。此事传开后，南阳郡百姓无不称赞，郡内也再无人敢给羊续送礼了。之后老百姓称羊续为“悬鱼太守”，世人也以“羊续悬鱼”喻居官清廉、拒绝受贿。
羊续崇尚节俭，入则破衣薄食，出则老马破车。他的妻子和儿子从老家泰山郡（今山东省境内）前往南阳郡，希望与他住在一起好有个照应。到之后看到羊续屋里全部财产只是一床粗布被、一件旧短衣、几斗麦子和一点盐。羊续说：“我自己就这些东西，拿什么供养你们母子呢？不如还回乡下家中居住吧。”然后让妻子和儿子返回了泰山郡。