河西区灰堆，原是退海之地，古称“会堤”。相传明代建村，天启年间，卢观象在此屯田，屯田图上标注“灰堤”二字。灰堆早期村民为河南辉县和归德县人，又名“辉德”。乾隆年间，始称“灰堆”。道光二十二年（1842）夏，为防止英国水兵进犯，钦差大臣僧格林沁驻兵于此。
灰堆村“闾井恬然，绣环交错”，生态优美。明代屯田开始种植水稻，渐成天津城南富庶之村。村内有观音堂，每年在农历二月举办庙会，村里设高跷会，游行表演，相沿数十年。1921年海河工程局在灰堆开挖新河，经过两度停工、开工，1923年11月正式竣工。
稻草为造纸的原料，1937年日商东洋制纸工业株式会社在灰堆设厂，打破了原有农耕的自然环境。灰堆原属天津县管辖，1948年设在咸水沽的县署因交通不便移至灰堆。
1949年1月天津战役中，中国人民解放军仅用50分钟攻克灰堆，歼敌3000有余，为解放天津打开了突破口。新中国成立后，灰堆划为城区，1953年设灰堆街，1988年改称“柳林街”。