芜湖海关设立于1877年2月18日，定为三等海关，同年4月1日开关。1883年，经过协商，将当时沿江一带陶家沟以南的地块划给海关，用来建筑海关码头及办公楼等设施。1916年，海关大楼动工兴建，1919年7月14日，海关迁入新楼办公。
2004年，老芜湖海关大楼被安徽省人民政府公布为第五批省级文物保护单位，2019年10月被国务院公布为全国重点文物保护单位。