芜湖市图书馆始建于1949年，六十年来，芜湖市图书馆在市委、市政府，上级文化主管部门和社会各界的关心支持下，经过图书馆几代人的艰辛努力，已经从建馆时40平方米馆舍、2000册藏书、4名工作人员的图书馆，发展成为今天的一万四千八百多平方米馆舍、近40万册藏书（其中古籍藏书近5万册、善本3千册）的现代化图书馆 <ref>[http://wuhu.bendibao.com/tour/2017622/3020.shtm 芜湖适合放松心情的地方]，本地宝，2017-06-22</ref> 。

人民图书馆成立时馆址在环圹路66号（现尺木亭附近）。1950年8月1日奉芜湖市军管会命令，将人民图书馆从人民教育馆划出，单列为芜湖市人民图书馆。1951年9月人民图书馆迁至镜湖南路的烟雨墩，1952年10月更名挂牌为芜湖市图书馆。1974年12月市革委会批准在镜湖南岸新建书库和阅览楼，书库建成后，于1985年9月将书库从烟雨墩搬至新书库，在库后围墙开门进行临时的图书外借服务，同时采编组、资料室一并迁入书库楼，其余部门仍留烟雨墩工作。1985年12月新建阅览楼竣工，1987年6月1日，新阅览楼正式对外开放，图书外借处由书库后墙搬到阅览室一楼，与书库相连，报刊阅览室、辅导组、办公室同时搬到新楼、至此，图书馆分为烟雨墩和新馆舍两处工作，主体服务均在新阅览楼进行 <ref>[https://m.sohu.com/a/295774470_100016039 【2019年第29期总第607期】芜湖市文化和旅游局授予零距离书吧“芜湖市图书馆悦读点”称号]，搜狐，2019-02-19</ref> 。