直隶省立图书馆位于河北公园北部（原教育品制造所参观室）。
馆址有房屋56间，楼上为藏书室、办公室，还有妇女、儿童图书阅览室。楼下左右两侧共12间房屋为藏书室和出纳科，中间16间房屋为成人阅览室。图书馆左临国货陈列馆，右临美术馆，所处亭台错落，花木杂置，空气清新，令人心旷神怡。
直隶省立图书馆前身为天津图书馆，1907年由直隶署提学使卢木斋创立。馆址附设于直隶学务公所内，是长江以北最早建立的近代公共图书馆。该馆筹办过程中，学部左侍郎严修为支持图书馆的建立，将家藏图书共1200多部慨然捐赠该馆。此外，两江总督端方、两广总督张鸣岐、云贵总督锡良、浙江巡抚增韫、山东巡抚袁树勋、吉林巡抚陈昭常等人各赠其省书籍共几万部；直隶总督署又拨书1万余卷。1908年10月，傅增湘继任直隶提学使后，复筹款购书12万余卷，使该馆藏书量达到20余万卷。因其藏书量巨大，在清末民初时成为位居全国第三的公共图书馆。
1912年春，该馆迁址于河北公园教育品参观室，更名为“天津直隶省图书馆”，时由直隶教育司教育科科长李金藻负责，而馆内事务由张秀儒具体负责。1914年9月该馆在东马路附设通俗图书馆（通俗图书馆于1918年脱离天津直隶省图书馆而独立建制），1917年9月，为方便读者，该馆又加开了“夜馆”（至晚上9时）。1918年1月，直隶省教育厅委任韩补青为该馆名誉主管员，张秀儒他调。同年6月，教育厅改任前第二科长井蔚青兼馆主任，9月又改派严侗为馆主任。此时，教育厅给该馆拨交经费250元，1920年又增加到360元。为统一管理，该馆又更名为“直隶省立第一图书馆”。1924年，捐赠书刊和前来阅览者络绎不绝，严修先生“日日来馆，力求扩充，未及实现”。
1924年冬，奉军郭松龄的司令部及卫队驻扎在河北公园内，并强占了该馆，虽经多次交涉，但毫无结果。此例一开，几年之内该馆竟成为驻军之地，图书器具常遭破坏。幸赖全馆职工日夜保护，曲意维持，才使大部分图书免遭劫难。由于战乱不断，加之拖欠经费甚多，至北洋军阀统治被推翻前，该馆被迫闭馆。
1928年6月，直隶省改为河北省，该馆亦更名为“河北省立第一图书馆”。此时，虽然军队已经撤离，“然一切均待整理，势难开馆”。经过一年左右的整理，该馆重新开馆接待读者。因馆舍年久失修，1930年8月二楼书库屋顶忽然坍塌，加之连日阴雨，馆内几成泽国，书刊再遭损失，因而又被迫闭馆。后经河北省教育厅拨专款修葺，于1931年1月重新开放。
1937年天津沦陷后，日军占据河北公园，馆藏珍贵图书分装三十余箱寄存在天津盐业银行内。不久，伪天津特别市公署将该馆更名为“天津特别市立第二图书馆”，由于日军占据，馆内图书经常有丢失情况出现。1938年，图书馆迁至西关外联兴里一所民房，作为临时存书处。由于联兴里地势低洼，易遭水患，遂又换租至城内鼓楼东大街164号（徐家大院，今老城博物馆）。