中国国家图书馆有着悠久的历史变迁。

清宣统元年，即1909年9月9日，应军机大臣张之洞奏请，学部划拨图书，任命四品翰林院编修缪荃孙为监督，设馆舍于北京什刹海后海北岸的广化寺，成立了京师图书馆，这便是“国图”的肇始。“京师图书馆”的建立得益于两个人物的大力推动：一是两江总督端方，他于1906年8月历访多国后，对欧美各国的公共图书馆印象深刻，在关于各国“导民善法四端”的上奏中，把建图书馆列在首位，并早于京师图书馆之前着手建立了江南图书馆；二是张之洞，他深感“经籍散佚，征取良艰，部款支绌，搜求不易”，如任其流失不加搜罗保存，数年后将“求一刊本经史子集而不可得”，于是在1907年以体仁阁大学士兼掌学部，开始筹建京师图书馆，并搜访私家藏书，促使献书。而缪荃孙本人是一位藏书家和版本目录学家，曾为张之洞捉刀著述《书目答问》等，其艺风堂藏书在1900年已达十万余卷，故而他被任命为京师图书馆正监督。

1911年辛亥革命后，“京师图书馆”由中华民国北京政府教育部接管，并更名为“国立京师图书馆”。1912年8月27日对外开馆接待读者。1913年10月29日部令停止在什刹海广化寺办馆，“听候改组”。闭馆三年后，于1917年1月26日在北京安定门内方家胡同国子监南学重新开馆。

1928年，南京国民政府下设大学院接管后，将其更名为“国立北平图书馆”。

1931年，国立北平图书馆新馆在北海公园西侧落成。此后，馆藏善本精品曾南迁宁沪等多地，其中的2720种于1941年运抵美国，并于1965年运往台北。

1930年“国立北平图书馆”与“北海图书馆”合并，庆霄楼为分馆。1949年“松坡图书馆”也合并到国立北平图书馆。这样，梁启超任馆长的松坡图书馆、北海图书馆和国立北平图书馆都并入北京图书馆，成为国家图书馆的前身。

1947年图书馆本部迁往昆明，1949年迁回北京，并于1951年更名为“国立北京图书馆”。

1987年，图书馆迁馆于白石桥路。

1998年12月12日，最终更名为中国国家图书馆。如今，中国国家图书馆是国家总书库，馆藏丰富，品类齐全，涵盖古今中外各类文献资料，是保存和传承人类文化遗产的重要场所，也是开展学术研究、文化交流和社会教育的重要机构。