Lầu Tàng Thơ được vua Minh Mạng cho xây dựng vào năm 1825 giữa hồ Học Hải, bên trong kinh thành. Hơn 1.000 lính thợ đã được huy động để đào hồ, đắp đảo và xây dựng công trình.
Với cấu trúc xây khối hoàn toàn bằng gạch đá, vôi vữa, lầu Tàng Thơ là một công trình rất khác biệt so với hàng trăm công trình kiến trúc gỗ thời bấy giờ.
Lầu gồm có 2 tầng, tầng dưới 11 gian, tầng trên 7 gian 2 chái, tất cả các gian đều dùng để chứa các tài liệu quan trọng của triều Nguyễn mà phần lớn đều là tài liệu giấy và mộc bản.
Theo sách “Tàng Thơ Lâu bạ tịch” (1907), tài liệu lưu trữ tại đây là các văn kiện ngoại giao quan trọng giữa Việt Nam và Pháp, giữa Việt Nam và triều đình Trung Hoa, văn kiện của Lục bộ (Lại, Hộ, Lễ, Binh, Hình, Công), các ván khắc in sách của triều đình… trong đó số lượng địa bạ chiếm rất lớn.