Vào năm 1897 – 1902, khi Paul Doumer nhậm chức toàn quyền Đông Dương đã đồng ý vị trí xây dựng một nhà ga ở cuối đường Mandarine (đường Lê Duẩn ngày nay và phố Gambetta (hiện nay là phố Trần Hưng Đạo), trong đó có một phần là trường đua ngựa (hiện nay là Cung Văn hóa Hữu nghị Việt Xô) và thôn Tứ Mỹ. Nhà ga được khởi công xây dựng vào năm 1899, khánh thành năm 1902, có tên gọi là ga Trung tâm Hà Nội. Tuy nhiên, vì tên gọi này quá dài và theo thói quen gọi tên theo địa danh, người dân thường gọi là ga Hàng Cỏ (nay là ga Hà Nội).