Chùa Một Cột được vua Lý Thái Tông cho khởi công xây dựng vào mùa đông tháng mười (âm lịch) năm Kỷ Sửu 1049, niên hiệu Sùng Hưng Đại Bảo thứ nhất.
Nhưng theo cuốn Hà Nội-di tích lịch sử và danh thắng, nhóm các nhà sử học Đinh Xuân Lâm, Doãn Đoan Trinh, Dương Trung Quốc, Nguyễn Quang Ân, Nguyễn Thanh Mai, Đàm Tái Hưng tiến hành nghiên cứu văn bia dựng tại chùa năm Cảnh Trị thứ 3 (1665) đời vua Lê Huyền Tông do Tỳ khưu Lê Tất Đạt khắc ghi, thì thấy rằng: tại vị trí chùa Một Cột ngày nay, vào thời nhà Đường (năm Hàm Thống thứ nhất) một cột đá trên có ngôi lầu ngọc (với tượng Phật Quan Âm ở trong) đã được dựng giữa một hồ nước vuông. Vua Lý Thái Tông thường đến cầu nguyện, khi được hoàng tử nối dõi liền tu sửa lại thành chùa, xây thêm một ngôi chùa bên cạnh chùa Một Cột (cách 10 m về phía Tây Nam) và đặt tên cả quần thể chùa này là Diên Hựu tự (với nghĩa là "phúc lành dài lâu" hay "phước bền dài lâu").
Năm 1954, quân đội Viễn chinh Pháp trước khi rút khỏi Hà Nội đã cho đặt mìn để phá chùa Một Cột. Báo Tia Sáng ngày 10 tháng 9 năm 1954 đưa tin "..., chùa Một Cột di tích liệt hạng của Hà Thành đã sụp đổ sau một tiếng nổ long trời lở đất..."
Sau khi tiếp quản thủ đô, Bộ Văn hóa Việt Nam Dân chủ Cộng hòa đã tiến hành trùng tu lớn chùa Một Cột (chùa Diên Hựu), xây dựng lại chùa Một Cột theo kiến trúc cũ. Chùa Một cột chúng ta thấy hiện nay được sửa chữa lại năm 1955 do Kiến trúc sư Nguyễn Bá Lăng đảm nhiệm.
Chùa Một Cột chỉ có một gian nằm trên một cột đá ở giữa hồ Linh Chiểu nhỏ có trồng hoa sen. Truyền thuyết kể lại rằng, chùa được xây dựng theo giấc mơ của vua Lý Thái Tông (1028-1054) và theo gợi ý thiết kế của nhà sư Thiền Tuệ. Vào năm 1049, vua đã mơ thấy được Phật bà Quan Âm ngồi trên tòa sen dắt vua lên tòa. Khi tỉnh dậy, nhà vua kể chuyện đó lại với bày tôi và được nhà sư Thiền Tuệ khuyên dựng chùa, dựng cột đá như trong chiêm bao, làm tòa sen của Phật bà Quan Âm đặt trên cột như đã thấy trong mộng và cho các nhà sư đi vòng quanh tụng kinh cầu kéo dài sự phù hộ, vì thế chùa mang tên Diên Hựu.
Hằng năm cứ đến ngày 8 tháng 4 âm lịch, vua lại tới chùa làm lễ tắm Phật. Các nhà sư và nhân dân khắp Kinh thành Thăng Long cùng dự lễ. Sau lễ tắm Phật là lễ phóng sinh, vua đứng trên một đài cao trước chùa thả một con chim bay đi, rồi nhân dân cùng tung chim bay theo trong tiếng reo vui của một ngày hội lớn.
Đến năm 1105, vua Lý Nhân Tông cho sửa ngôi chùa và cho dựng trước sân hai tháp lợp sứ trắng.
Văn bia tháp Sùng thiện diên linh (chùa Đọi, Hà Nam), năm 1121 viết: "Do lòng sùng kính đức Phật và dốc lòng mộ đạo nhân quả (đạo Phật) nên hướng về vườn Tây Cấm nổi danh (ngôi vườn ở phía tây cấm thành Thăng Long đời Lý) mà xây ngôi chùa sáng Diên Hựu theo dấu vết chế độ cũ, cùng với ý mưu mới của nhà vua (ý nói: theo dấu vết lề lối xây dựng chùa đời Lý Thánh Tông, có thêm ý mới của Lý Nhân Tông mà chữa lại chùa đẹp hơn trước)".
Đến thời nhà Trần, chùa đã không phải là ngôi chùa nhà Lý nữa vì sách cũ đã ghi: Năm 1249, "...mùa xuân, tháng giêng, sửa lại chùa Diên Hựu, xuống chiếu vẫn làm ở nền cũ...".
Chùa Một Cột được trùng tu vào khoảng những năm 1840-1850 và vào năm 1922. Đài Liên Hoa chúng ta thấy hiện nay được sửa chữa lại năm 1955 do Kiến trúc sư Nguyễn Bá Lăng đảm nhiệm, sau khi bị đặt mìn giật sập bởi toán lính công giáo của linh mục Lê Hữu Từ và Hoàng Quỳnh vào ngày 10 tháng 9 năm 1954.