Chùa có tên chữ là Diên Hựu tự hoặc Liên Hoa Đài (蓮花臺, “đài hoa sen”), hay Chùa Mật. Đây là ngôi chùa có kiến trúc độc đáo ở nước ta.

Chùa được vua Lý Thái Tông cho khởi công xây dựng vào mùa đông tháng Mười (âm lịch) năm Kỷ Sửu 1049, niên hiệu Sùng Hưng Đại Bảo thứ nhất.

Theo cuốn Hà Nội-di tích lịch sử và danh thắng , văn bia tại chùa được dựng năm Cảnh Trị thứ 3 (1665), đời vua Lê Huyền Tông, do Tỳ Khưu Lê Tất Đạt khắc ghi. Tại vị trí chùa Một Cột ngày nay, vào thời nhà Đường (năm Hàm Thống thứ nhất) một cột đá trên có ngôi lầu ngọc (với tượng Phật Quan Âm ở trong) đã được dựng giữa một hồ nước vuông. Vua Lý Thái Tông thường đến cầu nguyện, được hoàng tử nối dõi, liền tu sửa lại thành chùa, xây thêm một ngôi chùa bên cạnh chùa Một Cột (cách 10 m về phía Tây Nam) và đặt tên cả quần thể chùa này là Diên Hựu tự – tức là “phúc lành dài lâu”.

Năm 1954, quân đội Viễn chinh Pháp trước khi rút khỏi Hà Nội đã cho đặt mìn để phá chùa Một Cột. Sau khi tiếp quản thủ đô, Bộ Văn hóa Việt Nam Dân chủ Cộng hòa đã tiến hành trùng tu lớn chùa Một Cột (chùa Diên Hựu), xây dựng lại chùa Một Cột theo kiến trúc cũ.

Chùa Một Cột chỉ có một gian nằm trên một cột đá ở giữa hồ Linh Chiểu nhỏ có trồng hoa sen. Truyền thuyết kể lại rằng, chùa được xây dựng theo giấc mơ của vua Lý Thái Tông (1028-1054) và theo gợi ý thiết kế của nhà sư Thiền Tuệ. Vào năm 1049, vua đã mơ thấy được Phật bà Quan Âm ngồi trên tòa sen dắt vua lên toà. Khi tỉnh dậy, nhà vua kể chuyện đó lại với bầy tôi và được nhà sư Thiền Tuệ khuyên dựng chùa, dựng cột đá như trong chiêm bao, làm toà sen của Phật bà Quan Âm đặt trên cột như đã thấy trong mộng và cho các nhà sư đi vòng quanh tụng kinh cầu kéo dài sự phù hộ, vì thế chùa mang tên Diên Hựu.

Hàng năm, cứ đến ngày 8 tháng 4 Âm lịch, vua lại tới chùa làm lễ tắm Phật. Các nhà sư và nhân dân khắp Kinh thành Thăng Long cùng dự lễ. Sau lễ tắm Phật là lễ phóng sinh, vua đứng trên một đài cao trước chùa thả một con chim bay đi trong tiếng reo vui của người dân trong ngày hội lớn.

Đến năm 1105, vua Lý Nhân Tông cho sửa ngôi chùa và cho dựng trước sân hai tháp lợp sứ trắng. Năm 1108, Nguyên phi Ỷ Lan sai bầy tôi đúc một quả chuông rất to, nặng đến một vạn hai nghìn cân, đặt tên là “Giác thế chung” (Quả chuông thức tỉnh người đời). Đây được xem là một trong tứ đại khí – bốn công trình lớn của nước ta thời đó – là: tháp Báo Thiên, chuông Quy Điền, vạc Phổ Minh và tượng Quỳnh Lâm. “Giác thế chung” đúc xong nhưng nặng quá không treo lên được, để dưới mặt đất thì đánh không kêu. Người ta đành bỏ chuông xuống một thửa ruộng sâu bên chùa Nhất Trụ, ruộng này có nhiều rùa, do đó có tên là Quy Điền chuông (chuông ruộng rùa). Đến thế kỷ 15, giặc Minh xâm lược nước ta, chiếm thành và gọi là thành Đông Quan (Hà Nội). Năm 1426 Lê Lợi đem nghĩa quân Lam Sơn ra đánh, vây thành rất gấp. Quân Minh thiếu thốn vũ khí, tướng Minh là Vương Thông bèn sai người đem phá chuông Quy Điền lấy đồng. Quân Minh thua trận, nhưng chuông Quy Điền thì không còn nữa.

Đến thời nhà Trần, chùa đã được tu sửa lại trên nền đất cũ.

Dáng dấp Chùa Một Cột ngày nay là kết quả của đợt trùng tu vào khoảng những năm 1840-1850 và năm 1922. Đài Liên Hoa thì được sửa chữa lại năm 1955 do kiến trúc sư Nguyễn Bá Lăng đảm nhiệm.

Chùa Một Cột được công nhận là Di tích lịch sử-văn hóa cấp quốc gia đợt đầu tiên năm 1962.

Ngày 4 tháng 5 năm 2006, Tổ chức Kỷ lục Việt Nam đã xác lập chùa là “Kỷ lục Việt Nam” và đề cử đến Tổ chức Kỷ lục châu Á. Đến năm 2012, tại Faridabad (Ấn Độ), Tổ chức Kỷ lục châu Á đã xác lập kỷ lục châu Á: “Ngôi chùa có kiến trúc độc đáo nhất” cho chùa Một Cột.

Chùa Một Cột hiện nay bao gồm đài Liên Hoa hình vuông, chiều dài mỗi cạnh 3 m, mái cong, dựng trên cột cao 4 m (không kể phần chìm dưới đất), đường kính 1,2 m có cột đá là 2 khúc chồng lên nhau thành một khối. Tầng trên của cột là hệ thống những đòn gỗ làm giá đỡ cho ngôi đài ở trên. Đài Liên Hoa có mái ngói, bốn góc uốn cong, trên có lưỡng long chầu nguyệt. Trong quan niệm người Việt, rồng luôn là con vật linh thiêng, biểu tượng cho quyền uy, sức mạnh. Và hình ảnh “Lưỡng long chầu nguyệt” trên các mái di tích không chỉ biểu tượng cho sức mạnh thần thánh mà còn ẩn trong đó những giá trị nhân văn, phản chiếu trí tuệ, ước vọng của con người và nền văn minh cổ xưa. Ngày nay không có những cánh sen trên cột đá như đã nói đến trong bia văn thời nhà Lý, nhưng ngôi chùa dựng trên cột vươn lên khỏi mặt nước vẫn là kiến trúc độc đáo, gợi hình tượng một bông sen vươn thẳng lên khỏi ao. Ao được bao bọc bởi hàng lan can làm bằng những viên gạch sành tráng men xanh. Kiến trúc chùa xây dựng gần với kiến trúc nhà Hậu Lê.

Trong vườn chùa hiện có một cây bồ đề sum xuê từ đất Phật, do tổng thống Rajendra Prasad tặng nhân dịp Chủ tịch Hồ Chí Minh qua thăm Ấn Độ năm 1958.

Chùa Một Cột đã được chọn làm một trong những biểu tượng của thủ đô Hà Nội.