Theo Đại Sử Việt kí toàn thư, chùa Một Cột được xây dựng vào năm Kỷ Sửu, niên hiệu Sùng Hưng Đại Bảo I (1049) dưới thời vua Lý Thái Tông. Ông đã nằm mộng thấy Phật Quan Âm trên tòa sen đưua tay dắt vua lên tòa. Tỉnh dậy vua kể cho các quan nghe và được khuyên làm chùa, dựng cột đá giữa hồ, làm tòa sen như của Phật Bà Quan Âm. Chùa xây xong, tượng Phật vàng lấp lánh được đặt bên trong, các sư đi quanh chùa niệm Phật cầu phúc cho vua trường thọ. Chính vì thế nên chùa Một Cột còn có tên chữ là Diên Hựu (có nghĩa là phúc lành dài lâu)
Theo nhiều nhà nghiên cứu và cả các tài liệu sử, lối kiến trúc của chùa Một Cột đã có từ trước thời nhà Lí. Đó là ngôi chùa Nhất Trụ mà con gái vua Đinh Tiên Hoàng tu hành. Trải qua năm tháng, chùa Một Cột có bị phá hủy trong hai cuộc chiến chống Pháp, chống Mĩ và đã được trùng tu nhiều lần. Và kết cấu của chùa sau khi trùng tu vẫn giữ được cơ bản như trước. Ban đầu, chùa được làm bằng gỗ, bên trong đặt tượng Phật bà Quan Âm để thờ. Hiện nay, chùa Một Cột gồm đài Liên Hoa hình vuông, chiều dài mỗi cạnh 3m, mái cong, dựng trên cột cao 4m (chưa kể phần chìm dưới đất), đường kính 1.2m có cột đá là hai khúc chồng lên nhau thành một khối. Tầng trên của cột là hệ thống những đòn gỗ đá làm giá đỡ cho ngôi đài ở trên, Đài Liên Hoa có mái ngói, bốn góc uốn cong, trên có Lưỡng long chầu nguyệt. Xung quanh ao, nơi chùa Một Cột đưựcc dựng nên, được bao bọc bởi hàng lan can làm bằng những viên gạch sành tráng men xanh.
Trong quá khứ, chùa Một Cột với những đường nét trạm trổ tinh tế và hình ảnh “lưỡng long chầu nguyệt” trên mái chùa thể hiện khao khát được hòa bình, phúc lành dài lâu và ước mong chinh phục thiên nhiên vũ trụ của con người xưa. Còn ở hiện tại, chùa Một Cột trở thành một di sản văn hóa, một biểu tượng của thiền triết và Phật giáo của Việt Nam. Đây cũng là ngôi chùa nằm trong danh sách những điểm tham quan du lịch không thể bỏ lỡ của những vị khách lần đầu ghé thăm Hà Nội - thủ đô ngàn năm Văn hiến của người Việt.