Văn Miếu được xây dựng vào tháng tám năm Canh Tuất, tức tháng 10 năm 1070 (đời Lý Thánh Tông) là nơi thờ các thánh hiền đạo Nho (Khổng Tử, Mạnh Tử...) và Tư nghiệp Quốc Tử Giám Chu Văn An, người thầy tiêu biểu đạo cao đức trọng của nền giáo dục Việt Nam. Sáu năm sau (1076), Lý Nhân Tông lập thêm Quốc Tử Giám ở kề sau Văn Miếu, ban đầu là nơi học của hoàng tử, sau mở rộng thu nhận cả những học trò giỏi trong thiên hạ.

Văn Miếu có tường bao quanh xây bằng gạch Bát Tràng. Bên trong có những lớp tường ngăn thành năm khu, thứ nhất bắt đầu với cổng chính. Trên cổng có chữ Văn Miếu Môn, dưới cổng có đôi rồng đá mang phong cách đời Lê sơ (thế kỉ XV). Lối đi giữa dẫn đến cổng Đại Trung Môn mở đầu cho khu thứ hai. Hai bên còn có hai cổng nhỏ có tên là Thánh Đức và Thành Đạt. Vẫn lối đi ấy dẫn tới Khuê Văn Các (gác có vẻ đẹp của sao khuê - sao chủ về văn học). Hai bên gác có hai công nhỏ có tên là Súc Văn và Bí Văn (văn hàm súc và văn sáng đẹp). Khu thứ ba từ gác Khuê Văn tới Đại Thành Môn. Ở giữa khu này có một hồ vuông gọi là Thiên Quang Tỉnh (giếng trời trong sáng) có tường hoa bao quanh. Hai bên là khu nhà bia (tức nơi dựng bia ghi tên những người đỗ tiến sĩ).

Tiến sĩ là người đỗ cao nhất trong kì thi đình. Ngày trước, người đi học sau khoảng 10 năm đèn sách mới đủ vốn chữ để dự thi hương, tức khoa thi tổ chức liên tỉnh, cứ 3 năm mở một khoa. Đạt điểm cao của kì thi này đạt học vị cử nhân. Năm sau các ông cử tới kinh đô dự kì thi hội. Những người đủ điểm chuẩn sẽ dự kì thi đình (thi hội và thi đình thực ra là hai giai đoạn của một cuộc thi). Trúng tuyển kì thi này được gọi là tiến sĩ. Đỗ tiến sĩ có thể được bổ làm quan.

Hiện nay có 82 bia, xưa nhất là bia ghi khoa Đại Bảo thứ 3 (năm 1442), muộn nhất là bia Cảnh Hưng thứ 40 (năm 1779). Đó là những di vật quý nhất của khu di tích này. Bước qua cửa Đại Thành là tới khu thứ tư. Một cái sân rộng, hai bên là hai dãy nhà Tả Vu và Hữu Vu vốn dùng làm nơi thờ các danh nho. Cuối sân là nhà đại bái, kiến trúc đẹp và hoành tráng. Tại đây có một số hiện vật quý: bên trái có chuông Bích Ưng Đại Chung (chuông lớn của nhà giám) đúc năm 1768, bên phải có một tấm khánh đá, mặt trong có hai chữ Thọ Xương, mặt ngoài khắc bài minh viết kiểu chữ lệ, nói về công dụng của loại nhạc khí này. Tiếp sau đại bái là hậu cung, nơi đặt tượng Khổng Tử và bốn môn đệ là Nhan Tử, Tăng Tử, Mạnh Tử, Tử Tư.

Bố cục của toàn thể Văn Miếu như vậy muộn nhất là cũng có từ đời Lê (thế kỉ XV - thế kỉ XVIII), riêng Khuê Văn Các mới được dựng khoảng đầu thế kỉ XIX nhưng cũng nằm trong quy hoạch tổng thể vốn có của những Văn Miếu (như ở Khúc Phụ, Trung Quốc, quê hương của Khổng Tử, có đủ Đại Trung Môn, Khuê Văn Các, Đại Thành Môn, Đại Thành Điện, bia tiến sĩ...). Khuê Văn Các ở Văn Miếu Hà Nội thường là nơi tổ chức bình các bài văn thơ hay của các sĩ tử.

Sau khu đại bái vốn là trường Quốc Tử Giám đời Lê, một loại trường đại học đương thời. Khi nhà Nguyễn dời trường này vào Huế thì nơi đây chuyển làm đền Khải Thánh thờ cha và mẹ Khổng Tử, nhưng đền này đã bị hư hỏng trong chiến tranh. Văn Miếu là quần thể di tích đa dạng và phong phú hàng đầu của thủ đô Hà Nội.

Ngày nay thành phố Hà Nội đã thành lập tại đây “trung tâm hoạt động văn hóa khoa học Văn Miếu - Quốc Tử Giám” để phát huy tác dụng của di tích trong các hoạt động văn hóa của thủ đô. Đặc biệt trong năm 1999, thành phố đã cho khởi công xây dựng lại nhà Thái học là một trong những công trình lớn chào mừng 990 Thăng Long - Hà Nội nhằm phục hồi lại quần thể di tích giá trị này.