Theo Sự tích hồ Hoàn Kiếm, trong cuộc kháng chiến chống quân Minh, Long Quân cho Lê Lợi mượn thanh gươm báu đánh giặc. Sau khi quân Minh bị đuổi, Lê Lợi lên ngôi. Một hôm, vua đem gươm thần ngồi thuyền rồng dạo chơi hồ Tả Vọng, Long Quân đã sai rùa vàng lên đòi lại gươm báu. Từ đó, hồ Tả Vọng được đổi tên thành hồ Hoàn Kiếm (hồ Gươm).
Từ thế kỷ XV, vua Lê Thánh Tông (1460-1497) cho xây dựng ở hồ Hoàn Kiếm một cái gò để làm nơi câu cá. Tháp Rùa hiện nay được ông Nguyễn Ngọc Kim (Bá Hộ Kim) xây dựng năm 1886, trên gò đất rộng khoảng 350 m2, theo hình vuông có 3 tầng.
Đền Ngọc Sơn nằm trên đảo Ngọc của hồ Hoàn Kiếm. Lúc đầu, đền có tên là chùa Ngọc Sơn, sau đổi tên thành đền Ngọc Sơn, thờ Văn Xương Đế Quân và Trần Hưng Đạo.
Nối từ bờ ra đền Ngọc Sơn là cây cầu đỏ có tên Thê Húc. Cây cầu này được Thần Siêu (Nguyễn Văn Siêu) xây dựng vào giữa thế kỷ XIX. Tên của cầu có nghĩa là "Nơi đậu ánh sáng Mặt Trời buổi sáng sớm" hay "Ngưng tụ hào quang".
Nguyễn Văn Siêu cũng là người có công khởi xướng và tổ chức xây dựng Tháp Bút và Đài Nghiên ở Hồ Gươm. Ngọn Tháp Bút được xây dựng trên nền của núi Độc Tôn. Dưới chân Tháp Bút chính là Đài Nghiên, có khắc bài Minh của Nguyễn Văn Siêu.
Đền Bà Kiệu nằm trên bờ hướng Đông Bắc hồ Hoàn Kiếm, được xây dựng từ thời Lê Trung Hưng, thờ ba vị nữ thần là Liễu Hạnh công chúa (một trong 4 vị thánh Tứ bất tử), Đệ nhị Ngọc nữ và Đệ tam Ngọc Nữ.
Hồ Hoàn Kiếm tọa lạc ngay trung tâm thủ đô Hà Nội và được bao quanh bởi 3 con phố: Hàng Khay, Lê Thái Tổ, Đinh Tiên Hoàng.
Trước khi mang tên chính thức là Hoàn Kiếm, hồ còn có tên là Lục Thủy vì nước hồ có màu xanh biếc quanh năm. Ngoài ra, hồ còn có một số tên gọi khác.
