Theo các tài liệu xưa, “Giếng Nước” ở TP.Mỹ Tho vốn là hào bảo vệ thành Định Tường được Vua Minh Mạng cho đào năm 1826. Hào dài gần 1.000 mét.
Khi thực dân Pháp xâm lược Việt Nam, sau khi đánh chiếm Định Tường, đề phòng nghĩa quân tấn công chiếm lại thành, chính quyền thực dân đã cải tạo, mở rộng hào thành này và đặt tên là kênh Nicolais. Chiều rộng kênh khoảng hơn 100 mét.
Vào thập niên 1880, chuẩn bị cho tuyến xe lửa đầu tiên ở Đông Dương (xe lửa Sài Gòn – Mỹ Tho) đi vào hoạt động, chính quyền thực dân cho bắc cây cầu sắt của Hãng Eiffel xuyên qua kênh Nicolais cho xe lửa chạy, gọi là cầu Hào (hoặc Hào Thành).
Đến năm 1927, chính quyền thực dân lại cho cải tạo kênh Nicolais thành hồ chứa nước để phục vụ sinh hoạt cho người dân TP.Mỹ Tho. Đất bùn từ nạo vét kênh được cho chở lấp các chỗ trũng trong thành phố.
Cũng kể từ đó, người dân TP.Mỹ Tho gọi kênh Nicolais là “giếng nước”. Có lẽ do chức năng cung cấp nước sinh hoạt của con kênh, mà cũng có thể do không ai muốn gọi tên kênh do chính quyền thực dân đặt. Lâu dần, không ai còn gọi tên kênh Nicolais và cái tên “Giếng Nước” được sử dụng chính thức đến ngày nay.
Vào năm 1958, khi tuyến xe lửa Sài Gòn – Mỹ Tho ngừng hoạt động, con đường xe lửa từ Ngã ba Trung Lương chạy vào TP.Mỹ Tho trở thành đường bộ, được đặt tên đường Lý Thường Kiệt.
Cây cầu sắt (cầu Hào) bắc qua “giếng nước” cũng bị dỡ bỏ, đắp thành đường lộ. “Giếng Nước” bị chia cắt làm 2 phần: Phần "giếng nước nhỏ" dài khoảng 150 mét; phần "giếng nước lớn" dài khoảng 800 mét, rộng khoảng 150 mét.
Ngày nay “Giếng Nước” trở thành điểm nhấn của TP.Mỹ Tho, góp phần làm tăng vẻ đẹp cho thành phố cổ xưa nhất vùng Tây Nam bộ này (Mỹ Tho Đại Phố, hơn 300 tuổi).
