Theo lời kể của bà H (ngoài 80 tuổi), một người sinh sống gần ngôi đền này: “Đền Cẩu Nhi đã có từ cách đây rất lâu rồi, hồi chúng tôi còn bé ngôi đền này còn có tên là đền Bà Đò.

Người ta kể rằng, hồi đó từ ở một góc của mặt hồ Trúc Bạch (góc đường Thanh Niên và phố Phó Đức Chính bây giờ) bỗng nổi cao lên một ụ đất cao. Trên đó bỗng nhiên xuất hiện 1 con chó cái và 4 con chó con sinh sống. Có nhiều người định bắt chó nhưng đều gặp chuyện chẳng lành.

Thấy sự lạ, nhiều người quanh vùng tìm đến cúng bái và cảm thấy rất thiêng, nên sau này khi những con chó sống tại gò nổi này chết, họ đã lập đền thờ và gọi là “Thần Chó”. Tuy nhiên, đây chỉ là câu chuyện người xưa truyền lại, sự thật ra sao tôi cũng không nắm rõ, vì tuổi của ngôi đền gấp mấy lần tuổi tôi.” – Bà H chia sẻ.

Bà H cũng có biết, còn một câu chuyện nữa chắc hẳn ai vào thăm đền Cẩu Nhi rồi cũng từng đọc qua, trên bia đá xưa nay còn tồn tại trong phương đình của đền có chép:

“Di tích Cẩu Nhi có bắt nguồn từ một truyền thuyết và tín ngưỡng dân gian đến sự kiện vua Lý Thái Tổ lên làm Vua và dời đô về thành Thăng Long.

Các sử liệu của nước Nam ghi rõ về sự xuất hiện của ngôi đền và lý giải tại sao lại có tên là Cẩu Nhi.

Nguyên là trong Đại Việt sử ký toàn thư, quyển II, kỷ Nhà Lý, có đoạn chép rằng: “Trước ở viện Cam Tuyển chùa Ứng Thiên Tâm, châu Cổ Pháp có con chó đẻ con nhưng trên lông trắng có những đốm đen ghép lại thành chữ "Thiên tử".

Kẻ thức giả thời đó nói đó là điềm năm Tuất sinh người làm thiên tử. Đến nay, Vua sinh năm Giáp Tuất lên làm Thiên tử, quả là ứng nghiệm” (Vua Lý Công Uẩn sinh năm Giáp Tuất (934) dời đô về Thăng Long năm Canh Tuất 1010).”

Theo lý giải của cố GS. Phan Huy Lê - người trực tiếp dịch Đại Việt sử ký toàn thư nói: Chính ông đã tìm thấy chữ “bến Thần Cẩu” và rằng chuyện thờ Chó đã có ở người Việt ít nhất từ năm 1254 (đời Lý)! Nhưng vì người Việt có tín ngưỡng đa thần giáo, tôn thờ thuyết vạn vật hữu linh nên trải qua nhiều biến động, tục thờ Chó bị phai nhạt. Kết quả là trên cái đền ở giữa hồ Trúc Bạch đã có 3 lớp thờ chồng chéo lên nhau: Lớp thờ Chó - thờ Mẫu Thoải và thờ Cá.. .

Hiện, vẫn còn không ít tranh cãi giữa các nhà khoa học liên quan đến sự tích Cẩu Mẫu - Cẩu Nhi, song khi du khách thập phương đến vãn đền sẽ thấy vẫn có nhiều phù điêu và tượng liên quan đến hình tượng chó cũng như trong bài vị gỗ cổ của ngôi đền có nhắc đến Thần Cẩu nhi.