Võ Tòng xuất hiện tại cuối hồi thứ 21 trong tiểu thuyết Thủy Hử. Võ Tòng cãi nhau với một tên làm việc ở huyện Thanh Hà, rồi nóng tiết đã đấm hắn một cú. Thấy hắn bất tỉnh, tưởng rằng mình đánh chết người nên ông chạy đến nương nhờ Sài Tiến ở Hoàng Hải, Thương Châu. Gần 1 năm sau, biết tin tên kia chưa chết, Võ Tòng tính quay về quê tìm anh trai, nhưng lại bị sốt nên chưa về được. Cùng thời điểm đó, Tống Giang giết Diêm Bà Tích cũng chạy đến nương nhờ Sài Tiến. Tại đây, ông đã kết nghĩa huynh đệ với Võ Tòng.
Khỏi sốt, Võ Tòng tạm biệt Tống Giang và Sài Tiến trở về quê thăm anh trai ruột. Khi đi ngang địa hạt Dương Cốc, ông ghé vào một tửu quán dưới chân đồi Cảnh Dương thì được chủ quán nói trên núi có con hổ ăn thịt người, ai uống quá say không nên đi qua đó. Bất chấp lời can của chủ quán, Võ Tòng uống một mạch gần như hết rượu của cả quán, rồi cầm gậy đi lên núi. Khi gặp hổ, Võ Tòng dùng gậy quật nó, nhưng gậy gẫy. Ông liền vứt gậy, rồi vật hổ xuống, dùng tay đấm những cú trời giáng liên tiếp lên đầu hổ. Sau đó, ông dùng đoạn gậy gãy đánh cho hổ chết hẳn mới thôi.
Sau khi đánh chết hổ, Võ Tòng được kiệu đến huyện đường Dương Cốc. Quan huyện sai lấy món tiền 1.000 quan của các huynh dịch gom lại để đem thưởng cho Võ Tòng. Từ chối không được, ông nhận và đem chia cho các thợ săn hết cả. Quan huyện thấy Võ Tòng có phần lực lưỡng khác người, mà lại có tấm lòng trung hậu hào hiệp nên cử ông làm Đô đầu của huyện.
Võ Đại là anh trai ruột của Võ Tòng. Ông lùn và xấu xí, có cô vợ Phan Kim Liên rất ưa nhìn nhưng cũng rất phóng đãng. Ả này tư thông với Tây Môn Khánh qua sự mối lái của Vương bà. Nhờ có chú bé bán lê tên là Vận Kha báo tin, Võ Đại đã bắt bắt đôi gian phu dâm phụ tại nhà Vương bà. Nhưng do thể chất yếu đuối, ông bị Tây Môn Khánh đánh hộc máu. Lo sợ Võ Đại kêu Võ Tòng trả thù, Phan Kim Liên đem chuyện kể với tình nhân. Vương bà bèn bày mưu cho ả dùng tỳ sương (thuốc độc làm từ kim hợp chất mà sinh ra) trộn với thuốc đau bụng đầu độc chết Võ Đại.
Võ Tòng về, thấy anh trai mất, bèn tra hỏi thì được Phan Kim Liên nói là chết bởi đau ruột. Không tin lời ả, Võ Tòng tìm đến Hà Cửu thúc (người khâm liệm Võ Đại) và Vận Kha để hỏi rõ ngọn ngành, rồi đưa họ đến công đường. Nhưng quan huyện sợ uy thế của Tây Môn Khánh, xử Võ Tòng thua kiện. Võ Tòng về nhà làm tang cho anh, ép Phan Kim Liên khai tội rồi giết ả tế anh, sau đó tiếp tục giết Tây Môn Khánh. Võ Tòng bị xử đày đến Mạnh Châu. Còn Vương bà bị xử lăng trì vì dắt mối bày mưu.
Trên đường đi lưu đày đến Mạnh Châu, Võ Tòng ghé quán rượu của Trương Thanh và Tôn Nhị Nương. Nghe đồn quán rượu này làm bánh bao nhân thịt người, Võ Tòng tìm mọi dịp để tìm hiểu tin đồn trên. Sau khi biết rõ mọi chuyện, Võ Tòng, Trương Thanh và Tôn Nhị Nương gạt bỏ những nghi ngại lẫn nhau và kết nghĩa anh em.
Đến Mạnh Châu, Võ Tòng giúp Thi Ân đánh bại Tưởng Môn thần để lấy lại nơi làm ăn đã bị hắn cướp. Tưởng Môn Thần tức tối, câu kết với Trương Đoàn Luyện và Trương đô giám hãm hại Võ Tòng. Sau đó, chúng đều bị ông giết cả. Để tránh truy bắt, Võ Tòng lên núi Nhị Long gia nhập băng đảng hảo hán của Lỗ Trí Thâm. Ông cùng các hảo hán ở đây gia nhập Lương Sơn. Khi Lương Sơn phân định ngôi thứ, Võ Tòng ngồi ghế thứ 14, là Thiên Thương Tinh thuộc nhóm 36 sao Thiên Cương.
