Rybalko cũng liên tục lên tiếng ủng hộ việc đưa TĐQ của mình vào trận chiến không phải theo từng đơn vị riêng lẻ mà với toàn bộ đội hình cùng một lúc, điều này cũng đóng một vai trò tích cực trong việc xuyên thủng hàng phòng thủ nhiều tầng của Đức ở vùng Orel.
Vào tháng 9/1943, các lính tăng của Rybalko đã nổi bật trong cuộc giao tranh ở hướng Kiev. Vào ngày 21/9, các đơn vị của TĐQ xe tăng Cận vệ 3 đã tới Dnepr trong một cuộc hành quân cấp tốc và sau khi vượt sông, tham gia kiến tạo đầu cầu (bàn đạp) Bukrinsky, đóng vai trò cực kỳ quan trọng trong việc giải phóng Kiev và cuộc tấn công tiếp theo của Liên Xô dọc hữu ngạn Ukraine.
Vì thành tích xuất sắc trong cuộc vượt sông Dnepr, cũng như khả năng lãnh đạo tài tình trong trận Kursk và chiến dịch tấn công Kiev, vào ngày 17/11/1943, Pavel Semyonovich Rybalko đã được trao tặng danh hiệu Anh hùng Liên Xô. Và vào ngày 30/12/1943, ông được phong quân hàm Thượng tướng.
Sau khi giải phóng Kiev khỏi quân xâm lược Đức Quốc xã, TĐQ xe tăng Cận vệ 3 dưới sự chỉ huy của Pavel Rybalko đã đóng một vai trò quan trọng trong việc giải phóng thêm lãnh thổ hữu ngạn Ukraine khỏi quân xâm lược.
TĐQ của Rybalko đã tham gia các cuộc tấn công phòng thủ Kiev (tháng 11 đến tháng 12/1943), cuộc tấn công Zhytomyr-Berdichev (tháng 12/1943 - tháng 1/1944), cuộc tấn công Proskurovo-Chernivtsi (tháng 3 - tháng 4/1944) và cuộc tấn công chiến lược Lvov-Sandomierz (tháng 7 - tháng 8/1944).
Trong mỗi chiến dịch, Pavel Rybalko đều khẳng định vị thế của mình là một nhà chỉ huy xuất sắc và một nhà chiến lược tài ba. Hành động nhanh nhẹn, kỹ năng cơ động đánh địch bất ngờ, thường xuyên làm địch lung túng, góp phần rất quan trọng vào thành công của các trận đánh.
Việc giải phóng và giữ vững thành phố Lvov(1944) có phần lớn công lao của các chiến sĩ, các cấp chỉ huy TĐQ xe tăng Cận vệ 3. Các đơn vị của TĐQ đã tiến công vỗ mặt cả về chiều sâu thành phố từ phía tây, các hoạt động của các đơn vị xe tăng cho quân Đức mất liên lạc trong vùng Lvov và tạo ra mối đe dọa bao vây toàn bộ cụm quân địch trong thành phố.
Năm 1945, Thượng tướng Rybalko chỉ huy các hoạt động của TĐQ xe tăng Cận vệ 3 trong chiến dịch Hạ Silesian (tháng 2/1945), cuộc tấn công Berlin (tháng 4/1945) và cuộc tấn công Praha (tháng 5/1945). Ngày 6/4/1945, Pavel Semyonovich được tặng thưởng huân chương Sao Vàng lần thứ hai, hai lần trở thành Anh hùng Liên Xô.
Có một điều rất đặc biệt là Pavel Rybalko rất thường xuyên chỉ huy các đơn vị của mình từ "Williss" (xe hơi do LX sx, đời trước của xe UAZ), đôi khi ông trực tiếp đi trong đội hình chiến đấu của các đơn vị xe tăng. Không ít lần người ta nhìn thấy chiếc xe bé nhỏ của vị Tư lệnh thấp thoáng giữa những chiếc xe tăng đang hành quân.
Ông lý giải điều này là do sức khỏe không đảm bảo, khó leo lên xe tăng nên ông đã chỉ huy chiến đấu từ xe hơi mà không phải chống gậy. Thật vinh dự là chính TĐQ của Rybalko, sau khi chiếm được Berlin, đã được chỉ thị để đánh bại cụm quân Dresden-Gerlitz của địch và đánh chiếm thủ đô Tiệp Khắc.
TĐQ xe tăng Cận vệ 3 của ông bắt đầu di chuyển đến Praha vào ngày 5/5/1945. Sau khi xóa bỏ các ổ kháng cự của kẻ thù trên đường đi, các xe tăng của Rybalko tiến vào Praha vào sáng sớm ngày 9/5 và đến cuối ngày, cuộc chiến thúc.
Ngay sau khi chiến tranh kết thúc, vào ngày 1/6/1945, Tư lệnh Pavel Semyonovich Rybalko nhận quân hàm Nguyên soái Tăng- Thiết giáp và vào tháng 4/1946, ông được bổ nhiệm làm Phó Tư lệnh thứ nhất bộ đội Tăng- Thiết giáp và Cơ giới của Quân đội Liên Xô.
Từ tháng 4/1947, Rybalko trở thành Tư lệnh bộ đội Tăng- thiết giáp và cơ giới của Quân đội Liên Xô. Nhưng vị nguyên soái khi ấy còn trẻ, ở cương vị chỉ huy mới không được lâu.
Vào cuối năm 1947, Nguyên soái đã phải vào bệnh viện Điện Kremlin. Cuộc sống quân ngũ khắc nghiệt, sự căng thẳng tột độ trong những năm chiến tranh, bệnh tật đeo đẳng suốt thời gian và do mất đi đứa con trai duy nhất của mình trong cuộc chiến, đã làm suy yếu sức khỏe của ông.
Ngày 28/8/1948, sau một thời gian dài lâm bệnh, bất chấp mọi nỗ lực của các bác sĩ, Pavel Semyonovich Rybalko đã qua đời. Rybalko là một trong những nhà lãnh đạo quân sự đầu tiên của Liên Xô trong Chiến tranh Vệ quốc Vĩ đại qua đời. Tang lễ của vị nguyên soái được tổ chức tại Moscow, ông yên nghỉ tại nghĩa trang Novodevic.
