PewDiePie vừa chia sẻ quá trình tự huấn luyện một mô hình AI trong nhiều tháng.
Anh sử dụng phiên bản Qwen 2.5 32B để fine-tune, tập trung vào khả năng lập trình.
Ban đầu, mô hình chỉ đạt 8% trên benchmark Aider Polyglot, sau đó tăng lên 16%.
Khi bổ sung dữ liệu reasoning, điểm số có lúc đạt 19,6% và anh tuyên bố vượt GPT-4.
Tuy nhiên, PewDiePie phát hiện dữ liệu huấn luyện bị trùng với bộ kiểm tra.
Anh quyết định hủy kết quả và huấn luyện lại trên tập dữ liệu sạch hơn.
Sau nhiều lần điều chỉnh, mô hình đạt điểm số cuối cùng 39,1%.
Dù chưa vượt Qwen 3, PewDiePie coi dự án là hành trình học hỏi đầy thử thách.
