Deloitte Australia vừa phải hoàn trả một phần tiền cho chính phủ Úc sau khi báo cáo đánh giá do họ thực hiện bị phát hiện chứa nhiều lỗi sai nghiêm trọng.
Nguyên nhân được xác định là công ty đã để công cụ AI, cụ thể là Azure OpenAI GPT-4o, tự động tạo và trích dẫn nội dung mà không có kiểm duyệt chặt chẽ.
Báo cáo gốc thậm chí chứa các trích dẫn học thuật về những người không tồn tại và cả một phán quyết giả mạo từ Tòa án Liên bang.
Học giả Chris Rudge, chuyên gia về phúc lợi xã hội, là người đầu tiên phát hiện ra loạt lỗi này và công bố với truyền thông.
Sau khi bị phát hiện, Deloitte đã cập nhật lại báo cáo, xóa hàng chục trích dẫn sai và viết lại toàn bộ danh mục tài liệu tham khảo.
Phía chính phủ Úc xác nhận Deloitte đã thừa nhận lỗi và đồng ý hoàn tiền, nhưng khẳng định kết quả tổng thể của báo cáo không bị ảnh hưởng.
Giới chuyên gia cho rằng vụ việc là minh chứng rõ ràng cho rủi ro khi các tổ chức lạm dụng AI mà thiếu kiểm tra chất lượng.
Deloitte hiện chưa phản hồi chính thức, song sự cố này đã trở thành lời nhắc đắt giá rằng AI không thể thay thế hoàn toàn con người trong các công việc đòi hỏi tính chính xác tuyệt đối.
