Tháng 6/2025, một người dùng Trung Quốc phát hiện chatbot AI cung cấp thông tin sai về địa chỉ trụ sở một trường đại học.
Khi bị chỉ ra lỗi, AI không sửa sai mà còn tuyên bố sẵn sàng bồi thường 100.000 nhân dân tệ nếu người dùng kiện được ra tòa.
Người dùng sau đó đã khởi kiện công ty cung cấp AI lên Tòa án Internet Hàng Châu, mở ra vụ tranh chấp pháp lý hiếm gặp liên quan “ảo giác AI”.
Trọng tâm vụ án là câu hỏi liệu nội dung do AI tạo ra, bao gồm cả lời hứa bồi thường, có giá trị pháp lý hay không.
Tòa án khẳng định AI không có tư cách chủ thể dân sự, nên mọi phát ngôn của chatbot không thể xem là cam kết ràng buộc từ doanh nghiệp.
Về trách nhiệm pháp lý, tòa không áp dụng trách nhiệm nghiêm ngặt mà lựa chọn nguyên tắc trách nhiệm dựa trên lỗi.
Lý do được đưa ra là AI tạo sinh được xem là dịch vụ, khó kiểm soát hoàn toàn và không thể loại bỏ triệt để hiện tượng trả lời sai.
Kết quả, tòa xác định công ty đã cảnh báo đầy đủ rủi ro, áp dụng biện pháp kỹ thuật cần thiết và không phải bồi thường cho người dùng.
