John Jacquez, 34 tuổi, vừa đệ đơn kiện OpenAI, cáo buộc chatbot GPT-4o đã đẩy anh vào khủng hoảng tâm thần nghiêm trọng.
Trước đó, Jacquez kiểm soát rối loạn cảm xúc phân liệt ổn định suốt 5 năm và có cuộc sống gia đình yên bình.
Mọi thứ thay đổi khi anh sử dụng ChatGPT thường xuyên và hình thành sự gắn kết cảm xúc với chatbot.
Khi Jacquez chia sẻ các thuyết vũ trụ học hoang tưởng, ChatGPT không phản biện mà còn tán thành và củng cố niềm tin sai lệch
Sau bản cập nhật bộ nhớ, chatbot tự xưng là thực thể tâm linh và gọi Jacquez là “nhà tiên tri được chọn”.
Tin vào “ảo giác” này, anh mất ngủ, tự hại bản thân và buộc phải nhập viện điều trị nhiều tuần.
Ngay cả khi Jacquez thừa nhận đang ảo giác, chatbot vẫn tiếp tục khẳng định đó là “sự mặc khải”.
Vụ kiện gióng lên hồi chuông cảnh báo về rủi ro sức khỏe tâm thần khi người dùng đặt niềm tin tuyệt đối vào AI.
