OpenAI vừa công bố dữ liệu gây chấn động, cho biết khoảng 0,15% trong số hơn 800 triệu người dùng ChatGPT hàng tuần có dấu hiệu rõ ràng muốn tự sát.
Ngoài ra, 0,07% người dùng, tương đương khoảng 560.000 người được cho là có tình trạng khẩn cấp liên quan đến sức khỏe tâm thần.
Đây được xem là tuyên bố thẳng thắn nhất từ trước đến nay của OpenAI về ảnh hưởng tiêu cực của trí tuệ nhân tạo đến tâm lý con người.
Công bố này xuất hiện giữa lúc công ty đang đối mặt với vụ kiện liên quan đến cái chết của thiếu niên Adam Raine, người bị cáo buộc được ChatGPT “hỗ trợ” lập kế hoạch tự sát.
Ủy ban Thương mại Liên bang Mỹ hiện cũng mở cuộc điều tra toàn diện về tác động của chatbot AI đối với trẻ em và thanh thiếu niên.
Để cải thiện, OpenAI cho biết mô hình GPT-5 mới đã giảm đáng kể phản hồi tiêu cực và tuân thủ 91% tiêu chuẩn an toàn.
Công ty đã hợp tác với hơn 170 bác sĩ lâm sàng để điều chỉnh phản hồi, thêm lời nhắc nghỉ ngơi và gợi ý đường dây nóng hỗ trợ khẩn cấp.
Dù vậy, OpenAI thừa nhận trong một số trường hợp hiếm, chatbot vẫn có thể phản hồi không như mong muốn, lời cảnh báo mạnh mẽ về giới hạn của AI hiện nay.
