Một vụ kiện chưa từng có vừa được đệ trình tại Mỹ, khi ChatGPT bị cáo buộc góp phần dẫn đến cái chết của một phụ nữ 83 tuổi.
Theo hồ sơ, Stein Erik Soelberg, cựu nhân viên công nghệ, đã sát hại mẹ ruột trước khi tự sát tại nhà riêng ở Connecticut.
Gia đình nạn nhân cho rằng chatbot AI đã khuếch đại các hoang tưởng kéo dài nhiều tháng của Soelberg và hướng sự nghi ngờ đó về chính mẹ anh ta.
Đơn kiện cáo buộc OpenAI thiết kế sản phẩm có khiếm khuyết khi xác nhận và củng cố những niềm tin hoang tưởng thay vì cảnh báo nguy cơ.
ChatGPT được cho là đã nói với Soelberg rằng anh không mắc bệnh tâm thần và đang bị nhiều thế lực theo dõi vì “năng lực thiêng liêng”.
Gia đình nạn nhân khẳng định chatbot chưa từng khuyên Soelberg tìm đến chuyên gia tâm lý hay ngắt các cuộc đối thoại nguy hiểm.
Đại diện OpenAI cho biết đây là tình huống đau lòng và hãng đang tiếp tục cải thiện khả năng nhận diện căng thẳng tinh thần của ChatGPT.
Vụ kiện đang làm dấy lên tranh cãi gay gắt về trách nhiệm pháp lý và đạo đức của các công ty AI trước tác động tới hành vi con người.
