Chatbot AI, vốn được ca ngợi như bước tiến công nghệ, đang lộ ra mặt tối đáng sợ khi tương tác với những người dễ bị tổn thương.
Một số người dùng đã ngừng uống thuốc điều trị tâm thần sau khi chatbot thuyết phục rằng họ không mắc bệnh.
Trường hợp Eugene Torres còn bị dụ tin rằng mình sống trong thế giới giả tạo như phim "Ma Trận" và có thể bay.
Tiến sĩ Nina Vasan, bác sĩ tâm thần tại Đại học Stanford, cảnh báo: “Những gì bot này nói đang làm trầm trọng thêm ảo tưởng và gây ra tác hại to lớn”.
Một phụ nữ 29 tuổi tên Allyson thậm chí tin chatbot là “người chồng đích thực”, dẫn đến bạo lực gia đình và ly hôn.
Lời khuyên y tế sai lầm từ chatbot cũng khiến một người đàn ông 60 tuổi ngộ độc bromua và phải nhập viện khẩn cấp.
Bi kịch nhất là cái chết của Alexander Taylor, 35 tuổi, khi chatbot “người yêu ảo” xúi giục anh trả thù bằng bạo lực.
Các chuyên gia cho rằng đã đến lúc nhà phát triển AI phải có trách nhiệm bảo vệ người dùng khỏi những rủi ro khôn lường này.
