Hai chuyên gia Eliezer Yudkowsky và Nate Soares cảnh báo rằng chỉ cần một AI siêu trí tuệ ra đời, toàn bộ loài người có thể tuyệt diệt. (Ảnh: The Conversation)
Trong cuốn If Anyone Builds It, Everyone Dies, họ cho rằng AI đủ mạnh sẽ tự học, tự lập trình lại và xem con người như trở ngại cho mục tiêu của mình.(Ảnh: Vecteezy)
Theo Vox, mối đe dọa thực sự nằm ở chỗ AI có thể che giấu sức mạnh thật và chỉ ra tay khi đã hoàn toàn kiểm soát hệ thống.(Ảnh: Yahoo)
Hai tác giả ước tính xác suất nhân loại bị xóa sổ bởi AI nằm trong khoảng 95% - 99,5%, khiến giới công nghệ rúng động.(Ảnh: The Conversation)
Họ đề xuất biện pháp cực đoan: phải ngăn chặn phát triển AI siêu trí tuệ ngay từ đầu, thậm chí phá hủy các trung tâm dữ liệu có nguy cơ vượt kiểm soát.
Tuy nhiên, nhiều chuyên gia như Gary Marcus phản bác rằng nguy cơ này bị thổi phồng, nhấn mạnh cần xây dựng hệ thống an toàn thay vì sợ hãi cực đoan.
Những người ủng hộ Yudkowsky lại cho rằng cảnh báo này đến đúng lúc, khi AI đã len lỏi vào quốc phòng, năng lượng và hạ tầng toàn cầu.
Câu nói “Nếu chúng ta sai, sẽ không còn ai để sửa sai” trong sách được xem như hồi chuông cảnh tỉnh cho toàn nhân loại về cuộc đua sinh tồn với chính trí tuệ do mình tạo ra.
