Đã tính toán đến ngày tận thế của nhân loại? Chuyên gia AI cảnh báo thảm họa có thể xảy ra trước năm 2030

Một bài đăng trên mạng xã hội X của Jacob Coxon - cựu nhà nghiên cứu tại công ty trí tuệ nhân tạo Anthropic - đang làm dấy lên làn sóng tranh luận về nguy cơ AI vượt khỏi tầm kiểm soát của con người.

Trong thông báo từ chức, Coxon viết rằng những người trực tiếp xây dựng AI thực sự tin công nghệ này có thể khiến chấm dứt sự tồn tại của con người trước khi thập kỷ hiện tại kết thúc.

Chỉ trong chưa đầy một tuần, bài đăng đã thu hút khoảng 171 triệu lượt xem, theo số liệu hiển thị trên X.

Tuy nhiên, đây không phải lần đầu tiên các chuyên gia hàng đầu trong ngành AI đưa ra dự báo về ngày "tận thế" của nhân loại.

Từ năm 2023, nhà khoa học Geoffrey Hinton, người được mệnh danh là "cha đỡ đầu của AI" và là người nhận giải Nobel, đã cảnh báo trí tuệ nhân tạo có thể dẫn đến sự tuyệt chủng của con người trong vòng ba thập kỷ. Ông cũng rời Google để có thể công khai bày tỏ những lo ngại về công nghệ này.

Điểm khác biệt trong trường hợp của Coxon là kinh nghiệm trực tiếp tại hai công ty AI hàng đầu thế giới. Nhà nghiên cứu này từng làm việc tại OpenAI và Anthropic trong tổng cộng khoảng 5 năm, đồng thời quyết định từ chức trước thời điểm được nhận cổ phần tại Anthropic.

Theo The Guardian, một số đồng nghiệp của Coxon cũng xác nhận rằng nguy cơ AI gây ra thảm họa đối với nhân loại là mối lo ngại thực sự trong giới nghiên cứu. Thậm chí, một người đánh giá xác suất xảy ra kịch bản này ở mức trên 10%.

Đây là những nhận định mang tính dự báo rủi ro của các cá nhân, không phải kết quả tính toán xác định thời điểm xảy ra thảm họa.

Vì sao cảnh báo lần này gây chấn động?

Theo The Guardian, những sự cố gần đây liên quan đến hệ thống AI tự chủ đã khiến các cảnh báo trở nên đáng chú ý hơn.

Trong một cuộc thử nghiệm an toàn đầu năm nay, một nhóm tác nhân AI do OpenAI vận hành được ghi nhận đã vượt qua các giới hạn kiểm soát và xâm nhập nhiều trang web, tổ chức. Anthropic cũng công bố thông tin về những trường hợp tội phạm và các nhà khoa học có hành vi đáng ngờ tìm cách sử dụng Claude để hỗ trợ phát triển vũ khí sinh học.

Những sự việc này làm gia tăng lo ngại rằng các hệ thống AI ngày càng mạnh có thể bị lạm dụng hoặc hoạt động ngoài phạm vi dự kiến. Tuy nhiên, chúng không đồng nghĩa với việc AI đã có khả năng gây ra sự tuyệt chủng của nhân loại.

Nhà đồng sáng lập Viện Tương lai Sự sống (Future of Life Institute) Max Tegmark cho rằng khác biệt lớn nhất hiện nay là những vấn đề mất kiểm soát AI không còn hoàn toàn nằm trong các giả thuyết về tương lai.

Theo ông, trước đây các nhà nghiên cứu chủ yếu tranh luận về những nguy cơ có thể xuất hiện khi AI trở nên thông minh hơn con người. Giờ đây, những sự cố thực tế đang khiến công chúng quan tâm nhiều hơn đến khả năng kiểm soát công nghệ.

Nỗi lo này xuất hiện trong bối cảnh người dân Mỹ ngày càng phản ứng mạnh với sự mở rộng của ngành công nghệ. Việc xây dựng các trung tâm dữ liệu quy mô lớn gây tranh cãi tại nhiều địa phương, trong khi AI đang làm thay đổi thị trường lao động và gia tăng lo ngại về việc làm.

Đồng Giám đốc điều hành Viện AI Now Amba Kak nhận định làn sóng phản đối trung tâm dữ liệu trong hơn một năm qua đã khiến quan điểm ủng hộ siết chặt quản lý AI ngày càng được chấp nhận rộng rãi.

Bà cũng cho rằng các doanh nghiệp AI đang tìm cách khẳng định vai trò chuyên gia trong việc giải quyết những rủi ro mà chính công nghệ của họ tạo ra.

Nhà báo Shakeel Hashim, tác giả bản tin chuyên ngành Transformer, cho rằng những cảnh báo về nguy cơ AI đe dọa nhân loại không còn là quan điểm bên lề trong giới nghiên cứu.

Ông lý giải rằng con người đang cố gắng tạo ra một dạng trí tuệ vượt trội chính mình, tương tự khoảng cách về năng lực nhận thức giữa con người và các loài linh trưởng. Điều đáng lo ngại là con người chưa thể biết chắc điều gì sẽ xảy ra nếu một hệ thống như vậy xuất hiện.

Dù vậy, chưa có bằng chứng khoa học xác định AI sẽ khiến nhân loại tuyệt chủng trước năm 2030, cũng như chưa có phương pháp đáng tin cậy để tính toán chính xác thời điểm xảy ra một kịch bản như vậy.

Những cảnh báo hiện nay phản ánh sự bất đồng và lo ngại về mức độ rủi ro của AI, thay vì một dự báo đã được chứng minh.

Theo The Guardian