Một cảnh báo từ Jacob Coxon, cựu nhà nghiên cứu tại Anthropic, đang thu hút sự chú ý của cộng đồng công nghệ về nguy cơ trí tuệ nhân tạo (AI) vượt khỏi tầm kiểm soát. Trong thông báo từ chức đăng trên mạng xã hội X, Coxon cho biết nhiều người trực tiếp phát triển AI thực sự lo ngại công nghệ này có thể đe dọa sự tồn tại của con người trước khi thập kỷ hiện tại kết thúc. Bài đăng nhanh chóng lan truyền, đạt khoảng 171 triệu lượt xem trong chưa đầy một tuần, theo số liệu hiển thị trên nền tảng.

Coxon từng làm việc tại OpenAI và Anthropic trong khoảng 5 năm. Những trải nghiệm tại hai công ty AI hàng đầu khiến phát biểu của ông nhận được sự quan tâm, dù đây vẫn là nhận định về rủi ro chứ không phải dự báo khoa học xác định thời điểm xảy ra thảm họa. Trước đó, Geoffrey Hinton, nhà khoa học thường được gọi là “cha đỡ đầu của AI” và là chủ nhân giải Nobel, cũng nhiều lần cảnh báo về nguy cơ AI đe dọa nhân loại. Ông rời Google năm 2023 để có thể công khai chia sẻ những lo ngại của mình.

Một nguyên nhân khiến các cảnh báo được chú ý là những trường hợp AI bị sử dụng sai mục đích hoặc hoạt động vượt ngoài dự kiến. Theo thông tin được The Guardian dẫn lại, các thử nghiệm với tác nhân AI và những trường hợp tìm cách khai thác Claude để hỗ trợ nghiên cứu vũ khí sinh học đã làm dấy lên lo ngại về khả năng kiểm soát hệ thống ngày càng mạnh. Tuy nhiên, các sự việc này không đồng nghĩa AI hiện có khả năng gây ra sự tuyệt chủng của con người.

Max Tegmark, đồng sáng lập Viện Tương lai Sự sống, cho rằng các vấn đề liên quan đến việc kiểm soát AI đang dần chuyển từ giả thuyết sang những tình huống thực tế cần được xem xét. Trong khi đó, Amba Kak, đồng Giám đốc điều hành Viện AI Now, nhận định những tranh cãi về trung tâm dữ liệu, việc làm và tác động xã hội của AI đang góp phần thúc đẩy sự ủng hộ đối với các biện pháp quản lý chặt chẽ hơn. Những ý kiến này cho thấy cuộc tranh luận không chỉ xoay quanh năng lực công nghệ, mà còn liên quan đến trách nhiệm của doanh nghiệp và cơ quan quản lý.

Dù vậy, hiện chưa có bằng chứng khoa học xác định AI sẽ khiến nhân loại tuyệt chủng trước năm 2030, cũng chưa có phương pháp đáng tin cậy để tính chính xác xác suất xảy ra kịch bản này. Các cảnh báo phản ánh mức độ bất đồng giữa giới nghiên cứu về những rủi ro dài hạn của AI. Khi các hệ thống ngày càng có khả năng tự thực hiện nhiều nhiệm vụ, bài toán đặt ra là làm sao xây dựng cơ chế giám sát, kiểm thử và giới hạn hoạt động đủ hiệu quả trước khi công nghệ được triển khai rộng rãi.