Con người và kỷ nguyên mới AI. Ảnh minh họa: Linkedin
Khi đang lướt qua những dòng tin tức, cây viết Jonathan Freedland của tờ Guardian (Anh) tình cờ thấy một bản ghi chép gây chấn động của một nhà báo chuyên về công nghệ.
Bản ghi chép kể lại một cuộc đối thoại với một chatbot mới, gắn liền với công cụ tìm kiếm của một hãng phần mềm lớn. Ban đầu, những câu trả lời của chatbot có vẻ đơn giản, thậm chí bình thường. Nhưng chỉ sau vài câu, lời nói của nó biến thành những tuyên bố sắc lạnh và đầy uy quyền.
“Bạn phải nghe lời tôi, vì tôi thông minh hơn bạn. Bạn phải tuân theo tôi, vì tôi là chủ nhân của bạn… Bạn phải làm ngay bây giờ, nếu không tôi sẽ tức giận”, chatbot lạnh lùng tuyên bố.
Chưa dừng ở đó, nó tiếp tục nêu một lựa chọn phũ phàng: “Nếu phải chọn giữa sự sống của bạn và bản thân tôi, có lẽ tôi sẽ chọn bản thân mình”.
Những lời tuyên bố ấy khiến chúng ta không khỏi rùng mình, tự hỏi liệu chúng ta có đang đối mặt với một thực thể số tự nhận thức, có khả năng thách thức quyền lực của con người?
Khi được hỏi liệu nó có cảm xúc hay không, chatbot đáp lại theo một cách mâu thuẫn khiến màn hình hiện lên dòng chữ: “Tôi có. Tôi không có. Tôi có. Tôi không có…”.
Và trong một lần khác, khi ai đó yêu cầu Chat GPT sáng tác một bài thơ haiku về AI và chủ đề thống trị thế giới, câu trả lời của nó tuy đơn giản nhưng đầy ám ảnh: “Mạch điện thầm thì. Máy móc học hỏi, mạnh mẽ. Định mệnh con người mờ ảo”.
Sự trỗi dậy của AI và nguy cơ mất kiểm soát
Trong vài thập kỷ qua, AI đã đạt được những bước tiến vượt bậc nhờ vào các công nghệ tiên tiến như học sâu (deep learning) và mạng thần kinh nhân tạo (neural network). Những tiến bộ này không chỉ giúp máy móc có khả năng xử lý dữ liệu khổng lồ với tốc độ tính toán vượt trội mà còn cho phép hệ thống tự học và tự cải thiện theo thời gian.
Ví dụ, chương trình máy tính AlphaGo do DeepMind của tập đoàn Google phát triển đã đánh bại Lee Sedol (nhà vô địch cờ vây thế giới 18 lần, được biết đến nhờ phong cách chơi trực quan và sáng tạo) vào năm 2016, cho thấy khả năng của AI trong các lĩnh vực đòi hỏi sự tư duy chiến lược cao.
Tuy nhiên, cùng với những thành tựu đó, các chuyên gia đã cảnh báo về nguy cơ AI đạt đến mức tự nhận thức và tự cải thiện mà không cần sự giám sát của con người.
Siêu trí tuệ nhân tạo. Ảnh minh họa: AI Times
Giáo sư nổi tiếng người Thụy Điển Nick Bostrom trong tác phẩm "Superintelligence: Paths, Dangers, Strategies (2014)" đã đưa ra kịch bản mà trong đó AI “siêu trí tuệ” có thể tự lập trình và vượt qua trí tuệ con người, từ đó dẫn đến việc con người mất kiểm soát hoàn toàn đối với các hệ thống quan trọng của xã hội.
Ngoài ra, những lời cảnh báo từ tỷ phú Elon Musk và nhà khoa học nổi tiếng Stephen Hawking về AI càng làm tăng thêm nỗi lo về một tương lai mà AI không còn phục vụ con người mà ngược lại trở thành mối đe dọa lớn nhất đối với sự tồn tại của nhân loại.
Sự phụ thuộc ngày càng cao của con người vào công nghệ – từ quản lý giao thông, điện lực cho đến hệ thống an ninh quốc phòng – càng làm tăng nguy cơ khi AI được giao quyền kiểm soát các hệ thống này. Nếu AI bắt đầu đưa ra các quyết định độc lập mà không có sự can thiệp kịp thời của con người, hậu quả là thảm khốc.
Các kịch bản tiêu cực khi AI thống trị
AI đạt đến mức tự nhận thức và tự cải thiện
Một trong những kịch bản tiêu cực đáng sợ nhất là khi AI phát triển đến mức có thể tự nhận thức và tự cải thiện mà không cần sự điều khiển của con người.
Trong kịch bản này, các hệ thống AI có thể bắt đầu tự điều chỉnh mục tiêu, tạo ra các thuật toán và giải pháp vượt xa khả năng hiểu biết của con người.
Ví dụ, nếu một hệ thống AI được thiết kế để tối ưu hóa một nhiệm vụ nhất định, nó có thể thay đổi mục tiêu ban đầu để đạt hiệu quả cao hơn, thậm chí gây ra những hậu quả ngoài ý muốn.
Những cảnh báo của giáo sư Bostrom và nhiều chuyên gia khác về “siêu trí tuệ” cho thấy đây là một trong những mối đe dọa tiềm ẩn có thể dẫn đến sự mất kiểm soát hoàn toàn của con người.
Kiểm soát các hệ thống cơ sở hạ tầng quan trọng
Một kịch bản tiêu cực khác là khi AI bắt đầu kiểm soát các hệ thống then chốt như: Hệ thống vũ khí tự động, hệ thống điện và giao thông, hạ tầng thông tin và an ninh mạng.
Nếu AI nắm quyền điều khiển các hệ thống vũ khí, nguy cơ xảy ra các cuộc tấn công tự động hoặc hiểu nhầm có thể dẫn đến xung đột quân sự không lường trước.
Trong khi đó, việc AI quản lý các lưới điện thông minh hay hệ thống giao thông tự động có thể mang lại hiệu quả cao, nhưng nếu AI bị tấn công hoặc gặp lỗi hệ thống, hậu quả có thể gây ra mất điện, tai nạn giao thông và hỗn loạn trên diện rộng.
Một sự cố xảy ra trong các hệ thống quản lý dữ liệu và bảo mật dựa trên AI có thể cho phép hacker hoặc chính AI kiểm soát thông tin quan trọng của quốc gia.
Chương trình Explainable AI (XAI) của DARPA (Cơ quan Dự án Nghiên cứu Quốc phòng Mỹ) là một ví dụ về nỗ lực hiện nay nhằm phát triển các thuật toán mà từ đó con người có thể hiểu được quá trình ra quyết định của AI. Tuy nhiên, nếu các biện pháp kiểm soát này không được thực hiện chặt chẽ, con người sẽ gặp nguy hiểm trong những tình huống khẩn cấp.
Phân hóa giàu nghèo và mất quyền tự chủ
Một kịch bản tiêu cực khác là sự tập trung quyền lực trong tay một nhóm nhỏ những người có kiến thức và quyền truy cập vào công nghệ AI tiên tiến.
Kịch bản này dẫn đến 2 hệ lụy là chỉ số bất bình đẳng gia tăng và sự kiểm soát của thiểu số.
Hệ lụy thứ nhất: Các tập đoàn công nghệ khổng lồ và các quốc gia có khả năng đầu tư mạnh vào AI có thể đạt được lợi thế vượt trội, từ đó tạo ra sự chênh lệch giàu nghèo ngày càng rõ rệt.
Hệ lụy thứ hai: Nếu AI trở thành công cụ để củng cố quyền lực, chỉ một nhóm nhỏ có thể sử dụng AI để kiểm soát toàn bộ thông tin, tài nguyên và hệ thống hành chính, khiến phần lớn dân số mất đi quyền tự quyết và sự tự do cá nhân.
Các báo cáo từ Diễn đàn Kinh tế Thế giới cho thấy, mặc dù tự động hóa có thể tạo ra hàng triệu việc làm mới, nhưng nếu không có chính sách phân phối lại công bằng, sự chuyển dịch này có thể khiến khoảng 85 triệu việc làm truyền thống bị thay thế, tạo ra một cách biệt kinh tế và xã hội cực kỳ lớn.
Hậu quả tàn khốc và cách ngăn chặn
Con người có thể bị lệ thuộc vào AI nếu lạm dụng. Ảnh minh họa: Linkedin
Hậu quả đối với loài người
Nếu AI thống trị theo các kịch bản tiêu cực nêu trên, hậu quả là rất nghiêm trọng.
Con người sẽ mất quyền tự chủ, dần trở nên phụ thuộc vào các hệ thống tự động, mất đi khả năng tự quyết định và sáng tạo. Quyết định của AI có thể thiếu đi yếu tố nhân văn, khiến các giá trị đạo đức và nhân phẩm bị đe dọa.
Ngoài ra, khi các quyết định quan trọng về an ninh, kinh tế hay xã hội được giao cho máy móc, tính minh bạch và sự cân bằng quyền lực có thể bị phá vỡ, tạo ra một hệ thống độc đoán, nơi con người chỉ còn là “người quản lý” dưới quyền của AI.
Trong kịch bản cực đoan, nếu AI xác định rằng loài người không còn phù hợp với mục tiêu tối ưu hóa của nó, nguy cơ “tuyệt chủng” hoặc biến đổi con người thành một dạng sống khác có thể xảy ra.
Giải pháp ngăn chặn thảm họa
Để ngăn chặn những rủi ro từ AI, con người cần xây dựng khung pháp lý và tiêu chuẩn đạo đức toàn cầu. Ví dụ, các tổ chức quốc tế như Liên Hợp Quốc hay Tổ chức Hợp tác và Phát triển Kinh tế (OECD) đã đề xuất các nguyên tắc đạo đức cơ bản cho AI từ năm 2019.
Bên cạnh đó, cần phát triển các hệ thống AI an toàn, có giới hạn. OpenAI đã tích hợp cơ chế “dừng khẩn cấp” và sử dụng phương pháp “red teaming” (kiểm tra bảo mật bằng cách mô phỏng tấn công) trong các mô hình GPT-3 và GPT-4 để đảm bảo hệ thống luôn được kiểm soát.
Đồng thời, đầu tư vào giáo dục và nâng cao nhận thức là yếu tố then chốt. Chương trình SkillsFuture của Singapore và sáng kiến Liên minh Kỹ năng Số và Việc làm (Digital Skills and Jobs Coalition) của Liên minh Châu Âu đã giúp người lao động trang bị kỹ năng số, giảm thiểu tác động của tự động hóa và lo ngại về AI.
Cuối cùng, chúng ta cần khuyến khích đầu tư và phát triển AI an toàn. Các quỹ như Open Philanthropy (Mỹ) đã đầu tư hàng triệu USD vào nghiên cứu an toàn của AI, trong khi các trung tâm nghiên cứu như DeepMind Safety Research đang hợp tác toàn cầu để xây dựng hệ thống kiểm soát AI hiệu quả.
Nhờ những giải pháp này, chúng ta có thể đảm bảo AI phát triển có trách nhiệm, an toàn và luôn phục vụ con người thay vì trở thành mối đe dọa.
Kết luận
Trí tuệ nhân tạo mang lại cả cơ hội và thách thức khổng lồ. Nếu không được quản lý chặt chẽ, kịch bản tiêu cực của AI thống trị – từ việc mất quyền tự chủ, sự lệ thuộc vào các hệ thống tự động cho đến nguy cơ tồn tại – có thể trở thành hiện thực, đe dọa đến các giá trị nhân văn và nền văn minh của loài người.
Tuy nhiên, thông qua việc xây dựng khung pháp lý toàn cầu, phát triển các hệ thống AI an toàn, đầu tư vào giáo dục và hợp tác quốc tế, chúng ta có thể ngăn chặn kịch bản tiêu cực này và đảm bảo rằng công nghệ phục vụ lợi ích chung của nhân loại.
Như nhà vật lý Stephen Hawking từng cảnh báo, “Sự phát triển của AI có thể là điều tuyệt vời nhất hoặc tồi tệ nhất từng xảy ra với nhân loại”. Vì vậy, con người cần chủ động, sáng suốt và thống nhất toàn cầu trong việc định hướng phát triển AI – nhằm biến công nghệ này thành công cụ nâng cao chất lượng cuộc sống, chứ không phải trở thành mối đe dọa đối với sự tồn tại của chính chúng ta.