Ảnh minh họa
Chiều 1/10, tại buổi họp báo thông báo tình hình, kết quả các mặt công tác công an quý III năm 2026 do Bộ Công an tổ chức, Đại tá Hà Văn Bắc, Phó Cục trưởng Cục An ninh mạng, cho biết liên quan đến các nội dung được sản xuất bằng trí tuệ nhân tạo (AI) đang diễn biến phức tạp trên các nền tảng ở Việt Nam.
Theo Market Analysis Report, thị trường toàn cầu về trí tuệ nhân tạo tạo sinh (generative AI) trong lĩnh vực sáng tạo nội dung được ước tính sẽ tăng từ 26,0 tỷ USD vào năm 2026 lên 80,1 tỷ USD vào năm 2030, với tốc độ tăng trưởng kép hàng năm (CAGR) là 32,5% từ năm 2025 đến năm 2030.
Tại Việt Nam, Cục An ninh mạng đã làm việc với các nền tảng xuyên biên giới và yêu cầu phải có giải pháp cụ thể đối với tình hình sử dụng AI. Đại diện Cục An ninh mạng cho biết, hiện các nền tảng đã xây dựng giải pháp xử lý các hành vi vi phạm liên quan đến AI. Đáng chú ý, Việt Nam là quốc gia đầu tiên mà các nền tảng xuyên biên giới áp dụng công nghệ AI để xử lý tin giả, tin sai sự thật, hình ảnh, video, clip liên quan đến AI.
Theo Đại tá Hà Văn Bắc, cần có quá trình để xác định hiệu quả, bởi AI phải có quá trình học, tiếp cận với công nghệ, giải pháp và tình hình thực tế.
Bên cạnh việc xử lý các nội dung do AI tạo ra, Cục An ninh mạng phối hợp với công an các địa phương xác minh những tài khoản, cá nhân quản trị và người có hành vi đăng tải nội dung có dấu hiệu vi phạm pháp luật. Với các trường hợp liên quan đến tài khoản hoặc cá nhân ở nước ngoài, cơ quan chức năng yêu cầu các nền tảng xuyên biên giới phối hợp chặn, gỡ nội dung.
Trước đó, cuối tháng 7/2026, Cục An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao đã triển khai Chiến dịch TinAI với thông điệp "Kiểm trước tin sau", nhằm nâng cao nhận thức về nguy cơ tin giả và nội dung sai lệch được tạo ra bằng trí tuệ nhân tạo.
Sự phát triển nhanh chóng của các công cụ tạo sinh đang khiến việc sản xuất hình ảnh, âm thanh và video trở nên dễ dàng hơn. Bên cạnh những ứng dụng tích cực, công nghệ này cũng đặt ra những yêu cầu mới đối với việc xác thực nguồn tin, nhận diện nội dung giả mạo và trách nhiệm của các nền tảng trong kiểm soát nội dung trên môi trường số.
Không chỉ Việt Nam, nhiều quốc gia lớn trên thế giới có nền tảng công nghệ phát triển cũng đang phải đối mặt với tin giả và nội dung giả mạo do AI tạo ra tràn lan trên mạng xã hội. Tại Mỹ, tình trạng lợi dụng AI để tạo nội dung giả mạo vẫn tiếp tục diễn biến phức tạp trong năm 2026. Ngày 20/7/2026, Trung tâm Khiếu nại Tội phạm Internet (IC3) thuộc Cục Điều tra Liên bang Mỹ (FBI) phát đi cảnh báo về một thủ đoạn lừa đảo mới, trong đó các đối tượng sử dụng video do AI tạo ra để giả mạo nhân viên, lãnh đạo FBI, quảng bá những website giả danh cổng tiếp nhận khiếu nại của cơ quan này.
Các video deepfake được đăng tải trên mạng xã hội nhằm tạo lòng tin, dụ người dùng cung cấp thông tin cá nhân và dữ liệu tài chính. FBI cho biết những nội dung giả mạo này có thể khiến nạn nhân tin rằng họ đang tương tác với cơ quan thực thi pháp luật.
Những vụ việc cho thấy, dù đã có các biện pháp pháp lý và cảnh báo từ cơ quan chức năng, AI vẫn tiếp tục bị lợi dụng để sản xuất nội dung giả mạo ngày càng tinh vi, phục vụ nhiều mục đích từ lừa đảo đến xâm phạm danh dự, quyền riêng tư của cá nhân.
Hay tại Trung Quốc, dù đã ban hành quy định yêu cầu nhận diện nội dung do AI tạo ra hoặc chỉnh sửa, nước này vẫn phải liên tục triển khai các chiến dịch chấn chỉnh. Tháng 9/2026, Cơ quan Quản lý Không gian mạng Trung Quốc (CAC) cho biết đã xóa hơn 5,61 triệu nội dung vi phạm, xử lý hơn 49.000 tài khoản và hơn 2.400 website, ứng dụng trong chiến dịch chấn chỉnh tình trạng lạm dụng AI. Các hành vi bị xử lý bao gồm sử dụng AI tạo và phát tán thông tin sai sự thật, giả mạo người khác và phát tán nội dung độc hại.
Trong khi đó, Nhật Bản cũng coi nguy cơ phát tán tin giả bằng AI là vấn đề liên quan đến an ninh thông tin và niềm tin xã hội. Nước này đã tăng cường cơ chế phối hợp giữa nhiều cơ quan, các bộ phụ trách truyền thông, ngoại giao, nhằm nâng cao năng lực thu thập, phân tích và ứng phó với hoạt động thao túng thông tin. Nhật Bản cũng cảnh báo sự phát triển của AI tạo sinh có thể làm gia tăng nguy cơ phát tán thông tin sai lệch, gây ảnh hưởng đến nhận thức của công chúng.
Tại Đức, tin giả do AI tạo ra cũng đang đặt ra bài toán khó cho cơ quan quản lý. Báo cáo công bố tháng 3/2026 của Văn phòng Đánh giá công nghệ thuộc Quốc hội Đức chỉ ra nước này chưa có quy định toàn diện, việc xử lý vẫn nội dung do AI tạo chủ yếu dựa vào các quy định dân sự và hình sự hiện hành, trong khi thực thi còn nhiều khó khăn. Chính phủ Đức cũng thừa nhận các chiến dịch thao túng thông tin sử dụng hình ảnh deepfake, nội dung giả mạo do AI tạo ra đã được triển khai nhằm gây chia rẽ và làm suy giảm niềm tin.
Những diễn biến trên cho thấy, kiểm soát tin giả do AI tạo ra không còn là vấn đề riêng của một quốc gia, mà đã trở thành thách thức chung trên toàn cầu. Ngay cả những nước có nền tảng công nghệ phát triển cũng phải liên tục hoàn thiện các biện pháp quản lý, tăng cường năng lực phát hiện và xử lý nội dung giả mạo.
Trong bối cảnh đó, việc Việt Nam thúc đẩy các nền tảng xuyên biên giới áp dụng công nghệ AI để xử lý tin giả là một bước đi đáng chú ý, đặc biệt khi nội dung vi phạm có thể được tạo ra và lan truyền với tốc độ rất nhanh trên môi trường số.
Sự phát triển nhanh chóng của các công cụ tạo sinh đang khiến việc sản xuất hình ảnh, âm thanh và video trở nên dễ dàng hơn. Bên cạnh những ứng dụng tích cực, công nghệ này cũng đặt ra những yêu cầu mới đối với việc xác thực nguồn tin, nhận diện nội dung giả mạo và trách nhiệm của các nền tảng trong kiểm soát nội dung trên môi trường số. Do đó, vấn đề hiện nay không chỉ là phát hiện một nội dung giả sau khi nó xuất hiện, mà còn là khả năng ngăn chặn kịp thời trước khi thông tin sai lệch lan rộng, gây ra những hệ lụy khó kiểm soát.
