Trí tuệ nhân tạo (AI) đang tạo ra những thay đổi sâu rộng trong nhiều lĩnh vực từ giáo dục, y tế, tài chính đến truyền thông. Công nghệ này giúp tự động hóa quy trình, nâng cao hiệu quả xử lý dữ liệu và hỗ trợ con người trong nhiều công việc phức tạp. Tuy nhiên, bên cạnh những lợi ích to lớn, AI cũng đang bị các đối tượng xấu lợi dụng để thực hiện các hành vi lừa đảo ngày càng tinh vi trên không gian mạng.

AI bị biến thành công cụ lừa đảo, nạn nhân mất tiền vì tin vào “người quen” trên màn hình

Ảnh minh họa.

Mới đây, Công an tỉnh Cà Mau đã phát đi cảnh báo về tình trạng gia tăng các vụ việc sử dụng AI để tạo hình ảnh, video và giọng nói giả mạo nhằm lừa đảo chiếm đoạt tài sản. Theo cơ quan chức năng, các đối tượng đang tận dụng sự phát triển của công nghệ Deepfake để tạo ra những sản phẩm giả có độ chân thực rất cao, khiến nhiều người khó phân biệt thật giả.

Deepfake là công nghệ ứng dụng AI để tạo hoặc chỉnh sửa hình ảnh, video và âm thanh, cho phép tái tạo khuôn mặt, giọng nói của một người gần giống với thực tế. Ban đầu, công nghệ này chủ yếu được sử dụng cho mục đích giải trí như hoán đổi khuôn mặt trong video, lồng tiếng hoặc tạo các nội dung sáng tạo trên mạng xã hội. Tuy nhiên, khi khả năng xử lý ngày càng mạnh mẽ, Deepfake đã trở thành công cụ được tội phạm mạng khai thác để phục vụ các hành vi lừa đảo.​

Kịch bản phổ biến nhất hiện nay là giả mạo người thân, bạn bè, đồng nghiệp hoặc lãnh đạo cơ quan để yêu cầu chuyển tiền khẩn cấp. Sau khi thu thập hình ảnh, video và giọng nói của nạn nhân từ mạng xã hội hoặc các nguồn dữ liệu bị rò rỉ, đối tượng sử dụng AI để tạo ra các cuộc gọi video giả mạo hoặc tin nhắn thoại giống thật đến mức khó nhận biết.

Theo cảnh báo của Công an tỉnh Cà Mau, nhiều trường hợp người dân đã nhận được cuộc gọi từ những người có hình ảnh và giọng nói giống hệt người thân trong gia đình. Trong các cuộc gọi này, đối tượng thường viện dẫn những tình huống khẩn cấp như tai nạn giao thông, cần đóng viện phí, gặp sự cố trong công việc hoặc cần chuyển tiền gấp để giải quyết một vấn đề quan trọng. Do tin tưởng người gọi là người quen thật, nhiều nạn nhân đã nhanh chóng chuyển tiền mà không kiểm chứng thông tin.

Thực tế thời gian qua đã ghi nhận không ít vụ việc gây thiệt hại lớn. Anh N.V.T., ngụ tại Hà Nội, cho biết đã bị lừa mất hơn 120 triệu đồng sau khi nhận được cuộc gọi video từ một người có khuôn mặt và giọng nói giống hệt người bạn đang làm việc ở nước ngoài. Trong cuộc gọi, đối tượng liên tục nói tín hiệu mạng yếu và đề nghị anh hỗ trợ chuyển tiền gấp để giải quyết một công việc khẩn cấp. Do hình ảnh và giọng nói quá giống người quen nên anh T. không nghi ngờ, nhanh chóng chuyển tiền theo số tài khoản được cung cấp. Chỉ ít giờ sau khi liên lạc lại với bạn mình qua điện thoại, anh mới phát hiện bản thân đã trở thành nạn nhân của một vụ lừa đảo sử dụng công nghệ Deepfake.

Không chỉ dừng lại ở việc giả danh người quen để vay tiền, các đối tượng còn sử dụng AI để mạo danh cán bộ công an, viện kiểm sát, tòa án hoặc nhân viên ngân hàng. Chúng tạo ra các video hoặc cuộc gọi có hình ảnh cán bộ mặc sắc phục nhằm tăng tính thuyết phục, sau đó yêu cầu nạn nhân cung cấp thông tin cá nhân, mã OTP hoặc chuyển tiền vào tài khoản được chỉ định để “phục vụ điều tra”.

Theo Công an tỉnh Cà Mau, AI còn bị lợi dụng để phát tán thông tin sai sự thật, bôi nhọ danh dự cá nhân, tạo lập tài khoản giả, phát tán mã độc và hỗ trợ các đường dây lừa đảo trực tuyến hoạt động với quy mô lớn hơn trước. Điều này khiến môi trường mạng ngày càng tiềm ẩn nhiều rủi ro đối với người dùng.

Đáng lo ngại, nhiều chuyên gia nhận định chi phí để tạo ra các nội dung Deepfake hiện nay đã giảm mạnh so với vài năm trước. Chỉ với một lượng nhỏ hình ảnh hoặc vài đoạn ghi âm ngắn, các công cụ AI hiện đại đã có thể tạo ra video giả mạo có độ chân thực cao. Điều này khiến nguy cơ bất kỳ ai cũng có thể trở thành mục tiêu của các chiến dịch lừa đảo Deepfake trong tương lai.

Cơ quan công an và chuyên gia chỉ ra dấu hiệu nhận biết, cách phòng tránh

Trước sự gia tăng của các vụ lừa đảo sử dụng AI, Công an tỉnh Cà Mau khuyến cáo người dân cần nâng cao nhận thức và kỹ năng số khi tham gia môi trường trực tuyến. Cơ quan chức năng nhấn mạnh rằng người dùng không nên vội vàng tin tưởng các cuộc gọi, tin nhắn hoặc video xuất hiện trên mạng xã hội chỉ vì người trong hình có gương mặt và giọng nói quen thuộc.

Theo cơ quan công an, một trong những đặc điểm thường gặp của các video Deepfake là chất lượng hình ảnh không ổn định, khuôn mặt ít biểu cảm, chuyển động thiếu tự nhiên hoặc âm thanh không đồng bộ với khẩu hình. Các đối tượng thường cố tình tạo ra bối cảnh tín hiệu yếu, hình ảnh nhòe hoặc âm thanh nhiễu để che giấu những sai sót kỹ thuật của công nghệ giả mạo.

Liên quan đến vấn đề này, chuyên gia bảo mật Vũ Ngọc Sơn, Giám đốc Kỹ thuật Công ty NCS, cho biết Deepfake ban đầu được phát triển phục vụ mục đích giải trí như hoán đổi khuôn mặt và giọng nói trong các video. Tuy nhiên, thời gian gần đây, các đối tượng lừa đảo đã lợi dụng công nghệ này để tạo ra những clip giả mạo người thân, đồng nghiệp hoặc lãnh đạo nhằm dẫn dụ nạn nhân chuyển tiền.

Theo phân tích của ông Sơn, các video Deepfake hiện nay dù rất giống thật nhưng vẫn tồn tại những dấu hiệu nhất định. Phần lớn các clip có thời lượng ngắn, dung lượng nhỏ, chất lượng âm thanh và hình ảnh chưa thực sự hoàn hảo. Người dùng cần đặc biệt cảnh giác với những cuộc gọi video có hình ảnh mờ, khuôn mặt ít cử động, giọng nói đơn điệu hoặc các đoạn hội thoại diễn ra quá ngắn.

Trong khi đó, ông Ngô Minh Hiếu (Hiếu PC), Nhà sáng lập Dự án Chống lừa đảo, nhận định các cuộc gọi Deepfake thường có nhiều biểu hiện bất thường như hướng đầu và cơ thể không đồng nhất, ánh sáng thiếu tự nhiên, màu da bất thường hoặc xuất hiện nhiều tiếng ồn. Theo ông Hiếu, khi nhận được yêu cầu vay tiền hoặc chuyển tiền từ người quen thông qua mạng xã hội, người dùng cần chủ động xác minh bằng cách gọi điện trực tiếp hoặc thực hiện cuộc gọi video kéo dài đủ lâu để kiểm tra tính xác thực.

Chuyên gia này cho rằng một phương pháp hiệu quả là đặt ra những câu hỏi riêng tư chỉ hai bên mới biết. Đây là yếu tố mà các hệ thống Deepfake hiện nay rất khó mô phỏng chính xác trong thời gian thực.

Bên cạnh đó, các chuyên gia bảo mật cũng khuyến cáo người dùng nên hạn chế đăng tải công khai quá nhiều hình ảnh, video và bản ghi âm cá nhân lên mạng xã hội. Đây chính là nguồn dữ liệu đầu vào quan trọng giúp các đối tượng xây dựng mô hình Deepfake phục vụ mục đích lừa đảo.

Người dân cũng cần kích hoạt các lớp bảo mật cho tài khoản mạng xã hội, email và tài khoản ngân hàng; sử dụng mật khẩu mạnh; thường xuyên cập nhật phần mềm bảo mật và tuyệt đối không cung cấp mã OTP cho bất kỳ ai dưới bất kỳ hình thức nào.

Công an tỉnh Cà Mau nhấn mạnh rằng AI là xu thế tất yếu của thời đại chuyển đổi số và mang lại rất nhiều lợi ích cho xã hội. Tuy nhiên, công nghệ chỉ phát huy giá trị tích cực khi được sử dụng đúng mục đích và có trách nhiệm. Trong bối cảnh các hình thức lừa đảo sử dụng Deepfake ngày càng tinh vi, mỗi người dùng cần trang bị kiến thức nhận diện rủi ro, duy trì thói quen kiểm chứng thông tin trước khi giao dịch và luôn đặt sự cảnh giác lên hàng đầu.

Các chuyên gia nhận định rằng cuộc đua giữa công nghệ phòng chống gian lận và các thủ đoạn lừa đảo bằng AI sẽ còn tiếp tục trong thời gian tới. Khi Deepfake ngày càng khó nhận biết bằng mắt thường, yếu tố quan trọng nhất để bảo vệ tài sản vẫn là sự tỉnh táo của người dùng. Chỉ một cuộc gọi xác minh hoặc vài phút kiểm tra thông tin cũng có thể giúp tránh được những khoản thiệt hại lên tới hàng chục, thậm chí hàng trăm triệu đồng.

​