[GALLERY] Sự thật rùng mình sau ảnh AI gây sốt 65.000 lượt tương tác

Tin giả do AI tạo ra đang bước sang một giai đoạn nguy hiểm hơn khi không còn chỉ phục vụ mục đích thao túng dư luận mà đã trở thành một mô hình kinh doanh toàn cầu, được vận hành theo dây chuyền nhằm tối đa hóa lợi nhuận từ cảm xúc và sự chú ý của người dùng trên mạng xã hội.

Cuộc điều tra của nhà báo Jonathan Lundberg thuộc tổ chức Källkritikbyrån bắt đầu từ một bức ảnh AI về một nữ y tá không hề tồn tại nhưng vẫn thu hút hơn 65.000 lượt tương tác trên Facebook tại Thụy Điển, sau đó lần theo dấu vết của hàng loạt fanpage đăng tải các câu chuyện cảm động được tạo bằng trí tuệ nhân tạo trước khi phát hiện một mạng lưới nội dung hoạt động xuyên biên giới với các dấu vết kỹ thuật dẫn về Việt Nam, trong đó có BeeUp, doanh nghiệp tự giới thiệu đang sở hữu khoảng 1.700 fanpage Facebook với tổng cộng khoảng 10 triệu người theo dõi.

Theo Jonathan Lundberg, điều khiến ông bất ngờ không phải việc dấu vết điều tra dẫn tới Việt Nam hay việc một bức ảnh AI có thể đánh lừa hàng chục nghìn người, mà chính là quy mô khổng lồ của cỗ máy sản xuất nội dung phía sau khi từ một fanpage ban đầu, cuộc điều tra đã mở rộng ra hàng chục fanpage hoạt động tại Thụy Điển và nhiều quốc gia châu Âu, cho thấy đây không còn là hiện tượng đơn lẻ mà là một hệ sinh thái được tổ chức bài bản.

Nhà báo Thụy Điển nhấn mạnh rằng nhận thức phổ biến lâu nay về tin giả gắn với các chiến dịch chính trị hoặc tuyên truyền đã không còn phản ánh đầy đủ thực tế, bởi động lực lớn nhất của nhiều mạng lưới hiện nay đơn giản là tiền, khi các nhân vật hư cấu như nữ y tá, lính cứu hỏa hay công nhân vệ sinh được tạo ra nhằm khơi gợi cảm xúc, kéo người dùng truy cập vào các website dày đặc quảng cáo để tạo doanh thu.

Trong mô hình này, cảm xúc được biến thành lượt thích, bình luận và chia sẻ, các tương tác tiếp tục chuyển hóa thành lưu lượng truy cập, còn lưu lượng truy cập lại được quy đổi thành tiền quảng cáo, hình thành một dây chuyền sản xuất nội dung hoàn chỉnh mà AI chỉ đóng vai trò là công cụ giúp tự động hóa, cắt giảm chi phí và tăng tốc độ tạo nội dung lên gấp nhiều lần so với trước đây.

Jonathan Lundberg cũng đặt ra một câu hỏi đáng chú ý khi cho rằng không chỉ những người tạo ra nội dung sai sự thật được hưởng lợi mà chính các nền tảng mạng xã hội cũng thu về doanh thu từ mỗi lượt xem, lượt tương tác và mỗi cú nhấp chuột của người dùng, khiến lợi ích kinh tế vô tình trở thành yếu tố duy trì vòng quay của hệ sinh thái tin giả.

Trong quá trình điều tra, nhóm của Lundberg cho rằng các fanpage và website liên quan vẫn tồn tại trong thời gian dài dù có dấu hiệu vi phạm chính sách của nền tảng, vì vậy ông đã nhiều lần đặt câu hỏi với Meta về lý do các nội dung này chưa bị xử lý, tuy nhiên phía công ty không đưa ra phản hồi, khiến nhiều nghi vấn về trách nhiệm của nền tảng trong việc kiểm soát nội dung tiếp tục được đặt ra.

Từ một bức ảnh AI tưởng như vô hại, cuộc điều tra đã mở ra bức tranh lớn hơn về cách tin giả đang được công nghiệp hóa trên phạm vi toàn cầu, đồng thời gióng lên hồi chuông cảnh báo rằng trong kỷ nguyên AI, thách thức không chỉ nằm ở việc nhận diện nội dung giả mạo mà còn ở việc xác định ai là những bên đang hưởng lợi lớn nhất từ hệ sinh thái kiếm tiền dựa trên sự lan truyền của thông tin sai lệch.

Mời quý độc giả xem thêm video: Cảnh báo lừa đảo chiếm tài khoản Zalo, Facebook bằng AI.