[GALLERY] “Rác AI” bùng nổ trên mạng khiến trẻ em đối mặt nguy cơ mới

Nội dung AI giá rẻ đang trở thành “cơn ác mộng” mới trên Internet khi hàng loạt video ngắn được sản xuất tự động bằng trí tuệ nhân tạo liên tục tràn ngập Facebook, YouTube và nhiều nền tảng số, khiến trẻ em ngày càng khó rời mắt khỏi màn hình.

Các chuyên gia quốc tế gọi hiện tượng này là “AI slop” hay “rác AI”, dùng để chỉ những video được tạo hàng loạt bằng công cụ AI với chi phí cực thấp, tập trung tối đa vào việc giữ chân người xem thay vì mang lại giá trị giáo dục hay nội dung chất lượng.

Điều đáng lo ngại là thuật toán của các nền tảng hiện nay lại ưu tiên phân phối mạnh những nội dung có khả năng gây nghiện cao như video màu sắc dày đặc, nhịp dựng nhanh và âm thanh kích thích liên tục, khiến trẻ nhỏ rất dễ bị cuốn vào vòng lặp xem vô tận.

Theo nhiều tổ chức bảo vệ trẻ em, các kênh AI nhắm tới đối tượng thiếu nhi hiện có thể tạo ra doanh thu hàng triệu USD mỗi năm nhờ lượng xem khổng lồ, cho thấy “rác AI” đã trở thành một mô hình kinh doanh thực sự trên môi trường mạng.

Một số nghiên cứu quốc tế cho thấy khoảng 40% video được đề xuất cho trẻ sau khi xem các chương trình thiếu nhi nổi tiếng có yếu tố AI, trong khi nhiều kênh hoàn toàn do AI tạo ra đã thu về hàng chục tỷ lượt xem chỉ trong thời gian ngắn.

Các chuyên gia cảnh báo vấn đề không chỉ nằm ở số lượng video mà còn ở chất lượng nội dung, bởi phần lớn video dành cho trẻ trên nền tảng mở hiện không mang nhiều giá trị giáo dục, thậm chí có thể chứa yếu tố bạo lực nhẹ, thao túng tâm lý hoặc nội dung gây lệch nhận thức.

Trong bối cảnh AI giúp việc tạo video giả, hình ảnh giả và nội dung kích thích trở nên dễ dàng hơn, nhiều tổ chức đã yêu cầu các nền tảng như YouTube và Google phải gắn nhãn nội dung AI rõ ràng, hạn chế đề xuất video AI cho trẻ em và bổ sung thêm công cụ kiểm soát dành cho phụ huynh.

Giới chuyên gia cho rằng “dọn rác AI” không chỉ đơn thuần là xóa vài video phản cảm mà còn là cuộc chiến nhằm thay đổi cách thuật toán vận hành, tăng trách nhiệm của các nền tảng số và bảo vệ trẻ em trước một môi trường Internet ngày càng bị nội dung AI giá rẻ chi phối.

Mời quý độc giả xem thêm video: 'Sứa ma' nước ngọt: Ngủ quên dưới đáy hồ, thức dậy là kỳ quan hiếm gặp