Những video có hình ảnh trẻ em nghèo khó, bật khóc trước camera để cầu xin người xem mua hàng đang lan rộng trên các nền tảng video ngắn tại Trung Quốc. Đằng sau những nhân vật được gọi là "Xiaohai" này không phải những đứa trẻ cần giúp đỡ, mà là nội dung do AI tạo ra nhằm khai thác lòng trắc ẩn của người xem và thúc đẩy hoạt động bán hàng trực tuyến. Theo SCMP, trào lưu đã thu hút hơn 600 triệu lượt xem, gây bức xúc vì biến cảm xúc thương cảm thành công cụ kiếm tiền.
Các nhân vật Xiaohai thường được xây dựng với hình ảnh thiếu niên mặc đồng phục học sinh hoặc áo sơ mi trắng, kể về hoàn cảnh gia đình khó khăn. Trong một video, cậu bé cầm chiếc bánh bao và than thở vì không có tiền ăn trưa cùng bạn bè. Ở nội dung khác, nhân vật bị dựng cảnh bắt nạt dưới trời mưa do chưa đóng học phí, sau đó kêu gọi người xem mua ngũ cốc yến mạch để giúp đạt doanh số. Những video tương tự còn quảng cáo thực phẩm chức năng, dầu ăn và đồ gia dụng, lấy lý do cần tiền phụ giúp người cha đơn thân. Một số sản phẩm bị phản ánh có giá cao hơn đáng kể so với nơi bán khác. Chẳng hạn, chai dầu ăn được chào bán 99 nhân dân tệ, trong khi giá ở nơi khác chỉ khoảng 60 nhân dân tệ.
Đáng chú ý, mô hình này mang lại khoản thu đáng kể cho những người đứng sau. Với mức hoa hồng bán hàng có thể lên tới 55%, người sáng tạo nội dung được cho là có thể kiếm 2.000-3.000 nhân dân tệ mỗi ngày, tương đương khoảng 7,8-11,6 triệu đồng. Theo nguồn tin trong ngành chia sẻ với The Beijing News, họ thậm chí có thể sử dụng các câu lệnh AI có sẵn trên mạng để sản xuất video mà không cần quy trình sáng tạo phức tạp. Trong khi đó, nhóm người theo dõi chủ yếu là người trung niên và cao tuổi, thường để lại những bình luận thể hiện tình cảm như đang trò chuyện với con cháu trong gia đình.
Mức độ ảnh hưởng của nội dung giả mạo còn thể hiện qua một trường hợp xảy ra tại Tân Cương hồi tháng 5. Cảnh sát ở Urumqi phát hiện một cụ bà 79 tuổi, không biết chữ, đi tàu một mình để đến tỉnh Sơn Tây gặp nhân vật Xiaohai sau khi được mời đến ăn nấm và ngắm hoa trong buổi phát trực tiếp. Lực lượng chức năng phải liên hệ gia đình và giải thích rằng cậu bé chỉ là sản phẩm giả mạo. Các chuyên gia pháp lý cũng cảnh báo việc cố tình dựng chuyện sai sự thật để thúc đẩy doanh số thương mại điện tử có thể cấu thành hành vi lừa đảo. Tuy nhiên, tổng thiệt hại tài chính từ trào lưu này chưa được công bố.
Theo giáo sư Ma Liang thuộc Đại học Bắc Kinh, hiện tượng trên còn phản ánh vấn đề cô đơn ở người cao tuổi. Một bộ phận người dùng tìm đến tương tác và mua sắm trực tuyến để bù đắp khoảng trống tình cảm trong đời sống thực. Trước phản ứng tiêu cực, nhiều video Xiaohai tại Trung Quốc đã bị gỡ bỏ. Một số cư dân mạng còn tạo video chế giễu bằng AI, mô tả các nhân vật trong trang phục tù nhân hoặc khoe khoang về việc lợi dụng người xem, nhằm cảnh báo cộng đồng. Dù vậy, câu chuyện cho thấy việc nhận diện nội dung AI không chỉ là vấn đề công nghệ, mà còn đòi hỏi người dùng tỉnh táo trước những lời kêu gọi cảm xúc và lời mời mua hàng trên mạng.
