Một công cụ AI được kỳ vọng giúp cảnh sát Mỹ giảm gánh nặng giấy tờ lại gây ra sự cố khó tin khi “biến” sĩ quan thành ếch trong báo cáo.
Sự việc xảy ra tại Sở cảnh sát Heber City, Utah, trong quá trình thử nghiệm phần mềm tự động viết báo cáo từ camera đeo thân.
AI đã vô tình trích lời thoại từ phim hoạt hình The Princess and the Frog do âm thanh bộ phim phát ra trong lúc ghi hình.
Phần mềm Draft One của Axon, sử dụng mô hình GPT của OpenAI, là công cụ tạo ra bản báo cáo sai lệch này.
Dù được quảng bá giúp tiết kiệm thời gian và tăng hiệu quả tuần tra, hệ thống AI vẫn tạo ra nhiều lỗi nghiêm trọng.
Các chuyên gia cảnh báo việc quá tin vào báo cáo do AI tạo sinh có thể dẫn đến sai sót pháp lý nguy hiểm.
Nhiều ý kiến lo ngại AI còn có nguy cơ củng cố thiên kiến và làm mờ trách nhiệm giải trình của cảnh sát.
Vụ “cảnh sát biến thành ếch” trở thành lời cảnh tỉnh rõ ràng về rủi ro khi giao các tài liệu quan trọng cho trí tuệ nhân tạo.
