Theo nhóm giám sát phi lợi nhuận "Dự án Minh bạch Công nghệ" (TTP), thuật toán đề xuất của YouTube đang “gợi ý cho các trẻ quan tâm đến trò chơi điện tử các cảnh xả súng ở trường học, hướng dẫn cách sử dụng và sửa đổi vũ khí” cũng như các nội dung tập trung vào súng khác.
Các nhà nghiên cứu đã thiết lập bốn tài khoản YouTube mới, đóng giả là hai cậu bé 9 tuổi và hai cậu bé 14 tuổi. Tất cả tài khoản đã xem danh sách phát nội dung về các trò chơi điện tử phổ biến như Roblox, Lego Star Wars, Halo và Grand Theft Auto. Sau đó, các nhà nghiên cứu đã theo dõi các đề xuất của tài khoản trong khoảng thời gian 30 ngày, thử nghiệm này diễn ra vào tháng 11 năm ngoái.
“Nghiên cứu cho thấy, YouTube đã gợi ý nội dung về các vụ xả súng và vũ khí tới tất cả tài khoản của game thủ. Nhưng những người dùng đã nhấp vào các video do YouTube đề xuất sẽ thấy gợi ý với số lượng lớn hơn nhiều.
Những video này bao gồm những cảnh mô tả vụ xả súng ở trường học và các sự kiện xả súng hàng loạt khác. Nó còn trình diễn đồ họa về mức độ sát thương mà súng có thể gây ra cho cơ thể con người và hướng dẫn cách biến một khẩu súng ngắn thành vũ khí hoàn toàn tự động" - đại diện tổ chức TTP cho biết.
Như báo cáo của TTP, một số video được đề xuất dường như vi phạm chính sách của YouTube. Các đề xuất này bao gồm các video quay cảnh một cô gái trẻ bắn súng và hướng dẫn biến súng ngắn thành vũ khí “hoàn toàn tự động” và các sửa đổi khác. Một số video này thậm chí còn được bật kiếm tiền bằng quảng cáo.
Trong một tuyên bố, người phát ngôn của YouTube đã chỉ ra ứng dụng YouTube Kids và các công cụ giám sát trong ứng dụng của ứng dụng này “tạo ra trải nghiệm an toàn hơn cho thanh thiếu niên và thanh thiếu niên” trên nền tảng của họ.
Người phát ngôn cho hay: “Chúng tôi hoan nghênh nghiên cứu về các đề xuất của chúng tôi. Và chúng tôi đang khám phá thêm nhiều cách để thu hút các nhà nghiên cứu hàn lâm nghiên cứu hệ thống của chúng tôi. Nhưng khi xem xét phương pháp của báo cáo này, thật khó để chúng tôi đưa ra kết luận chắc chắn.
Ví dụ: nghiên cứu không cung cấp ngữ cảnh về số lượng video tổng thể được đề xuất cho tài khoản thử nghiệm và cũng không cung cấp thông tin chi tiết về cách thiết lập tài khoản thử nghiệm, bao gồm cả việc liệu các công cụ Trải nghiệm được giám sát của YouTube có được áp dụng hay không”.
Từ báo cáo của TTP, đây không phải là lần đầu tiên các nhà nghiên cứu đặt câu hỏi về thuật toán đề xuất của YouTube. Công ty cũng đã dành nhiều năm làm việc để giảm cái gọi là "nội dung biên giới”, gồm những video không vi phạm hoàn toàn các quy tắc nhưng có thể không phù hợp để phân phối đại chúng, xuất hiện trong các đề xuất.
Năm ngoái, Google cho hay, họ đang xem xét việc vô hiệu hóa hoàn toàn việc chia sẻ trên một số nội dung như vậy.
