YouTube Kids được tách ra từ YouTube với các nội dung định hướng đến trẻ em, an toàn hơn. Thế nhưng thật sự quá sốc khi những kẻ bệnh hoạn vẫn có thể qua mặt cơ chế kiểm duyệt nội dung của YouTube để đăng tải những thứ như "video hướng dẫn tự tự"?!
Free Hess - một bà mẹ bỉm sữa và cũng là một bác sĩ nhi khoa nói với The Mercury News rằng: "Tôi đã rất sốc" khi mà cô mở một video về trò chơi điện tử tưởng chừng như vô hại trên YouTube Kids nhưng chỉ vài phút sau, một gã xuất hiện và bắt đầu hướng dẫn cách tự tử.
Nguy hiểm hơn, cảnh hướng dẫn tự tử này đã được ghép vào nhiều video khác, chủ yếu là video chơi game Splatoon của Nintendo được đăng trên YouTube và YouTube Kids. Cô Hess sau đó đã đăng một bài blog về tình trạng thay đổi nội dung video theo hướng tiêu cực này và kêu gọi gắn cờ. Vụ việc cũng gây nên làn sóng giận dữ của các phụ huynh cũng như các chuyên gia sức khoẻ trẻ em bởi họ cho rằng những hình ảnh bạo lực có thể làm tổn thương trẻ.
Free Hess - một bà mẹ bỉm sữa và cũng là một bác sĩ nhi khoa nói với The Mercury News rằng: "Tôi đã rất sốc" khi mà cô mở một video về trò chơi điện tử tưởng chừng như vô hại trên YouTube Kids nhưng chỉ vài phút sau, một gã xuất hiện và bắt đầu hướng dẫn cách tự tử.
Nguy hiểm hơn, cảnh hướng dẫn tự tử này đã được ghép vào nhiều video khác, chủ yếu là video chơi game Splatoon của Nintendo được đăng trên YouTube và YouTube Kids. Cô Hess sau đó đã đăng một bài blog về tình trạng thay đổi nội dung video theo hướng tiêu cực này và kêu gọi gắn cờ. Vụ việc cũng gây nên làn sóng giận dữ của các phụ huynh cũng như các chuyên gia sức khoẻ trẻ em bởi họ cho rằng những hình ảnh bạo lực có thể làm tổn thương trẻ.
Trong một video YouTube về game Splatoon khác, một người đàn ông xuất hiện với bộ dạng như đang cầm một con dao kề vào cổ tay sau đó nói: "Sideways for attention. Longways for results" (hình trên). (Tìm hiểu trên Google thì dường như đây là một câu gắn liền với hình ảnh cứa dao vào cổ tay khi tự tử).
Hess nói: "Tôi nghĩ những hình ảnh này cực kỳ nguy hiểm đối với trẻ con. Những đứa trẻ của chúng ta đang đứng trước cả một thế giới mới với mạng xã hội và Internet. Chúng đang dần thay đổi cách trẻ lớn lên và thay đổi cách chúng phát triển. Vì vậy tôi nghĩ những video như vậy khiến trẻ đối mặt với nhiều hiểm hoạ."
Andrea Faville - đại diện truyền thông của YouTube cho biết công ty đang làm việc tích cực nhằm đảm bảo mạng xã hội chia sẻ video này "sẽ không được dùng để khuyến khích các hành vi nguy hiểm và chúng tôi đã có những chính sắc nghiêm ngặt nhằm ngăn chặn những video kích động tự làm tổn thương bản thân."Cũng theo Faville: "Chúng tôi dựa trên việc gắn cờ của người dùng cũng như công nghệ nhận dạng thông minh để cảnh báo dạng nội dung này đến với đội ngũ đánh giá viên. Mỗi quý chúng tôi gỡ bỏ hàng triệu video và các kênh vi phạm chính sác của YouTube, phần lớn video không lành mạnh đã được gỡ trước khi được người dùng mở xem. Hệ thống nhận dạng liên tục được cải tiến để có thể gỡ bỏ nội dung vi phạm nhanh hơn …"
Cải tiến nhưng vẫn bỏ sót, những kẻ phát tán nội dung xấu vẫn có cách để lách luật. YouTube từ lâu đã phải rất chật vật để giữ cho nền tảng "sạch" trước những nội dung không lành mạnh chẳng hạn như loại bỏ các video đả kích cá nhân, bạo lực, cấm các trò đùa nguy hiểm, lạm dụng tình dục trẻ em. Hồi tháng trước, YouTube đã xây dựng lại thuật toán đề xuất video để đối mặt với vấn nạn tin giả (fake news), ở đây là các video nói về thuyết âm mưu và các thông tin sai lệch không có thật. Dù vậy, những video này vẫn nhởn nhơ trên YouTube.
Trên trang blog PediMom, Hess đã mô tả về các video đáng sợ này để cảnh báo các phụ huynh cũng như kêu gọi gắn cờ và có vẻ như hành động này đã có tác dụng bởi ngay sau đó, một video có nội dung tương tự được Hess phát hiện trên YouTube đã bị gỡ bỏ và một phiên bản khác của video đó đăng tải ngày 12 tháng 2 với hơn 1000 lượt xem cũng đã bị gỡ.Theo Hess, không chỉ những video về trò Splatoon bị biến tướng trở thành công cụ để truyền đạt những nội dung nguy hiểm trên mạng xã hội, cụ thể là YouTube Kids. Video về trò chơi Minecraft nổi tiếng biến tướng thành kích động xả súng tại trường học, một số video dùng hình ảnh hoạt hình để định hướng về hành vi buôn người, có cả video quay lại toàn cảnh một đứa trẻ tự tử bằng cách tự đâm dao vào mình hay thậm chí là tự treo cổ.
Nadine Kaslow - cực chủ tịch Hiệp hội tâm lý học Hoa Kỳ nói với tờ The Washington Post rằng đây là một vấn nạn bởi những nội dung như vậy đang tấn công vào trẻ em, khuyến khích trẻ tự hại mình. Kaslow cho biết một số trẻ có thể sẽ bỏ qua những nội dung như vậy nhưng số khác dễ tổn thương hơn có thể gặp ác mộng khi ngủ, ám ảnh về những gì chúng thấy hay những người gần gũi đã từng tự tử và sau cùng có thể dẫn đến hành vi tự làm tổn thương mình. Chúng quá nhỏ để có thể hiểu về hậu quả.
Theo Kaslow thì phụ huynh cần phải giám sát trẻ khi cho chúng online và những công ty công nghệ phải đảm bảo rằng những nội dung không lành mạnh phải được gỡ bỏ. Tuy vậy, cô cho rằng vẫn chưa đủ: "Tôi không nghĩ rằng bạn có thể gỡ các nội dung này xuống. Bởi lẽ khi trẻ đã từng xem thì chúng đã bị ảnh hưởng rồi." Cô cho rằng phụ huynh phải trò chuyện với trẻ về những video mà chúng xem và bản thân YouTube Kids cũng phải tham gia giải thích cho trẻ video đó là gì, tại sao trẻ em không được làm tổn thương bản thân.
Khảo sát từ Trung tâm kiểm soát và phòng ngừa dịch bệnh (CDC) Hoa Kỳ thì các yếu tố nguy cơ liên quan đến hành vi tự tử bao gồm rối loạn tâm thần như trầm cảm lâm sàng, cố ý tự tử trước đó nhưng bất thành, những rào cản tiếp cận điều trị sức khoẻ tâm thần, các bệnh về thể chất và cảm giác tuyệt vọng hoặc cô lập.
Quảng cáo
Theo: Mercury News