Video có những nội dung rất hữu ích, nhưng vì YouTube cũng đồng thời là một "kho chứa video" của cả thế giới nên lẫn vào đó là những nội dung độc hại. Quan trọng hơn, chúng không được YouTube giám sát, quản trị đủ tốt nên hàng ngày rất nhiều người vẫn đang phải xem những đoạn video độc hại này, đặc biệt là trẻ em. Thường thì chúng ta không tìm tới những video dạng này làm gì, nhưng YouTube có tính năng "recommendation" để gợi ý cho bạn xem, đó mới là cái nguy hiểm.
Tính năng gợi ý này chính là danh sách "Up next" mà bạn thấy ở bên phải màn hình khi xem bằng máy tính, và nếu bạn bật chế độ autoplay thì các video này sẽ tự động phát luôn mà không cần bạn can thiệp.
Theo Guillaume Chaslot, người từng làm ở Google trong bộ phận phát triển thuật toán gợi ý của YouTube, đồng thời là nhà sáng lập dự án AlgoTransparency mang tới sự minh bạch cho các nền tảng online, "những video này là cái bạn nên cẩn trọng". Anh nói rằng động lực phía sau bộ máy gợi ý này có một lỗ hổng nghiêm trọng, bởi nó không dựa trên cái mà bạn muốn.
Khu vực gợi ý của YouTube
Tính năng gợi ý được làm ra để bạn tốn thời gian
Tính năng gợi ý này chính là danh sách "Up next" mà bạn thấy ở bên phải màn hình khi xem bằng máy tính, và nếu bạn bật chế độ autoplay thì các video này sẽ tự động phát luôn mà không cần bạn can thiệp.
Theo Guillaume Chaslot, người từng làm ở Google trong bộ phận phát triển thuật toán gợi ý của YouTube, đồng thời là nhà sáng lập dự án AlgoTransparency mang tới sự minh bạch cho các nền tảng online, "những video này là cái bạn nên cẩn trọng". Anh nói rằng động lực phía sau bộ máy gợi ý này có một lỗ hổng nghiêm trọng, bởi nó không dựa trên cái mà bạn muốn.
Khu vực gợi ý của YouTube
"Nếu AI của YouTube được tinh chỉnh đủ tốt thì nó sẽ giúp bạn xem được những gì bạn thích, điều này thật tuyệt vời. Nhưng vấn đề là con AI đó không được xây dựng để cho bạn xem cái bạn muốn, nó được làm ra để bạn nghiện YouTube. Hệ thống gợi ý này được tạo nên để bạn tiêu tốn thời gian của mình (cho YouTube)".
Chaslot giải thích thêm rằng chỉ số dùng để đo xem thuật toán gợi ý có "tốt" hay không đó là thời gian xem. Đây sẽ là thứ quan trọng với một công ty bán quản cáo, nhưng không thật sự phản ánh sở thích của người dùng, và nó có nhiều tác dụng phụ.
Những nội dung tương tác nhiều sẽ được gợi ý, điều này không tốt
Trong một bài nói của mình, Chaslot nói rằng những nội dung gây tranh luận, ví dụ như các thuyết âm mưu, tin vịt, video về trái đất phẳng... Nội dung càng nằm ở lằn ranh của chính sách nội dung thì càng dễ làm người ta trao đổi, cãi nhau. Trong thuật toán gợi ý của YouTube, lượng tương tác này là một trong các yếu tố được đưa vào tính toán để quyết định xem người dùng có nên được xem hay không.
Cấu trúc này ổn với những video tốt, chẳng hạn như video về ai đó stream game, video con mèo, video Tinh tế trên tay sản phẩm... Nhưng YouTube không chỉ có những nội dung này, nó đang dần trở thành một nơi tiêu thụ nội dung của thế giới, Chaslot lo ngại rằng bộ máy gợi ý sẽ đẩy người dùng đến giới hạn cuối cùng, và bạn sẽ phải xem nội dung xấu dù bạn có muốn hay không, chỉ vì lý do đơn giản: YouTube muốn bạn xem video càng lâu càng tốt.
Google tất nhiên không đồng tình với Chaslot, nhưng chúng ta sẽ nói về vụ này sau.
Mark Zuckerberg hồi năm ngoái thừa nhận rằng những nội dung gây tranh cãi thì thường được người ta tương tác nhiều hơn, Google thì không trả lời về vấn đề này nhưng chỉ nói rằng nội dung chất lượng thì người ta tương tác nhiều hơn. Theo kinh nghiệm cá nhân Chaslot thì đây là vấn đề mà trong nội bộ các hãng công nghệ còn chưa thống nhất. Thực tế thì những nội dung dạng này, ví dụ như Android vs iPhone, Mac vs Windows... quả thật được tương tác nhiều hơn, còn nội dung tốt hay không là chuyện khác hoàn toàn.
Ở YouTube thì các nội dung gây tranh cãi còn đi xa hơn thế, chúng vừa đủ nhạy cảm để mỗi người nói ra cảm xúc của riêng mình, nhưng vẫn không vi phạm nội quy của YouTube nên không bị xóa. Và những người làm video dạng này sẽ có thêm tiền từ YouTube, YouTube thì có thêm tiền từ các đơn vị quảng cáo.
Quảng cáo
Khi mà gợi ý đi sai đường
Theo Chaslot, điểm đáng quan tâm đó là chỉ số dùng để đánh giá hiệu quả gợi ý đã sai ngay từ đầu, ví dụ như thời gian xem đâu có nghĩa là nội dung sẽ chất lượng. Điều này gây ảnh hưởng xấu tới cộng đồng, và anh đã tạo ra công cụ AlgoTransparency sau khi nghỉ việc tại Google.
Công cụ này sẽ quét YouTube mỗi ngày để xem những video nào được gợi ý. Đa số các video top được đưa ra là nội dung tốt, đến từ các kênh nổi tiếng, nhưng thỉnh thoảng cũng có những nội dung xấu nhảy ra. Chẳng hạn như khi có báo cáo điều tra về việc liệu tổng thống Trump và Nga có liên kết với nhau trong cuộc bầu cử năm 2016 hay không, Chaslot nhận thấy YouTube gợi ý trên đa số các kênh về một video từ RT - cơ quan truyền thông của nhà nước Nga.
Nếu Chaslot nói đúng, thuật toán của YouTube đang giúp cho nhiều người xem hơn về một video nói về việc điều tra mối quan hệ giữa Trump - Nga được sản xuất bởi... Nga. Video này đứng về phía điện Kremlin và nói rằng các cơ quan truyền thông đặt ra quá nhiều thuyết âm mưu. Điều quan trọng là không ai hiểu vì sao điều này lại xảy ra.
Về phía Google, hãng hoàn toàn bác bỏ cách thức tìm hiểu của AlgoTransparency và nói rằng nó không phản ánh cách mà hệ thống gợi ý của họ vận hành. Nó chạy dựa trên khảo sát, số like, dislike, lượng share... Google nói:
Chúng tôi không thể tái tạo lại kết quả mà AlgoTransparency đưa ra. Chúng tôi thiết kế hệ thống của mình để đảm bảo rằng nội dung từ các nguồn chính thống được đưa lên trước trong lúc bạn tìm kiếm hay trong lúc gợi ý video kế tiếp. Điều này áp dụng cả khi người dùng xem các nội dung về tin tức trên YouTube.
Quảng cáo
Chaslot nói rằng nếu có sự bất thường trong kết quả của anh thì Google hãy chỉ ra nó và Google hãy đơn giản là chia sẻ xem những video nào được đề xuất cho mọi người. Nhưng Google chưa nói gì thêm về vấn đề này, có lẽ hãng lo ngại các yếu tố của thuật toán sẽ bị đoán ra và lạm dụng. Chaslot kể chính Google đã từng nói về việc loại bỏ tính "thành kiến" của thuật toán, Google khi đó lấy ví dụ về một video mà AlgoTransparency đã từng ghi nhận trước đó.
Bạn có thể làm gì?
Nếu cảm thấy khó chịu vì tính năng gợi ý này, bạn có thể dùng một extension trên Chrome tên là Nudge, nó sẽ loại bỏ các tính năng gây nghiện trên News Feed Facebook hay hệ thống đề xuất của YouTube. "Tôi vẫn click vào những thứ ngu ngốc khi tôi thấy chúng, vậy nên chắc ăn nhất là xóa nó đi".
Tất cả những thứ này cũng chỉ giải quyết được triệu chứng chứ không trị tận gốc. Chaslot tin rằng Google cần một giải pháp trong dài hạn, và Google phải minh bạch về thuật toán cũng như đưa cho người dùng quyền tự quyết định. "Trong dài hạn, chúng ta cần phải điều khiển được con AI, thay vì để AI điều khiển người dùng".
Nguồn: The Next Web