Tham dự Tech Lounge

Tham dự Tech Lounge


Cựu nhân viên YouTube: Hệ thống đề xuất video của YouTube độc hại

Duy Luân
14/6/2019 16:9Phản hồi: 81
Cựu nhân viên YouTube: Hệ thống đề xuất video của YouTube độc hại
Video có những nội dung rất hữu ích, nhưng vì YouTube cũng đồng thời là một "kho chứa video" của cả thế giới nên lẫn vào đó là những nội dung độc hại. Quan trọng hơn, chúng không được YouTube giám sát, quản trị đủ tốt nên hàng ngày rất nhiều người vẫn đang phải xem những đoạn video độc hại này, đặc biệt là trẻ em. Thường thì chúng ta không tìm tới những video dạng này làm gì, nhưng YouTube có tính năng "recommendation" để gợi ý cho bạn xem, đó mới là cái nguy hiểm.

Tính năng gợi ý được làm ra để bạn tốn thời gian


Tính năng gợi ý này chính là danh sách "Up next" mà bạn thấy ở bên phải màn hình khi xem bằng máy tính, và nếu bạn bật chế độ autoplay thì các video này sẽ tự động phát luôn mà không cần bạn can thiệp.

Theo Guillaume Chaslot, người từng làm ở Google trong bộ phận phát triển thuật toán gợi ý của YouTube, đồng thời là nhà sáng lập dự án AlgoTransparency mang tới sự minh bạch cho các nền tảng online, "những video này là cái bạn nên cẩn trọng". Anh nói rằng động lực phía sau bộ máy gợi ý này có một lỗ hổng nghiêm trọng, bởi nó không dựa trên cái mà bạn muốn.

goi_y_youtube.jpg
Khu vực gợi ý của YouTube

"Nếu AI của YouTube được tinh chỉnh đủ tốt thì nó sẽ giúp bạn xem được những gì bạn thích, điều này thật tuyệt vời. Nhưng vấn đề là con AI đó không được xây dựng để cho bạn xem cái bạn muốn, nó được làm ra để bạn nghiện YouTube. Hệ thống gợi ý này được tạo nên để bạn tiêu tốn thời gian của mình (cho YouTube)".

Chaslot giải thích thêm rằng chỉ số dùng để đo xem thuật toán gợi ý có "tốt" hay không đó là thời gian xem. Đây sẽ là thứ quan trọng với một công ty bán quản cáo, nhưng không thật sự phản ánh sở thích của người dùng, và nó có nhiều tác dụng phụ.

Những nội dung tương tác nhiều sẽ được gợi ý, điều này không tốt


Trong một bài nói của mình, Chaslot nói rằng những nội dung gây tranh luận, ví dụ như các thuyết âm mưu, tin vịt, video về trái đất phẳng... Nội dung càng nằm ở lằn ranh của chính sách nội dung thì càng dễ làm người ta trao đổi, cãi nhau. Trong thuật toán gợi ý của YouTube, lượng tương tác này là một trong các yếu tố được đưa vào tính toán để quyết định xem người dùng có nên được xem hay không.

Cấu trúc này ổn với những video tốt, chẳng hạn như video về ai đó stream game, video con mèo, video Tinh tế trên tay sản phẩm... Nhưng YouTube không chỉ có những nội dung này, nó đang dần trở thành một nơi tiêu thụ nội dung của thế giới, Chaslot lo ngại rằng bộ máy gợi ý sẽ đẩy người dùng đến giới hạn cuối cùng, và bạn sẽ phải xem nội dung xấu dù bạn có muốn hay không, chỉ vì lý do đơn giản: YouTube muốn bạn xem video càng lâu càng tốt.

Google tất nhiên không đồng tình với Chaslot, nhưng chúng ta sẽ nói về vụ này sau.

thau_trung_20k.jpg

Mark Zuckerberg hồi năm ngoái thừa nhận rằng những nội dung gây tranh cãi thì thường được người ta tương tác nhiều hơn, Google thì không trả lời về vấn đề này nhưng chỉ nói rằng nội dung chất lượng thì người ta tương tác nhiều hơn. Theo kinh nghiệm cá nhân Chaslot thì đây là vấn đề mà trong nội bộ các hãng công nghệ còn chưa thống nhất. Thực tế thì những nội dung dạng này, ví dụ như Android vs iPhone, Mac vs Windows... quả thật được tương tác nhiều hơn, còn nội dung tốt hay không là chuyện khác hoàn toàn.

Ở YouTube thì các nội dung gây tranh cãi còn đi xa hơn thế, chúng vừa đủ nhạy cảm để mỗi người nói ra cảm xúc của riêng mình, nhưng vẫn không vi phạm nội quy của YouTube nên không bị xóa. Và những người làm video dạng này sẽ có thêm tiền từ YouTube, YouTube thì có thêm tiền từ các đơn vị quảng cáo.

Quảng cáo


Khi mà gợi ý đi sai đường


Theo Chaslot, điểm đáng quan tâm đó là chỉ số dùng để đánh giá hiệu quả gợi ý đã sai ngay từ đầu, ví dụ như thời gian xem đâu có nghĩa là nội dung sẽ chất lượng. Điều này gây ảnh hưởng xấu tới cộng đồng, và anh đã tạo ra công cụ AlgoTransparency sau khi nghỉ việc tại Google.

goi_y_algo_transparency.jpg

Công cụ này sẽ quét YouTube mỗi ngày để xem những video nào được gợi ý. Đa số các video top được đưa ra là nội dung tốt, đến từ các kênh nổi tiếng, nhưng thỉnh thoảng cũng có những nội dung xấu nhảy ra. Chẳng hạn như khi có báo cáo điều tra về việc liệu tổng thống Trump và Nga có liên kết với nhau trong cuộc bầu cử năm 2016 hay không, Chaslot nhận thấy YouTube gợi ý trên đa số các kênh về một video từ RT - cơ quan truyền thông của nhà nước Nga.

Nếu Chaslot nói đúng, thuật toán của YouTube đang giúp cho nhiều người xem hơn về một video nói về việc điều tra mối quan hệ giữa Trump - Nga được sản xuất bởi... Nga. Video này đứng về phía điện Kremlin và nói rằng các cơ quan truyền thông đặt ra quá nhiều thuyết âm mưu. Điều quan trọng là không ai hiểu vì sao điều này lại xảy ra.

Về phía Google, hãng hoàn toàn bác bỏ cách thức tìm hiểu của AlgoTransparency và nói rằng nó không phản ánh cách mà hệ thống gợi ý của họ vận hành. Nó chạy dựa trên khảo sát, số like, dislike, lượng share... Google nói:

Chúng tôi không thể tái tạo lại kết quả mà AlgoTransparency đưa ra. Chúng tôi thiết kế hệ thống của mình để đảm bảo rằng nội dung từ các nguồn chính thống được đưa lên trước trong lúc bạn tìm kiếm hay trong lúc gợi ý video kế tiếp. Điều này áp dụng cả khi người dùng xem các nội dung về tin tức trên YouTube.

Quảng cáo


Chaslot nói rằng nếu có sự bất thường trong kết quả của anh thì Google hãy chỉ ra nó và Google hãy đơn giản là chia sẻ xem những video nào được đề xuất cho mọi người. Nhưng Google chưa nói gì thêm về vấn đề này, có lẽ hãng lo ngại các yếu tố của thuật toán sẽ bị đoán ra và lạm dụng. Chaslot kể chính Google đã từng nói về việc loại bỏ tính "thành kiến" của thuật toán, Google khi đó lấy ví dụ về một video mà AlgoTransparency đã từng ghi nhận trước đó.

Bạn có thể làm gì?


Nếu cảm thấy khó chịu vì tính năng gợi ý này, bạn có thể dùng một extension trên Chrome tên là Nudge, nó sẽ loại bỏ các tính năng gây nghiện trên News Feed Facebook hay hệ thống đề xuất của YouTube. "Tôi vẫn click vào những thứ ngu ngốc khi tôi thấy chúng, vậy nên chắc ăn nhất là xóa nó đi".

cong_cu_nugde.jpg

Tất cả những thứ này cũng chỉ giải quyết được triệu chứng chứ không trị tận gốc. Chaslot tin rằng Google cần một giải pháp trong dài hạn, và Google phải minh bạch về thuật toán cũng như đưa cho người dùng quyền tự quyết định. "Trong dài hạn, chúng ta cần phải điều khiển được con AI, thay vì để AI điều khiển người dùng".

Nguồn: The Next Web
81 bình luận
Chia sẻ

Xu hướng

20k sub, con trai cưng đổ thau trứng 😁 :D
@OhOhOhOh Anh em cho xin tips report hoặc làm sao khoá kênh nhảm dc ko?
@OhOhOhOh Bất hiếu vkl :3
Roun88
ĐẠI BÀNG
5 năm
@concobebe2411 Trên điện thoại chỉ rp được video, muốn rp kênh phải dùng pc
@OhOhOhOh Tẩy chay cho nó sập đi.
Càng ngày thấy youtube càm xàm, nếu không đăng nhập thì sẽ nổ mắt ngay lập tức.
P/s đang có trào lưu độ xe không độ nài gì đó....sài cái youtube andvance không đăng nhập nó đề xuất cả đống nhí nha nhí nhố.
@Kelamtro Mấy ông có biết dùng Youtube thật không vậy? Người ta đã nói là CHƯA đăng nhập mà. Nếu chưa đăng nhập thì rõ ràng là nó sẽ chỉ show những video thuộc dạng trending.
chenyingjun
ĐẠI BÀNG
5 năm
@mrdrg10 Nó đề xuất video do có nhiều người xem kênh A cũng xem kênh B mà thật sự mình chưa bao gờ xem kênh B
@Tú art ko đăng nhập nó sẽ show từ mấy cái youtube acc trong mạng lan wifi nói chung là cùng ip của modem sau nữa là nó lấy trong history của trình duyệt web nên nó show cái đó là chắc cú bạn bè ông xem hoặc có quá nhiều lịch sử web như thế .
Kelamtro
TÍCH CỰC
5 năm
@Tú art mình trl nhầm ng 😆 rep ông leeyang trên kia chứ ko nói ông heobanhki 😃))
The Dust
TÍCH CỰC
5 năm
Thực sự thì YouTube rất là nhổn làm. Mình toàn cài đặt để khu vực ở châu Phi cho nó an toàn. Ít ra thì nó ko có gợi ý mấy cái video hài nhổn làm :|
mrdrg10
TÍCH CỰC
5 năm
@minhtymeo Có chức năng not interested rồi ấn tell us why, rồi chọn ko thích channel đó thì nó sẽ ko suggest ra channel đó nữa đấy bạn.
se7en2008
TÍCH CỰC
5 năm
@The Dust Vậy là Youtube nhảm hay do VN nhảm ?
@mrdrg10 Mình đã Not interest nó tầm 10-15 lần gì đó nhg mà nó vẫn hiện lên, bọn nó chạy quảng cáo dữ đến nỗi mình dùng cercube cũng ko né đc mà -_-
The Dust
TÍCH CỰC
5 năm
@se7en2008 Ở bển nó cũng nhảm theo cái kiểu ở bển, nhưng mà ít ra nó nói j mình ko hiểu, nên xem như mấy con khỉ nhảy múa thôi 😁
chanhthi
TÍCH CỰC
5 năm
Ghét nhất là mấy cái video coi rồi mà nó cứ hiện lên gợi ý hoài. Và mấy cái không bao giờ coi thì nó cứ hiện lên mãi như để chọc tức mình.
Biết thừa nên éo bao giờ đăng nhập tài khoản nha . Suốt ngày thông báo vs gợi ý .
Toàn tìm mấy video cho con xem. Ko có time cho youtube
Cái videos nào không thích thì mình bấm không quan tâm, mạnh hơn là block channel đó. Huấn luyện như thế riết rồi Home của youtube học được ý thích của mình, recommend những video chất lượng.
mrdrg10
TÍCH CỰC
5 năm
@ngoc_toan4555 Đúng rồi. Thời gian dùng yt nhiều thì cũng nên tìm hiểu chút chức năng cơ bản chứ thấy mn chửi có vẻ nhiều.
Mà nó suggest thì chắc cũng có xem và tương tác những nội dung tương tự. Chứ yt mình chả bao h suggest mấy cái kênh trash cả do mình có xem bao h đâu.
chenyingjun
ĐẠI BÀNG
5 năm
@ngoc_toan4555 Nó vẫn hiện những cái kênh tương tự chứ nó ko biết ông ghét thẻ loại đó
@chenyingjun làm đủ nhiều nó sẽ làm tốt thôi
phanjantho
TÍCH CỰC
5 năm
Youtube đang đang dạy con người ta sống theo sở thích, không cần phải biết những thứ khác.
at0607
ĐẠI BÀNG
5 năm
Đọc đến đoạn RT = xấu thì hiểu rồi.
youtube ko có đối trọng xứng tầm, nên xảy ra những chuyện này
@vn_ninja chuẩn đấy, chính vì vậy mà có luật chống độc quyền nhưng trong trường hợp này khó làm j đc
youtube ko có đối trọng xứng tầm, nên xảy ra những chuyện này
@vn_ninja Thế tại thằng khác quá tệ hay tại youtube?
@hieupy89 Cả 2 bác ạ
bettelenhe
ĐẠI BÀNG
5 năm
Toàn gợi ý mấy bài lá cải của bọn 3 que đẩu đâu, càng báo cáo sai phạm thì nó càng đẩy nhiều về, giống như kiểu mời mình vào làm lãnh đạo cho lũ đó vậy.
tadjmen
ĐẠI BÀNG
5 năm
Không thích thì bấm "Not interested".
Mình thấy nó lọc khá tốt, mấy cái thử thách - pubg, stream linh tinh... mình bấm 1 lần là sạch luôn...
hungtrumno
TÍCH CỰC
5 năm
@tadjmen Đồng ý. Mình cũng thấy nó gợi ý khá ổn cho mình. Thậm chí đôi khi còn muốn cảm ơn cách gợi ý của nó dẫn mình đến nhiều thứ hay ho mà mình ko biết có tồn tại. Và mình vẫn là 1 người dành time cho gia đình xã hội đủ tốt, công việc ổn, bạn bè ổn. Nói chung chủ yếu do bản thân mình nữa, chứ nếu mình mà không có việc gì làm thì cho dù Youtube nó ko gợi ý thì mình cũng tự mò đi mà tìm xem thêm các video khác thôi.
đổi location sang us là hết rác
giờ toàn thần tượng giang hồ mạng, rồi những thứ tào lao như bà tân vi lóc 😆)) trình thường thức của dân ta giờ cũng chán quá mà.
@Vòi rất Đẹp Có thể bạn ko quan tâm nhưng ngoài kia trẻ trâu đông lắm 😁
CuongLam02
TÍCH CỰC
5 năm
Tỉ như tìm video chế tạo thuốc nổ-xem xong nó gợi ý cả đống tha hồ chế nhé con.
thường thì khi bị gợi ý video nhảm là mình not interested ngay, vài lần là nó ko hiện nữa
mà đợt trước thấy app ytube trên andr có chức năng block, dùng đc đâu hơn tuần cập nhật phát mất luôn
có vẻ người dùng block nhiều quá ytube sợ ko đạt chỉ tiêu giờ xem nên loại nó đi
đậum ytube :mad: !
AmbitiousGay
ĐẠI BÀNG
5 năm
@deptrainhatTT Trên youtube web vẫn có block. Nhưng video vẫn hiện 😆
@AmbitiousGay có cái đc cái không. có lần tôi block kênh ko đc, nên nhin thấy video làm của kênh đó cũng ân ko thích video, ko thích kênh.

Xu hướng

Bài mới









  • Chịu trách nhiệm nội dung: Trần Mạnh Hiệp
  • © 2024 Công ty Cổ phần MXH Tinh Tế
  • Địa chỉ: Số 70 Bà Huyện Thanh Quan, P. Võ Thị Sáu, Quận 3, TPHCM
  • Số điện thoại: 02822460095
  • MST: 0313255119
  • Giấy phép thiết lập MXH số 11/GP-BTTTT, Ký ngày: 08/01/2019