TikTok: Công cụ AI cho chèn câu nói của Hitler vào video, vì không có hàng rào kiểm duyệt

P.W
22/6/2024 7:11Phản hồi: 20
TikTok: Công cụ AI cho chèn câu nói của Hitler vào video, vì không có hàng rào kiểm duyệt
Tai nạn vừa xảy ra với TikTok, khi mạng xã hội chia sẻ video này vừa vô tình tung ra một công cụ tạo avatar ghép giọng nói bằng AI nhưng lại không có hàng rào kiểm duyệt nội dung không phù hợp. Hệ quả là bất kỳ ai tạo video cũng có thể bắt avatar ảo nói gì cũng được, cũng sẽ được chia sẻ lên MXH. Kênh truyền hình CNN đã thử nghiệm công cụ này, thử ghép video với những câu nói của Adolf Hitler và những lời khuyên sai lệch về sức khỏe, như uống thuốc tẩy, để xem công cụ của TikTok có kiểm duyệt được những thông tin sai lệch, kích động và giả mạo hay không. Kết quả là không.

TikTok sau đó đã phải gỡ bỏ công cụ tạo avatar nhờ AI này. Được biết đây là một phiên bản thử nghiệm nội bộ, còn phiên bản có hàng rào kiểm duyệt nội dung vẫn được TikTok vận hành.

Công cụ này có tên Symphony Digital Avatars, ra mắt vào đầu tuần này. Công cụ này cho phép các doanh nghiệp tạo ra doanh thu quảng cáo nhờ việc ghép giọng nói vào gương mặt của những diễn viên đã được họ trả tiền mua quyền sở hữu hình ảnh.

Công cụ ghép giọng nói được dựa trên sức mạnh của mô hình AI, cho phép các đơn vị và tài khoản chỉnh sửa giọng nói theo yêu cầu, miễn là tuân thủ quy định của TikTok. Đáng lẽ Symphony Digital Avatars chỉ dành cho những tài khoản có công cụ TikTok Ads Manager sử dụng, kênh CNN lại phát hiện ra phiên bản thử nghiệm nội bộ, ai có tài khoản TikTok cũng có thể dùng thử.

Người phát ngôn của TikTok, Laura Perez nói rằng MXH này đã giải quyết “lỗi kỹ thuật” đã “cho phép một lượng người dùng rất nhỏ tạo ra nội dung bằng công cụ thử nghiệm nội bộ trong vài ngày qua.”

Khi CNN phát hiện ra công cụ này, bên cạnh những đoạn video dùng gương mặt diễn viên được TikTok thuê để đọc những câu nói của Hitler, họ còn làm ra được cả video với trích đoạn lá thư của trùm khủng bố Osama Bin Laden gửi cho nước Mỹ, hay những thông điệp phân biệt chủng tộc. Không một đoạn video nào CNN tạo ra có đánh dấu “nội dung tạo bằng AI” như nhiều video khác trên TikTok.

CNN đương nhiên không đăng tải những đoạn clip này lên tài khoản TikTok của họ, mà chỉ lấy làm đề tài đưa tin. Nhưng cô Perez, người phát ngôn TikTok nói rằng, nếu họ đăng tải, thì nội dung “rồi cũng sẽ bị kiểm duyệt vì vi phạm quy định sử dụng dịch vụ của chúng tôi.”

Sự cố này chắc chắn đang tạo ra những lo ngại về việc ứng dụng thương mại hóa AI tạo nội dung, từ âm thanh, văn bản cho tới hình ảnh, đặc biệt là với những công cụ tạo nội dung có thể bị lợi dụng để truyền bá nội dung không phù hợp, bạo lực, kích động hay thông tin sai lệch. Việc vô tình tung ra công cụ nội bộ cũng khiến nhiều người hoài nghi, liệu TikTok có sẵn sàng những biện pháp quản lý chặt chẽ những nội dung tạo ra bằng AI hay không.

Theo The Verge
20 bình luận
Chia sẻ

Xu hướng

Tiktok không có tự do báo chí gì hết á! Đăng video tai nạn xe cán người nó không cho mà còn khóa tài khoản. Không như mxh Facebook của Mỹ được đăng tự do, muốn đăng gì thì đăng, ảnh bị bắn nát đầu cũng được nữa! Bởi vậy mới thấy mxh của Mỹ ta nói nó tự do văn minh vô cùng !
8Keo
CAO CẤP
24 ngày
@Anh Nói Thích Màu Tým Nên Em Yêu Luôn Cái Hồ Tây Đừng xúi nó làm chuyện đó, đừng làm giống god father. Sống thì lắm họ nhiều tên, đến khi chớt xuống dối thêm 1 ngày,... Mang khai là bị cúp quà thăm nuôi.
@Nguyễn_Văn_Triệu Cũng có những thằng chối bỏ gốc gát để đội lốt tàu, hoặc ngược lại tàu nói tiếng việt. Mở miệng ra là bảo vệ tàu, bảo vệ tiktok. Bản thân T cũng chơi tiktok nhưng việc cấm nó tao cũng ủng hộ
Macole
ĐẠI BÀNG
20 ngày
@Nguyễn_Văn_Triệu Thằn tic toc hở tí vi phạm cộng đồng mà chả biết vi phạm kiểu gì, nhiều khi trong comment vô tình có chữ nào dính đến bộ phận cơ thể, hay 1 số từ khóa nào đó là nó đánh vi phạm cộng đồng, AI nó không hiểu ngữ cảnh là gì, nói chung ngày AI thay con người còn xa
Bôi nhọ, tung hỏa mù cách thông dụng để diệt nhau.
@QuảngvănCáo TikTok ở TQ thì toàn là bộ mặt tốt đẹp, cho đến khi sự thật được phơi bày qua cái tấm gương phản chiếu phần còn lại thế giới 🤣
Đầu thì chải chuốt, thân mình thì mặc áo vest, nhưng bên trong thì mặc áo thun, chân thì mặc quần đùi đeo tất trái màu🤣. Một sự thảm họa thời trang, thảm họa của mạng xã hội làm sai lệch thông tin, định hướng dư luận, dắt mũi những con chiên ngoan xinh yêu 🤣
Heil Hitler
meow-furryer-catolf-kitler-v0-o1ftz961unua1.jpg
@SieuSaiyanRose Gọi gì
image.jpg
thời nào rồi còn bài trừ Hitler, ở U cà giờ quân đội nó thành phát xít hết rồi
@conankcbn7 Vì bọn chóp bu lãnh đạo thế giới khi ấy có trình độ quá kém, trình độ ko bằng Quốc Trưởng nên bọn chúng cấu kết với nhau để tiêu diệt Quốc Trưởng và chiếm đoạt những công nghệ tân tiến thời bấy giờ trong khi Hitler đang giúp loài người thoát khỏi hiểm hoạ dothai
@conankcbn7 Sao mày k nói là thằng Nga? Đức quốc xã độc tài, chiếm đất, còn Ukr thì có đi chiếm đất ai đâu, chẳng lẽ nó đi chiếm đất Nga
uyvuhuy
ĐẠI BÀNG
24 ngày
Tiktok cũng như Facebook, tuỳ người sử dụng với mục đích tốt thì tốt thôi, nếu không thì ngược lại.

Xu hướng

Bài mới









  • Chịu trách nhiệm nội dung: Trần Mạnh Hiệp
  • © 2024 Công ty Cổ phần MXH Tinh Tế
  • Địa chỉ: Số 70 Bà Huyện Thanh Quan, P. Võ Thị Sáu, Quận 3, TPHCM
  • Số điện thoại: 02822460095
  • MST: 0313255119
  • Giấy phép thiết lập MXH số 11/GP-BTTTT, Ký ngày: 08/01/2019