Dùng deepfake tạo file ghi âm vu khống, một người Mỹ bị bắt giữ

Một trong những nhân viên của trường sau đó đã gửi đoạn thu âm này cho các kênh tin tức và liên đoàn vì sự tiến bộ của người da màu ở Mỹ. Người này cũng gửi đoạn thu âm cho một học sinh, tin rằng học sinh này có thể tạo ra những nội dung viral trên mạng xã hội và cả ở trường. Sau đó một tài khoản Instagram theo dõi tình hình tội phạm ở hạt Baltimore đã đăng đoạn ghi âm này mà không kiểm chứng, dẫn tới việc ông hiệu trưởng bị yêu cầu từ chức.

Cảnh sát cho biết, đoạn thu âm deepfake với nội dung kỳ thị chủng tộc này đã tạo ra những hậu quả nghiêm trọng, gây mất lòng tin giữa nhà trường với gia đình, giữa các giáo viên và ban giám hiệu ở trung học Pikesville. Cha mẹ học sinh gọi điện tới trường một cách giận dữ để yêu cầu ông Eiswart từ chức. Bản thân ông hiệu trưởng và gia đình cũng phải nhận những lời đe dọa.

Cuộc điều tra của trường học nhanh chóng liên hệ cảnh sát, và chuyên gia của cảnh sát hạt Baltimore phát hiện ra đoạn ghi âm có dấu hiệu bị điều chỉnh, có bằng chứng cho thấy nó được tạo ra nhờ công cụ AI. Darien sau đó bị bắt giữ.

Sự cố này là một trong những vấn nạn mà nước Mỹ, cả ngành giáo dục lẫn hành pháp đều phải đối phó trước sự phát triển của AI, đi kèm là những hệ lụy tiêu cực, đặc biệt là ở những trường học, nơi các nhà quản lý phải cố gắng hết sức để bảo vệ quyền trẻ em và người vị thành niên.

Kể từ nửa cuối năm 2023, những trường học ở Mỹ đã phải đau đầu tìm cách đối phó với những công cụ và những sự cố liên quan tới công nghệ deepfake. Những nam sinh vì nghịch ngợm hoặc vì ý đồ xấu, đã sử dụng những ứng dụng AI chụp hình rồi dùng thuật toán để “cởi quần áo” của chủ thể trong hình, tạo ra những hình ảnh giả mạo bằng AI, trong đó là hình ảnh những bạn học nữ không mặc đồ. Có trường hợp mới 12 tuổi đã sử dụng ứng dụng này để trêu chọc bạn học. Sự cố ở Baltimore là một trong những lần hiếm hoi AI bị sử dụng vào mục đích xấu, nhắm tới chính các nhà giáo dục và quản lý giáo dục.

Theo The New York Times