Deepfake là một thuật ngữ dùng để nói về những công nghệ tạo những nội dung giả mạo lan truyền trên Internet nhờ sức mạnh của AI. Bạn không khó bắt gặp những video một người nổi tiếng nào đó đang nói về một nội dung giả, không đúng bản chất của người đó và quan trọng hơn, nó chân thật tới mức khó mà phân biệt đâu là thật đâu là deepfake.
Thuật ngữ lần đầu xuất hiện trên cộng đồng Reddit, đó là tài khoản của một người dùng đăng tải clip sex với diễn viên là những sao nữ nổi tiếng. Cả cộng đồng râm ran về điều đó, thậm chí viết ra những công cụ để mọi người có thể dễ dàng gán ghép khuôn mặt của bất cứ ai vào trong những clip như vậy. Reddit sau đó khóa cộng đồng này lại nhưng nó kịp lan truyền ra những nơi khác với tốc độ nhanh. Không chỉ clip khiêu dâm, các chính trị gia, diễn viên cũng bị giả mạo bằng cách tương tự.
Trước khi deepfake xuất hiện, không phải con người không có những công cụ chỉnh sửa nội dung, có thể kể đến Photoshop, nhưng nhờ deepfake mà việc tạo nội dung giả mạo dễ dàng và rẻ hơn nhiều. Trước kia để tạo một video tương tự, người ta cần những máy tính siêu mạnh và chuyên viên giỏi nhưng giờ thì chỉ cần vài tấm hình và một kết nối Internet là đủ rồi.
Nội dung deepfake được tạo bởi một kỹ thuật máy học (machine learning) có tên GAN (Generative Adversarial Network - mạng lưới tạo ra nghịch cảnh). GAN sử dụng hai hệ thống thần kinh (neural): tạo lập và phân biệt, hai cái này hoạt động theo chiều hướng đối lập và đấu tranh với nhau. Phần tạo lập có nhiệm vụ tạo ra một hình ảnh chân thực trong khi phần phân biệt sẽ quyết định xem nó giống thật hay không. Nếu đánh lừa được phần phân biệt, phần phân biệt sẽ tiếp tục dùng những thông tin thu thập được để đánh giá tiếp nó giả hay thật (ở đây đang là cố tạo ra nội dung giả mà như thật). Còn nếu không, phần tạo lập lại tiếp tục tạo ra một hình ảnh giả xuất sắc hơn và giống thật hơn. Quá trình này cứ lặp đi lặp lại cho tới khi hình ảnh, video hay âm thanh đó không còn bị phát hiện là giả bởi con người nữa.
Việc dễ dàng tạo ra một nội dung giả, chỉ bằng một ứng dụng miễn phí, bất cứ ai cũng có thể làm điều đó đã khiến deepfake trở nên nguy hiểm. Đó cũng là lý do tại sao những người nổi tiếng và chính phủ các nước đang lo ngại về công nghệ này. Nếu được một kẻ xấu sử dụng, nó sẽ tạo ra những nội dung giả, theo ý muốn của kẻ xấu đó do chính những nhân vật quan trọng nói (ví dụ tổng thống Obama) và chúng ta vẫn tin đó là thật. Thêm nữa, nó cũng giúp một cá nhân nào đó từ chối những lời nói của họ trong quá khứ bởi ông ta có thể quy cho nó là do deepfake tạo ra chứ không phải do chính mồm ông ta nói ra.
Hiện tại, nhiều tổ chức, chuyên gia đã và đang phát triển những công cụ phát hiện nội dung giả, có thể kể đến DARPA hay Đại học Colorado. Trong khi người ta tìm ra một công cụ phát hiện thì chúng ta cũng nên tự đề phòng với những nội dung giả này để tránh bị lợi dụng hoặc bị dẫn dắt đi theo một hướng khác. Đây là một vài video deepfake mà bạn nên xem:
Thuật ngữ lần đầu xuất hiện trên cộng đồng Reddit, đó là tài khoản của một người dùng đăng tải clip sex với diễn viên là những sao nữ nổi tiếng. Cả cộng đồng râm ran về điều đó, thậm chí viết ra những công cụ để mọi người có thể dễ dàng gán ghép khuôn mặt của bất cứ ai vào trong những clip như vậy. Reddit sau đó khóa cộng đồng này lại nhưng nó kịp lan truyền ra những nơi khác với tốc độ nhanh. Không chỉ clip khiêu dâm, các chính trị gia, diễn viên cũng bị giả mạo bằng cách tương tự.
Nội dung deepfake được tạo bởi một kỹ thuật máy học (machine learning) có tên GAN (Generative Adversarial Network - mạng lưới tạo ra nghịch cảnh). GAN sử dụng hai hệ thống thần kinh (neural): tạo lập và phân biệt, hai cái này hoạt động theo chiều hướng đối lập và đấu tranh với nhau. Phần tạo lập có nhiệm vụ tạo ra một hình ảnh chân thực trong khi phần phân biệt sẽ quyết định xem nó giống thật hay không. Nếu đánh lừa được phần phân biệt, phần phân biệt sẽ tiếp tục dùng những thông tin thu thập được để đánh giá tiếp nó giả hay thật (ở đây đang là cố tạo ra nội dung giả mà như thật). Còn nếu không, phần tạo lập lại tiếp tục tạo ra một hình ảnh giả xuất sắc hơn và giống thật hơn. Quá trình này cứ lặp đi lặp lại cho tới khi hình ảnh, video hay âm thanh đó không còn bị phát hiện là giả bởi con người nữa.
Việc dễ dàng tạo ra một nội dung giả, chỉ bằng một ứng dụng miễn phí, bất cứ ai cũng có thể làm điều đó đã khiến deepfake trở nên nguy hiểm. Đó cũng là lý do tại sao những người nổi tiếng và chính phủ các nước đang lo ngại về công nghệ này. Nếu được một kẻ xấu sử dụng, nó sẽ tạo ra những nội dung giả, theo ý muốn của kẻ xấu đó do chính những nhân vật quan trọng nói (ví dụ tổng thống Obama) và chúng ta vẫn tin đó là thật. Thêm nữa, nó cũng giúp một cá nhân nào đó từ chối những lời nói của họ trong quá khứ bởi ông ta có thể quy cho nó là do deepfake tạo ra chứ không phải do chính mồm ông ta nói ra.
Hiện tại, nhiều tổ chức, chuyên gia đã và đang phát triển những công cụ phát hiện nội dung giả, có thể kể đến DARPA hay Đại học Colorado. Trong khi người ta tìm ra một công cụ phát hiện thì chúng ta cũng nên tự đề phòng với những nội dung giả này để tránh bị lợi dụng hoặc bị dẫn dắt đi theo một hướng khác. Đây là một vài video deepfake mà bạn nên xem:
