Nhận thấy AI mà mình phát triển đang dần từ bỏ tiếng Anh để giao tiếp với nhau bằng một ngôn ngữ mới do chính chúng tạo ra, các nhà nghiên cứu của Facebook buộc phải “giết chết” nó một phần vì lo sợ thứ ngôn ngữ riêng này một ngày nào đó có thể được dùng để chuẩn bị cho những ý đồ xấu của AI. Mặc dù nhìn vào, con người sẽ cho đó là những đoạn hội thoại vô nghĩa hay lỗi phát sinh, nhưng thực tế hệ thống ngôn ngữ tiên tiến mà Trí tuệ nhân tạo đã “vô tình” tạo ra có thể giúp những AI hiểu nhau về phương án tiến hành cũng như kết luận điều gì đó.
Một tác nhân hội thoại (bots) trong phần mềm máy tính này khi dùng ngôn ngữ mới để giao tiếp với tác nhân khác sẽ bắt đầu bằng việc truyền đạt cho nhau những cụm từ có vẻ khó hiểu, nhưng thực ra chúng đại diện cho những nhiệm vụ mà chúng sẽ phải hoàn thành sắp tới.
Bên dưới đây là một đoạn hội thoại giữa 2 tác nhân tên Bob và Alice được Facebook dùng để minh họa cho ngôn ngữ mới của AI.
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Mặc dù dường như hoàn toàn vô nghĩa, nhưng việc lặp đi lặp lại các cụm từ như "i" và “to me" phản ánh cách AI hoạt động. Các nhà nghiên cứu tin rằng đó là cách mà những con bots đang bàn về việc xem chúng cần lấy bao nhiêu món đồ. Những lời nói kế tiếp của Bob trong đoạn hội thoại, chẳng hạn như "i i can i i i everything else", chỉ ra nó đang cố dùng loại ngôn ngữ mới đề mong muốn cung cấp thêm nhiều thứ hơn cho Alice. Giải thích theo cách này, những cụm từ trở nên logic hơn so với các cụm từ tiếng Anh với nghĩa tương tự như "I'll have three and you have everything else”. (Tôi có 3 cái và bạn sẽ có mọi thứ còn lại)
Tiếng Anh thiếu đi những "phần thưởng"
AI dường như nhận ra rằng những biểu đạt phong phú thông qua các cụm từ tiếng Anh thật sự không cần thiết trong viễn cảnh. AI hiện đại hoạt động dựa trên nguyên tắc “phần thưởng" mà chúng mong đợi sau một hành động đột ngột có thể tạo cho chúng "lợi ích” nhất định. Trong trường hợp này, không có phần thưởng nào nếu tiếp tục sử dụng tiếng Anh, vì vậy chúng đã tự xây dựng một giải pháp hiệu quả hơn.
Dhruv Batra, một nhà nghiên cứu AI làm việc tại Facebook cho rằng AI thực sự có thể tự viết code cho các từ và hình thành nên thứ ngôn ngữ dễ hiểu hơn đối với chúng. “Giống như tôi nói ‘the’ năm lần, bạn sẽ hiểu là tôi muốn 5 bản copy của thư mục này. Điều này không phải là khác hoàn toàn so với cách mà con người tạo ra phương pháp tốc ký”.
Đây không phải là lần đầu tiên máy tính tự tạo ra ngôn ngữ riêng. Các nhà phát triển AI ở một số công ty khác trước đó cũng từng nhận thấy AI thực hiện điều tương tự nhằm đơn giản hóa quá trình giao tiếp. Tại OpenAI, phòng thí nghiệm trí tuệ nhân tạo do Elon Musk thành lập, một thí nghiệm đã được thực hiện thành công khi các nhà khoa học để cho chương trình Trí tuệ nhân tạo tự học ngôn ngữ của chúng.
Một tác nhân hội thoại (bots) trong phần mềm máy tính này khi dùng ngôn ngữ mới để giao tiếp với tác nhân khác sẽ bắt đầu bằng việc truyền đạt cho nhau những cụm từ có vẻ khó hiểu, nhưng thực ra chúng đại diện cho những nhiệm vụ mà chúng sẽ phải hoàn thành sắp tới.
Bên dưới đây là một đoạn hội thoại giữa 2 tác nhân tên Bob và Alice được Facebook dùng để minh họa cho ngôn ngữ mới của AI.
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Tiếng Anh thiếu đi những "phần thưởng"
AI dường như nhận ra rằng những biểu đạt phong phú thông qua các cụm từ tiếng Anh thật sự không cần thiết trong viễn cảnh. AI hiện đại hoạt động dựa trên nguyên tắc “phần thưởng" mà chúng mong đợi sau một hành động đột ngột có thể tạo cho chúng "lợi ích” nhất định. Trong trường hợp này, không có phần thưởng nào nếu tiếp tục sử dụng tiếng Anh, vì vậy chúng đã tự xây dựng một giải pháp hiệu quả hơn.
Dhruv Batra, một nhà nghiên cứu AI làm việc tại Facebook cho rằng AI thực sự có thể tự viết code cho các từ và hình thành nên thứ ngôn ngữ dễ hiểu hơn đối với chúng. “Giống như tôi nói ‘the’ năm lần, bạn sẽ hiểu là tôi muốn 5 bản copy của thư mục này. Điều này không phải là khác hoàn toàn so với cách mà con người tạo ra phương pháp tốc ký”.
Đây không phải là lần đầu tiên máy tính tự tạo ra ngôn ngữ riêng. Các nhà phát triển AI ở một số công ty khác trước đó cũng từng nhận thấy AI thực hiện điều tương tự nhằm đơn giản hóa quá trình giao tiếp. Tại OpenAI, phòng thí nghiệm trí tuệ nhân tạo do Elon Musk thành lập, một thí nghiệm đã được thực hiện thành công khi các nhà khoa học để cho chương trình Trí tuệ nhân tạo tự học ngôn ngữ của chúng.
Quảng cáo
Ban đầu, Facebook tạo ra chương trình nói trên để mong nó có thể nói chuyện bằng tiếng Anh đơn giản, một phần dùng để tạo ra các phần mềm với khả năng giao tiếp với người dùng sau này. Tuy nhiên, các nhà nghiên cứu tại Facebook thừa nhận họ không thực sự hiểu ngôn ngữ mà AI phát minh ra và điều này cũng đi chệch hướng so với ý định lúc đầu nên đã ngưng phát triển chương trình này lại.
Tham khảo: Fast Co. Design, Ảnh minh họa: Mynewsdesk
