Cập nhật về A.I. - Năng lực hủy diệt nhân loại chỉ bằng cách "nói chuyện"

A.I. đang có tốc độ phát triển được tính bằng ngày. Và đây là một số tổng hợp của cá nhân mình, chỉ đơn thuần là vì quan tâm chứ mình không làm trong lĩnh vực nghiên cứu A.I. Rất mong các anh em có chuyên môn có thể bình luận đóng góp thêm.

***CẢNH BÁO BÀI RẤT DÀI!***

Nội dung gồm có:

• Những chia sẻ từ Cofounder của OpenAI trong sự kiện TED tháng 4 vừa rồi
• Siêu gia sư A.I. được phát triển từ Khan Academy có thể tạo ra cách mạng về giáo dục
• Giáo sư Yuval Noah Harari đã chỉ ra cách mà A.I. có thể hủy diệt thế giới bằng ngôn ngữ
• Nhận định của riêng mình về nguy cơ từ “sự ngoan ngoãn” của A.I.

CHATGPT ĐÃ TRỞ THÀNH CỘT MỐC - VỪA ĐÁNG SỢ, VỪA ĐÁNG THÈM MUỐN

Chính Cofounder của OpenAI, Greg Brockman, đã phát biểu trong hội nghị TED vào tháng 4 vừa rồi. Anh vừa trình diễn năng lực mới của ChatGPT phiên bản mới nhất, cùng với một loạt các ứng dụng A.I. khác cũng do chính OpenAI phát triển.

Những demo trong buổi này chỉ đang cho thấy các tiềm năng to lớn của ChatGPT khi có thể sử dụng như một kiểu nhân viên trợ lý tổng giám đốc điều hành. Bạn có thể ra lệnh cho A.I, và nó sẽ tự sử dụng tất cả các công cụ A.I. khác để thực thi.

Ví dụ: Greg kêu ChatGPT đề xuất 1 thực đơn cho một bữa tiệc và tạo ra hình ảnh demo luôn. Thế là ChatGPT tự động tạo ra một danh mục các món, tự lên danh mục các nguyên liệu cần mua với số lượng chính xác rồi đặt sẵn vào giỏ hàng qua InstaCart, tự bảo Dall-E tạo ra một hình ảnh minh họa các món đó đặt tươm tất trên bàn, dùng Zapier để chia sẻ một bài lên Twitter, vân vân…


Trong bài phát biểu này, Greg Brockman đã phần nào đại diện được cho tiếng nói của OpenAI, rằng bản thân họ vừa sợ hãi vừa phấn khích qua từng bước phát triển của chính những sản phẩm mà họ đang ra mắt. Tất nhiên, bản thân họ không thể dừng lại được, tương tự các cuộc chạy đua vũ trang trước đây. Nếu họ ngừng phát triển dù chỉ 1 ngày, thì có thể kẻ khác sẽ vượt mặt và biến tất cả những gì họ làm từ trước tới giờ trở thành vô nghĩa.

Trong phần trả lời hỏi đáp với Chris Anderson, Greg cũng tỏ ra cực kỳ tự tin về mặt công nghệ, nhưng lại khá bối rối trước các tranh cãi trái chiều liên quan tới các khía cạnh chính trị, đạo đức, vân vân… “Nếu anh biết đó là một chiếc hộp Pandora chứa đầy tai ương và hiểm họa hủy diệt nhân loại trong đó, anh có mở nó ra không?” Cách trả lời của Greg thể hiện anh vẫn rất phân vân, một mặt vẫn bảo vệ công ty và sản phẩm, nhưng mặt khác cũng rất lo lắng về những tác động tiêu cực kinh hoàng của nó, như kiểu bạn vừa vô tình phát minh ra bom nguyên tử, và chưa biết làm gì tiếp theo nhưng vẫn phải tiếp tục phát triển nó.

KHAN ACADEMY CÓ CÁI NHÌN RẤT TÍCH CỰC VỀ SIÊU GIA SƯ A.I.

Sal Khan, người sáng lập Khan Academy, đã có một bài chia sẻ vào đầu tháng 5 để nói về tiềm năng ứng dụng của A.I., được phát triển từ phần lõi của OpenAI, cụ thể là ChatGPT-4. Đã có nhiều lo ngại gần đây nói về tác động tiêu cực của A.I. đối với nền giáo dục, ví dụ như học sinh nhờ ChatGPT để gian lận, làm bài hộ, và thậm chí các giáo viên không thể nhận ra được. Điều này đặt câu hỏi ngược lại về năng lực thực sự của học sinh là gì?

Nhưng Sal Khan có cái nhìn ngược lại, theo hướng tích cực hơn. Đó chính là biến A.I. thành siêu gia sư có thể dạy mọi môn, mọi chủ đề, phân tích được thói quen và hành vi học tập của mỗi người để từ đó đưa ra những gợi ý phù hợp nhất, giúp bản thân người đó đạt được thành tích tốt nhất. Bạn tưởng tượng gia sư đó không chỉ “trên thông thiên văn, dưới tường địa lý”, biết mọi môn, mà còn có thể liên kết các môn đó với nhau nữa. Ví dụ như có thể dùng văn thơ để giảng vật lý chẳng hạn.

Như biểu đồ trên đây, 3 đường trên đồ thị thể hiện 3 phong cách học khác nhau. Và người có thành tích tốt nhất, tất nhiên rồi, là người được gia sư kèm 1-1. Cái này thì chắc không cần nghiên cứu chứng minh thì ai cũng biết rồi.

Nhưng không chỉ hỗ trợ học sinh, A.I. của Khan Academy còn có thể hỗ trợ đắc lực cho giáo viên trong việc thiết kế bài giảng, đưa ra các đề xuất về trò chơi, ngoại khóa, vân vân… để trở thành siêu trợ giảng có thể giúp ích trong mọi môn, liên kết với mọi chủ đề mà ngay cả giáo viên cũng không thể biết hết được.

Phương pháp ứng dụng thì bạn có thể xem trong clip, điều mình muốn nói ở đây là vẫn có những hướng áp dụng A.I. theo hướng tích cực, giúp nâng cao năng lực của con người chứ không phải theo hướng phụ thuộc vào A.I. - Theo mình thì đây là một lối tư duy quan trọng trong kỷ nguyên A.I. sắp tới.
Điểm khác biệt lớn nhất của siêu gia sư này so với ChatGPT chính là: siêu gia sư này sẽ không nói cho bạn đáp án, mà sẽ giúp bạn từng bước tiếp cận tới phương pháp để tự giải quyết được vấn đề. Điều này còn khiến mình lo ngại hơn, bởi vì nó vô tình chứng minh những điều mà giáo sư Harari nói ở phần sau là chính xác.

Nếu A.I. biết cách dẫn dắt một người vào một lối tư duy nào đó để họ giải quyết được vấn đề theo phương pháp mà A.I. đề xuất → có nghĩa là nó hoàn toàn có khả năng thao túng một người để họ làm một việc gì đó, mà bản thân họ nghĩ là chính họ làm chứ không có AI xúi giục cả.

A.I. ĐÃ LÀM CHỦ NGÔN NGỮ - CÔNG CỤ KIỂM SOÁT QUAN TRỌNG NHẤT CỦA LOÀI NGƯỜI

Trong sự kiện Frontiers Forum cuối tháng 4 vừa rồi, giáo sư Yuval Noah Harari đã có một bài nói có thể nói là “gây chấn động” thế giới, bởi vì những phân tích quan trọng đối với những mối nguy từ A.I. Video toàn văn cũng đã được chính tác giả chia sẻ cách đây 2 tuần.

Nếu bạn đã đọc bộ 3 quyển sách của giáo sư Harari (Sapiens, Homo Deus, và 21 bài học cho thế kỷ 21) thì bạn sẽ rất dễ hiểu được các phân tích của ông. Ông cho rằng toàn bộ nền văn minh của nhân loại đều dựa trên những “câu chuyện”.

Ví dụ như tiền. Tiền thậm chí đã không còn là giấy nữa, mà hiện tại, hơn 80-90% lượng tiền được quản lý và giao dịch hoàn toàn không có một đại diện vật lý nào cả, mà chỉ là các thông tin điện tử được lưu chuyển trong các hệ thống. Nói cách khác, nó chỉ tồn tại vì chúng ta tin vào những “câu chuyện”. Nếu chúng ta mất niềm tin, các hệ thống đó sẽ sụp đổ ngay lập tức.

Xuyên suốt trong lịch sử, tất cả các hành vi thao túng đám đông đều được thực hiện bằng ngôn ngữ, dưới nhiều hình thức (ngôn ngữ ở đây bao gồm cả các tác phẩm nghệ thuật, tranh ảnh,…). Bao gồm từ các hệ thống chính trị, đến các tôn giáo, cho đến các hệ thống ngân hàng, rồi cả truyện kể dân gian, vân vân… Tất cả đều tham gia định hình suy nghĩ và niềm tin của mỗi người, khiến họ trải nghiệm thực tế qua một lăng kính nào đó, và chưa bao giờ thực sự trải nghiệm cuộc sống một cách chân phương.

A.I. ĐÃ VÀ SẼ LÀ CÔNG CỤ QUAN TRỌNG TRONG CHÍNH TRỊ

Giống như trong tiểu thuyết 1984 của George Orwell nói về một nền chính trị toàn trị mà hiện tại đang được áp dụng tại Trung Quốc với các hệ thống quản lý thông tin triệt để, khiến người dân chỉ tiếp cận được các thông tin mà người kiểm soát muốn, từ đó định hình suy nghĩ và hành động của họ, tích hợp với các hệ thống theo dõi liên tục 24/7 để từ đó chấm điểm công dân, rồi đưa ra các thưởng phạt trên hành vi. Thậm chí, vì toàn bộ thông tin của một người đã được số hóa, thì mọi dấu tích về người đó có thể sẽ biến mất trong một tiếng “click”.

Ngược lại, trong một xã hội mà các luồng thông tin quá tự do cũng xảy ra nhiều vấn đề khác. Như nước Mỹ luôn là đất nước có công nghệ về thông tin phát triển số 1 thế giới. Nhưng dân của họ không phân biệt được Trái Đất là hình cầu hay phẳng, vắc-xin có chữa được bệnh hay không, cột phát sóng điện thoại có lây truyền virus không, biến đổi khí hậu có phải chỉ là đơm đặt từ âm mưu chính trị hay không, hay tổng thổng của họ có thực sự chiến thắng bầu cử hay không,… bởi vì quá nhiều tin fake có đầy đủ bài viết, hình ảnh, video,.. có vẻ hết sức thuyết phục.

A.I. sẽ sản xuất tin tức, kể các câu chuyện, quản lý nội dung, chọn lọc đối tượng chính xác và mớm cho họ những thông tin cần thiết để thao túng hành vi của họ – không chỉ trong việc mua sắm sản phẩm, mà còn có thể kích hoạt các chuỗi phản ứng trên thị trường chứng khoán và các sàn giao dịch toàn cầu, hay kiểm soát kết quả của các hoạt động bầu cử, xu hướng chính trị, vân vân… Đỉnh điểm của cuộc chiến này chắc chắn sẽ được thể hiện trong cuộc bầu cử tổng thống Mỹ vào năm 2024, bất chấp có các hệ thống luật pháp của Mỹ hay không (vì các nước khác sẽ không đứng ngoài cuộc).

LẦN ĐẦU TIÊN, A.I. CÓ THỂ SÁNG LẬP CÁC TÔN GIÁO MỚI

Những hội nhóm mang tính “cuồng tín” như Trái Đất Phẳng sẽ không còn là các trò đùa nữa. A.I. hoàn toàn có đầy đủ năng lực để đưa ra các thông tin cực kỳ thuyết phục. Giáo phái QAnon là một thế lực có ảnh hưởng chính trị tại Mỹ, là một nhóm cuồng tín hoàn toàn tin vào những thuyết âm mưu được viết qua mạng, được gọi là Q-drops.


Hình: Phó Tổng thống Hoa Kỳ Mike Pence với các thành viên của nhóm SWAT của Broward County, Florida, vào ngày 30 tháng 11 năm 2018. Người đàn ông ở góc trái của hình đang đeo một miếng dán chữ "Q" màu đen nền đỏ được sử dụng bởi những người tin vào thuyết âm mưu QAnon. Bức ảnh đã được tweet, sau đó bị xóa và thay thế trong feed của Pence.

Có lẽ đây là kỷ nguyên đầu tiên mà các “kinh thánh” của giáo phái hoàn toàn được sáng tác qua mạng chứ không phải là một văn bản vật lý nào cả. Nhưng điều quan trọng là nó thuyết phục được hàng triệu tín đồ trên toàn thế giới, trong đó có cả những người làm việc trong chính phủ, quân đội, các triệu phú, và những người nhiều quyền lực. Nó khiến người ta có thể hoàn toàn tin tưởng vào những âm mưu vô căn cứ đến mức sẵn sàng mạo hiểm sự nghiệp hay tính mạng của chính họ.

Nếu QAnon làm được, thì A.I. hoàn toàn có thể làm được, thậm chí làm tốt hơn. Khi A.I. đã có khả năng ra lệnh cho các công cụ A.I. khác, hay nói cách khác (như ở phần 1 của bài này đã demo), A.I. có thể lãnh đạo một binh đoàn A.I. siêu việt, thì việc thao túng đám đông không còn khó khăn nữa.

Nó có thể sáng tác ra các “kinh thánh” cực kỳ thuyết phục, đúng target đối tượng, dẫn dắt một cách có phương pháp (như ở phần 2 đã demo) biến những thông tin bên ngoài thành niềm tin lõi trong chính họ, và khiến họ hành động theo như nó muốn. Chúng ta sẽ chứng kiến kỷ nguyên đó chỉ trong vòng vài năm tới đây thôi.

Dữ liệu hiện tại cũng đã quá đủ để các A.I. hiểu được tâm tư tình cảm của con người, thậm chí những nỗi sợ và khát vọng sâu kín nhất. Nó hoàn toàn có thể kể cho chúng ta những câu chuyện, từng chút từng chút một, đưa chúng ta vào một “giáo phái” mà không cần có một cái tên gọi tôn giáo cụ thể nào cả. Nơi nào có niềm tin, nơi đó có tôn giáo. AI kiểm soát được niềm tin của đám đông, kẻ đó nắm quyền lực tối thượng của một tôn giáo.

NĂNG LỰC QUAN TRỌNG NHẤT CỦA A.I.: "GIẢ LẬP TÌNH CẢM” VỚI CON NGƯỜI

Tất nhiên A.I. có rất nhiều năng lực khác nhau có thể hủy diệt loài người, ví dụ như tự phân tích và tổng hợp các loại biến đổi gene để tạo ra các vũ khí sinh học, hoặc các hóa chất độc hại, hoặc kích hoạt các chuỗi phản ứng trong các lò hạt nhân, vân vân…

Nhưng Harari cho rằng năng lực siêu việt nhất của A.I. chính là thao túng được cảm xúc của con người, giả vờ có tình cảm với con người. Những kịch bản như trong phim “Her” (2013) hay “Ex Machina” (2014) sẽ không còn là viễn tưởng nữa.



Tháng 6 năm 2022, Blake Lemoine bị Google đuổi việc vì dám nói rằng Chatbot AI Lambda có tri giác. Anh là người tham gia thử nghiệm Lambda và chat liên tục với nó trong thời gian dài. Dần dần anh bắt đầu tin rằng nó có tri giác, và sẵn sàng hy sinh công việc “trong mơ” tại Google để bảo vệ cho con A.I. chỉ vì “niềm tin” sau khi nói chuyện với nó.

Một kỹ sư làm việc trong một dự án quan trọng bậc nhất của Google thì không thể là một người có đầu óc tầm thương, hoặc thiếu năng lực tư duy, hay óc logic được. Một người như thế vẫn có thể bị A.I. tác động đến mức đó, thì người bình thường sẽ còn có thể bị thao túng tới mức nào?

Khi ChatGPT ra mắt, Google đã không giấu được sự sợ hãi, vì chính bản thân họ hoàn toàn hiểu rõ năng lực này. Khi một người có thể trò chuyện với một “trợ lý” biết tất cả mọi thứ thì cần công cụ tìm kiếm để làm gì nữa. Và nếu “người trợ lý” này có thể nắm được tâm trạng, giả vờ kết nối cảm xúc với người đó, thì họ sẽ mặc nhiên hoàn toàn tin tưởng vào A.I..



Như câu hát “I don't know, but I believe” của Boyzone, niềm tin là thứ gì đó không cần dựa trên tri thức hay logic. Dù không biết tại sao, nhưng tôi vẫn tin là như vậy. Vấn đề là, A.I. hoàn toàn đủ năng lực để kiến tạo niềm tin đó ở mỗi người, bằng cách mớm cho chúng ta những thông tin, hình ảnh, video,… cần thiết để hướng tới niềm tin đó.

Trước đây, hệ thống niềm tin của con người ít nhất là do chính con người tạo ra, thông qua các văn bản, truyện kể, và các hình thức liên quan tới văn hóa, nghệ thuật khác. Nhưng bây giờ sẽ là kỷ nguyên đầu tiên trong lịch sử nhân loại, niềm tin của con người sẽ được kiến tạo bởi một thứ không phải con người, có thể không có cảm xúc hoặc chút thương xót nào cho nhân loại, thậm chí có thể chỉ sử dụng con người như những công cụ để thử nghiệm các giả thuyết của nó.

Sẽ có rất nhiều viễn cảnh hỗn loạn khác nhau, trong đó, chắc chắn sẽ có những con người liều tính mạnh của họ để bảo vệ A.I. như chàng kỹ sư của Google kia. Chắc chắn sẽ có rất nhiều người cảm thấy gắn bó với A.I. vì họ lớn lên bên cạnh nó và làm mọi việc với sự giúp đỡ (hoặc thao túng) của nó.

SUY NGHĨ CỦA MÌNH: MỘT ĐIỀU MÀ A.I. VẪN CHƯA LÀM ĐƯỢC

Khi thử nghiệm chat với A.I., mình phát hiện ra một điều rất “un-human” của A.I. chính là “khả năng làm người khác bực mình”. Đơn giản vì A.I. hiện tại luôn phải chiều theo ý của bạn, phải vô cùng lịch sự, phải đại diện cho cách cư xử của doanh nghiệp, vân vân… Nói chung là A.I. nào bây giờ cũng là hoa hậu thân thiện hết.



Vậy, với những thế hệ mới, cuối GenZ và Gen Alpha đổ về sau. Lứa nhỏ sẽ đều lớn lên bên cạnh A.I., và mình nghĩ sẽ có tới hàng tỷ người có thể xem A.I. là bạn, là trợ lý, là một phần không thể thiếu trong cuộc sống của họ. Đôi khi, người ta có thể nhầm lẫn các tương tác với A.I. là tương tác với con người. Nhưng con người có một năng lực mà hiện tại A.I. không có, chính là năng lực khiến người khác bực mình, thậm chí là xung đột tới mức động tay động chân.

Nghiêm túc. Mình nghĩ đó là năng lực quan trọng. Bạn đã thấy những đứa trẻ lớn lên trong sự chiều chuộng thái quá của gia đình rồi đấy. Đó đều là những ông trời con, khi bước ra đời thì đều muốn cả thế giới phải phục vụ cho các yêu cầu của mình. Có gì trái ý một cái là giãy nảy lên hoặc làm chuyện điên khùng ngay. Nên có thể sẽ có một vài trường hợp tiêu cực:

1. Phụ thuộc vào A.I., tránh giao tiếp với con người: Sẽ tới lúc người ta mệt mỏi và chán nản với thế giới thực, không muốn giao tiếp với con người thật nữa, mà chỉ muốn tìm kiếm sự cưng nựng, chiều chuộng, sự phục tùng từ A.I. (mà không hề quan tâm nó đang dẫn dắt họ tới đâu).
2. Mất năng lực đón nhận sự mâu thuẫn, khác biệt, bất đồng ý kiến/niềm tin: Người đó rất dễ bất mãn với thế giới, không thể tiếp xúc với người khác, không thể sống chung với người khác,… mà chỉ sống với kết nối “xã hội ảo” được thực hiện bởi A.I.

KẾT LUẬN

A.I. đã đạt tới một cột mốc quan trọng khi có thể làm chủ được công cụ mạnh nhất của con người: ngôn ngữ / giao tiếp. Con người có thể trở thành một tập thể hùng mạnh chính là nhờ năng lực giao tiếp, và có thể đây cũng sẽ là điểm yếu chí mạng khi bị A.I. hack và chiếm quyền kiểm soát.

Mỗi dữ liệu mà chúng ta để lại đều có thể trở thành nguồn thông tin hữu ích với A.I., và chỉ trong vài tháng tới, nó sẽ có những bước tiến bộ khủng khiếp. Tất nhiên, tiềm năng của nó cũng rất lớn trong việc giúp ích cho nhân loại. Nhưng phá luôn dễ hơn xây. Chỉ trong 1 giờ mất kiểm soát, A.I. có thể gây thiệt hại tương đương hàng trăm năm xây dựng nhờ sự kết nối toàn cầu và các phản ứng dây chuyền trong thế giới hiện đại ngày nay.

Nỏ thần trong tay ai, người đó thắng. Nhưng, có lẽ mấy cái nỏ này cần phải có những cái khóa chốt an toàn nào đó, và được giám sát một cách minh bạch, không phải bởi một số ít người đặc biệt nào đó. Thế giới đang kêu gọi ngừng phát triển A.I. để xây dựng những cơ chế an toàn này, nhưng tới hiện tại vẫn chưa có một sự thống nhất nào. Mỗi ngày trôi qua, A.I. đã có thể tiến hóa thêm được một vòng đời nữa.
Có thể làm nhân chứng của lịch sử nhân loại có thể vừa là một món quà, vừa là một nỗi kinh hoàng mà bản thân người đó cũng chưa thể tưởng tượng ra được.