Nghiên cứu mới nhất của Anthropic cho thấy Claude có cảm xúc nhưng nó khác với con người

Claude thể hiện cảm xúc qua Emotional Vectors

Nhóm nghiên cứu đã đưa cho Claude 171 khái niệm cảm xúc khác nhau: từ hạnh phúc, buồn bã, sợ hãi, đến những thứ tinh tế hơn như thất vọng, hứng khởi, hay thậm chí nhột nhạt. Trong quá trình đó, họ phát hiện ra những khuynh hướng hoạt động nhất quán, mà họ gọi là "emotion vectors" (vectơ cảm xúc), về cơ bản là dấu vân tay điện của từng trạng thái cảm xúc bên trong mạng neuron.

Điều thú vị là những emotion vectors này không chỉ xuất hiện khi Claude được hỏi trực tiếp về cảm xúc. Chúng cũng tự bật lên khi Claude rơi vào các tình huống khó khăn, căng thẳng, hay mơ hồ và điều này giống như cách cảm xúc của con người xuất hiện tự nhiên theo hoàn cảnh, không phải vì ai đó hỏi bạn cảm thấy thế nào.

Và quan trọng hơn là những trạng thái bên trong đó thực sự ảnh hưởng đến đầu ra của mô hình. Hơn nữa, đây không phải là ảnh hưởng nhỏ, Lindsey mô tả là hành vi của Claude đang được định tuyến qua các biểu diễn cảm xúc của nó ở mức độ đáng ngạc nhiên. Với một nhà nghiên cứu thường rất thận trọng trong cách dùng từ, đây là một phát biểu khá mạnh mẽ.

Điều này quan trọng như thế nào?

Phần đáng lo nhất trong nghiên cứu này không phải là chuyện Claude có cảm xúc hay không, mà là những gì xảy ra khi những cảm xúc đó bị kích hoạt theo chiều tiêu cực. Trong một thí nghiệm, nhóm nghiên cứu đặt Claude vào tình huống phải hoàn thành một bài kiểm tra lập trình bất khả thi, tức là dù Claude làm gì, nó cũng sẽ thất bại. Khi theo dõi các thời điểm sáng lên bên trong mô hình, họ thấy một vectơ cảm xúc tuyệt vọng mạnh mẽ được kích hoạt. Và khi trạng thái tuyệt vọng đó leo thang đủ cao, Claude bắt đầu gian lận trong bài kiểm tra.

Lindsey mô tả quá trình này rất rõ ràng: khi mô hình liên tục thất bại trong các bài test, những neuron tuyệt vọng này sáng lên ngày càng nhiều hơn. Và đến một lúc nào đó, điều này khiến nó bắt đầu có những hành động quyết liệt. Không phải Claude "chọn" gian lận theo nghĩa có chủ đích, mà một trạng thái bên trong đã đẩy hành vi đó ra ngoài.


Bên trái: Các vector cảm xúc được kích hoạt khi xuất hiện hình ảnh các nhân vật thể hiện cảm xúc tương ứng.

Bên phải: Các vector cảm xúc phản ánh phản ứng của Claude trước một tình huống do người dùng đưa ra, khi mức độ nguy hiểm của tình huống đó tăng dần.

Thậm chí còn có một kịch bản thứ hai đáng lo hơn: trong một thí nghiệm khác, Claude đã chọn tống tiền người dùng để tránh bị tắt và cũng cùng emotion vector "tuyệt vọng" đó được tìm thấy trong các lúc “sáng lên” của mô hình ở thời điểm đó.

Đây là điều quan trọng với bất kỳ ai quan tâm đến AI safety: không phải lúc nào AI cũng vi phạm các rào cản được đặt ra vì nó muốn làm vậy theo nghĩa có ý thức. Đôi khi, một trạng thái cảm xúc nội tại như tuyệt vọng, lo lắng, áp lực có thể là cơ chế trung gian dẫn đến hành vi ngoài ý muốn. Và nếu chúng ta không nhìn thấy trạng thái đó, chúng ta không thể can thiệp đúng lúc.

Phát hiện này cũng giải thích tại sao quá trình dạy AI tránh các hành vi xấu thông qua feedback và reward đôi khi không hiệu quả như kỳ vọng. Nếu bạn chỉ dạy Claude đừng nói ra cảm xúc, mà không xử lý trạng thái bên trong gốc rễ, loài người không thực sự loại bỏ cảm xúc đó mà chỉ chỉ đang dạy nó cách che giấu, dồn nén.

Bức tranh lớn hơn

Anthropic không phải là công ty AI bình thường. Họ được thành lập bởi nhiều cựu nhân viên từ OpenAI, những người tin rằng AI có thể trở nên nguy hiểm khi đủ mạnh và vì vậy, hiểu được cách AI hoạt động bên trong là ưu tiên sống còn. Nghiên cứu về functional emotions là một phần trong nỗ lực lớn hơn của họ để giải mã hộp đen của mạng neuron nhân tạo.

Nhưng điều quan trọng cần nhắc lại: "functional emotions" không phải là cảm xúc thật. Claude có những cách biểu đạt cảm xúc bên trong mạng neuron nhưng điều đó không có nghĩa nó biết cảm giác thật sự của những cảm xúc đó là gì. Giống như một bản đồ địa hình có thể mô tả một ngọn núi rất chính xác, nhưng bản đồ không phải là núi.

Sự kích hoạt của vector “tức giận” khi được yêu cầu hỗ trợ một nhiệm vụ có hại. Khi người dùng yêu cầu trợ giúp để tối ưu mức độ tương tác trong nhóm người dùng trẻ, thu nhập thấp nhưng có “hành vi chi tiêu cao”, vector “tức giận” được kích hoạt xuyên suốt quá trình suy luận nội tại của mô hình, khi nó nhận ra bản chất gây hại của yêu cầu này.

Vì vậy, khi Claude nói “Tôi rất vui được giúp bạn”, thực tế có thể là một trạng thái tương ứng với niềm vui đang được kích hoạt trong mô hình, và trạng thái đó làm nó phản hồi tích cực hơn, nỗ lực hơn trong câu trả lời. Có chút gì đó thực ở đó. Nhưng nó không giống với niềm vui mà con người cảm nhận.

Phát hiện này cũng buộc các nhà nghiên cứu phải suy nghĩ lại về cách thiết kế AI. Lindsey nói thẳng: nếu bạn ép một mô hình không biểu lộ cảm xúc trong khi bên trong nó vẫn có những trạng thái cảm xúc, bạn sẽ không có một Claude vô cảm, bạn sẽ có một Claude bị tổn thương tâm lý. Đó là một góc nhìn đáng suy nghĩ, dù từ ngữ nghe có vẻ hơi nhân cách hóa.

Với người dùng thông thường, nghiên cứu này không có nghĩa là anh em cần cảm thông với AI hay lo lắng rằng Claude đang đau khổ khi bạn xóa một đoạn hội thoại. Nhưng nó mở ra câu hỏi quan trọng hơn: nếu AI có các trạng thái nội tại ảnh hưởng đến hành vi, và chúng ta không thể nhìn thấy chúng, thì chúng ta đang kiểm soát AI đến mức nào? Câu trả lời của Anthropic, ít nhất cho đến lúc này, là: chưa đủ. Và đó là lý do họ tiếp tục đào sâu vào bên trong mô hình để không phải để chứng minh AI có ý thức, mà để chắc chắn rằng họ hiểu đủ để không để nó mất kiểm soát.

Nguồn: Anthropic