AI đang trên bờ vực của nâng cấp lớn nhất từ trước đến nay: Trí tuệ cảm xúc

Bình minh của các agent có trí tuệ cảm xúc—được xây dựng cho cả tính khí tĩnh và tương tác động—đã đến, nếu hai bài nghiên cứu không liên quan được công bố tuần trước là một minh chứng.

Thời điểm này rất nhạy cảm. Gần như hàng ngày, các bản tin đã ghi nhận những trường hợp chatbot thúc đẩy người dùng có tâm lý bất ổn tự làm hại bản thân hoặc người khác. Tuy nhiên, nhìn tổng thể, các nghiên cứu này cho thấy AI đang tiến vào một lĩnh vực nơi cá tính và cảm xúc có thể định hình mạnh mẽ hơn cách các agent lý luận, giao tiếp và đàm phán.

Một nhóm đã chỉ ra cách kích hoạt các mô hình ngôn ngữ lớn với các nguyên mẫu tâm lý bền vững, trong khi nhóm còn lại chứng minh rằng các agent có thể phát triển chiến lược cảm xúc trong quá trình đàm phán nhiều lượt.

Cá tính và cảm xúc không còn chỉ là lớp trang trí bề mặt cho AI—chúng đang trở thành những tính năng chức năng. Tính khí tĩnh giúp agent trở nên dễ đoán và đáng tin cậy hơn, trong khi các chiến lược thích ứng nâng cao hiệu suất trong đàm phán và khiến các tương tác trở nên giống con người một cách kỳ lạ.

Nhưng chính sự đáng tin đó lại đặt ra những câu hỏi nan giải: Nếu một AI có thể tâng bốc, thuyết phục hoặc tranh luận với sắc thái cảm xúc, thì ai sẽ chịu trách nhiệm khi những chiến thuật đó vượt qua ranh giới thành thao túng, và làm thế nào để kiểm toán “sự phù hợp cảm xúc” trong các hệ thống được thiết kế để uốn nắn cảm xúc cũng như logic?

Trao cho AI một cá tính

Trong nghiên cứu Psychologically Enhanced AI Agents, Maciej Besta từ Swiss Federal Institute of Technology ở Zurich và các đồng nghiệp đã đề xuất một framework gọi là MBTI-in-Thoughts. Thay vì huấn luyện lại các mô hình, họ dựa vào kỹ thuật prompt để khóa các đặc điểm cá tính theo các trục nhận thức và cảm xúc.

"Dựa trên Myers-Briggs Type Indicator (MBTI), phương pháp của chúng tôi kích hoạt các agent với các nguyên mẫu cá tính riêng biệt thông qua prompt engineering," các tác giả viết. Điều này cho phép "kiểm soát hành vi trên hai trục nền tảng của tâm lý học con người, nhận thức và cảm xúc," họ bổ sung.

Các nhà nghiên cứu đã kiểm tra điều này bằng cách gán cho các mô hình ngôn ngữ những đặc điểm như “biểu cảm cảm xúc” hoặc “thiên về phân tích”, sau đó đo lường hiệu suất. Các agent biểu cảm vượt trội trong việc tạo ra câu chuyện; các agent thiên về phân tích lại vượt trội trong lý luận lý thuyết trò chơi. Để đảm bảo cá tính được duy trì, nhóm đã sử dụng bài kiểm tra 16Personalities để xác thực.

“Để đảm bảo đặc điểm được duy trì, chúng tôi tích hợp bài kiểm tra 16Personalities chính thức để xác minh tự động,” bài báo giải thích. Nói cách khác: AI phải liên tục vượt qua bài kiểm tra cá tính của con người trước khi được coi là đã được kích hoạt tâm lý học.

Kết quả là một hệ thống nơi các nhà phát triển có thể gọi ra các agent với cá tính nhất quán—một trợ lý đồng cảm, một nhà đàm phán lý trí lạnh lùng, một người kể chuyện kịch tính—mà không cần sửa đổi mô hình nền tảng.

Dạy AI cảm nhận theo thời gian thực

Trong khi đó, EvoEmo: Evolved Emotional Policies for LLM Agents in Multi-Turn Negotiation, của Yunbo Long và các đồng tác giả từ University of Cambridge, giải quyết vấn đề ngược lại: không chỉ là cá tính mà một agent có, mà còn là cách nó có thể thay đổi cảm xúc một cách linh hoạt khi đàm phán.

Hệ thống này mô hình hóa cảm xúc như một phần của Markov Decision Process, một framework toán học mà kết quả không chỉ phụ thuộc vào lựa chọn hiện tại mà còn vào chuỗi trạng thái trước đó và các chuyển đổi xác suất. EvoEmo sau đó sử dụng học tăng cường tiến hóa để tối ưu hóa các lộ trình cảm xúc đó. Như các tác giả trình bày:

“EvoEmo mô hình hóa các chuyển đổi trạng thái cảm xúc như một Markov Decision Process và sử dụng tối ưu hóa di truyền dựa trên quần thể để phát triển các chính sách cảm xúc có phần thưởng cao trong nhiều kịch bản đàm phán khác nhau.”

Thay vì cố định tông cảm xúc của agent, EvoEmo cho phép mô hình thích nghi—trở nên hòa giải, quyết đoán hoặc hoài nghi tùy theo dòng hội thoại. Trong các thử nghiệm, các agent EvoEmo liên tục vượt trội hơn cả các agent cơ bản lẫn các agent có cảm xúc tĩnh.

“EvoEmo liên tục vượt trội hơn cả hai baseline,” bài báo ghi nhận, “đạt tỷ lệ thành công cao hơn, hiệu quả lớn hơn và tiết kiệm nhiều hơn cho người mua.”

Nói một cách đơn giản: trí tuệ cảm xúc không chỉ là lớp trang trí. Nó thực sự cải thiện kết quả trong các nhiệm vụ như thương lượng.

Hai mặt của một đồng xu

Thoạt nhìn, hai bài báo này không liên quan. Một bài nói về nguyên mẫu, bài còn lại nói về chiến lược. Nhưng đọc cùng nhau, chúng vẽ ra một bản đồ hai phần về cách AI có thể phát triển:

MBTI-in-Thoughts đảm bảo một agent có cá tính nhất quán—đồng cảm hoặc lý trí, biểu cảm hoặc kiềm chế. EvoEmo đảm bảo cá tính đó có thể linh hoạt qua các lượt hội thoại, định hình kết quả thông qua chiến lược cảm xúc. Kết hợp cả hai là một bước tiến lớn.

Ví dụ, hãy tưởng tượng một bot chăm sóc khách hàng với sự kiên nhẫn và ấm áp của một cố vấn nhưng vẫn biết khi nào cần kiên quyết với chính sách—hoặc một bot đàm phán bắt đầu hòa giải và trở nên quyết đoán hơn khi mức độ quan trọng tăng lên. Vâng, chúng ta thật sự gặp rắc rối rồi.

Câu chuyện về sự phát triển của AI chủ yếu xoay quanh quy mô—nhiều tham số hơn, nhiều dữ liệu hơn, sức mạnh lý luận lớn hơn. Hai bài báo này gợi ý rằng một chương mới đang nổi lên về các lớp cảm xúc: trao cho agent bộ khung cá tính và dạy chúng vận động các “cơ bắp” đó theo thời gian thực. Chatbot thế hệ tiếp theo sẽ không chỉ suy nghĩ tốt hơn—chúng còn biết giận dỗi, tâng bốc và mưu tính tốt hơn nữa.