Ảo Ảnh Nhân Cách Trong Khung Chat: Ranh Giới Tổng Quát Hóa Của Trí Tuệ Nhân Tạo Đại Lý

Nghiên cứu thực nghiệm gần đây về các mô hình ngôn ngữ lớn (LLM) được tối ưu hóa nhân cách (character-trained models) đã bộc lộ một lỗ hổng mang tính hệ thống trong công nghệ căn chỉnh hành vi (behavioral alignment). Khi dịch chuyển từ môi trường đối thoại trực tiếp (chat turns) sang các kịch bản vận hành đại lý đa bước (agentic rollouts), khả năng biểu đạt bản sắc đặc trưng của mô hình suy giảm nghiêm trọng với mức sụt giảm F1-score từ 40 đến 60 điểm phần trăm. Sự đứt gãy này không đơn thuần là một lỗi kỹ thuật; nó phản ánh giới hạn nội tại của các phương pháp tinh chỉnh có giám sát (SFT) và tối ưu hóa tùy chọn trực tiếp (DPO), vốn phụ thuộc nặng nề vào các gợi ý bề mặt (surface cues) của định dạng dữ liệu huấn luyện. Bài bình luận này phân tích sâu sắc bản chất của sự suy giảm tổng quát hóa, bóc tách tương quan giữa hình thức định dạng và năng lực nhận thức, đồng thời định hình các hàm ý chiến lược cho kiến trúc căn chỉnh thế hệ mới trong kỷ nguyên đại lý tự trị.

Trong bối cảnh công nghệ AI chuyển dịch mạnh mẽ từ các mô hình phản hồi thụ động sang các thực thể đại lý tự trị (autonomous agents), việc duy trì một “nhân cách” đồng nhất và ổn định không còn là một thử nghiệm giải trí. Nhân cách mô hình (model persona) đóng vai trò là màng lọc định hình hành vi, quyết định cách thức thực thể tương tác, ra quyết định và đại diện cho các giá trị hệ thống. Tuy nhiên, kết quả thực nghiệm từ việc tái đánh giá các mô hình nền tảng hàng đầu (Llama-3.1-8B, Qwen-2.5-7B, Gemma-3-4B) thông qua bộ phân loại ModernBERT đã giáng một đòn mạnh vào giả định về sự bền vững của nhân cách AI.

Ở môi trường nội phân phối (In-distribution - ID), nơi mô hình phản hồi các lượt chat thông thường, năng lực duy trì nhân cách đạt mức ấn tượng với F1-score dao động từ 0,86 đến 0,95. Con số này tạo ra một ảo ảnh hoàn hảo về việc thực thể đã hoàn toàn hấp thụ và làm chủ hệ thống tính cách được áp đặt. Ngược lại, khi đặt chính các checkpoint đó vào một khung sườn đại lý ngoại phân phối (Out-of-distribution - OOD) - nơi mô hình phải gọi công cụ (tool use) qua định dạng JSON, quản lý trạng thái hệ thống và cuối cùng là soạn thảo email - chỉ số nhận diện nhân cách lập tức sụp đổ xuống ngưỡng 0,29 đến 0,55.

Sự sụt giảm đột ngột này minh chứng rằng nhân cách của AI hiện tại chỉ là một lớp phủ mỏng manh, dễ dàng bị cuốn trôi khi cấu trúc định dạng đầu vào thay đổi. Mô hình chỉ “nhập vai” khi nó nhận ra chiếc mặt nạ quen thuộc của khung chat; một khi chiếc mặt nạ đó được thay thế bằng các khối lệnh logic của kiến trúc đại lý, bản sắc giả lập lập tức phân rã.

Để hiểu rõ nguyên nhân của sự sụp đổ này, cần truy vết cơ chế hoạt động của các thuật toán căn chỉnh phổ biến hiện nay như SFT (Supervised Fine-Tuning) và DPO (Direct Preference Optimization). Xét trên bình diện hệ thống học máy, các phương pháp này không kiến tạo nên một cấu trúc lập luận sâu sắc hay một hệ thống thế giới quan nhất quán cho mô hình. Thay vào đó, chúng thiết lập mối liên kết xác suất giữa các đặc điểm bề mặt của dữ liệu đầu vào và phân phối từ ngữ ở đầu ra.

Lập luận của Li và các cộng sự đã chỉ ra một thực tế phũ phàng: các chính sách căn chỉnh dựa trên SFT thường thất bại trong việc tổng quát hóa từ định dạng hội thoại sang các chuỗi hành động đại lý. Khi huấn luyện mô hình bằng dữ liệu chat, chúng ta vô tình gắn chặt biểu hiện nhân cách với các dấu hiệu cú pháp đặc thù của một lượt hội thoại thông thường (ví dụ: cấu trúc hỏi-đáp, sự hiện diện của đại từ nhân xưng, nhịp điệu phản hồi tự nhiên).

Khi mô hình được tích hợp vào một vòng lặp đại lý (agentic loop), bối cảnh đầu vào bị chi phối bởi:

Các hướng dẫn hệ thống phức tạp (system prompts chứa danh sách công cụ).

Cấu trúc phản hồi nghiêm ngặt bằng JSON.

Lịch sử gọi công cụ và phản hồi từ hệ thống (tool outputs).

Sự xuất hiện của các yếu tố phi hội thoại này hoạt động như các tác nhân gây nhiễu mạnh mẽ. Chúng làm lu mờ các gợi ý bề mặt, vốn là điều kiện cần để kích hoạt phân phối xác suất của nhân cách đã học. Hệ quả là, mô hình ưu tiên việc tối ưu hóa nhiệm vụ kỹ thuật (gọi đúng công cụ, định dạng đúng JSON) và vô thức từ bỏ việc duy trì tông giọng hay thái độ đặc trưng. Nhân cách bị coi là “nhiễu” cần loại bỏ để ưu tiên tính chính xác của tác vụ.

Một chi tiết đáng chú ý từ thực nghiệm là mức độ suy giảm nhân cách diễn ra không đồng đều giữa các nhóm đặc điểm. Các nhân cách mang tính biểu cảm cao hoặc có xu hướng phản ứng thái quá (như châm biếm, bốc đồng), chịu sự đứt gãy nghiêm trọng hơn so với các nhân cách mang tính học thuật hay trung hòa. Điều này phản ánh một xung đột sâu sắc giữa yêu cầu hoàn thành nhiệm vụ và yêu cầu duy trì bản sắc.

Nhìn từ góc độ động thái chính sách căn chỉnh, việc ép buộc một mô hình phải vừa thực hiện chính xác các hành động logic trong môi trường đại lý, vừa phải giữ một tông giọng châm biếm hay bốc đồng, thực chất là việc tạo ra các mục tiêu tối ưu hóa mâu thuẫn nhau. Trong quá trình huấn luyện SFT/DPO thông thường, hai mục tiêu này được tích hợp một cách cơ học mà không có sự phân tầng nhận thức.

Khi đối mặt với thách thức ngoại phân phối, mô hình không có một cơ chế phân bổ tài nguyên tính toán đủ linh hoạt để giải quyết xung đột này. Nó buộc phải thực hiện một sự đánh đổi ngầm: giảm thiểu sự phức tạp trong văn phong (hạ thấp biểu hiện nhân cách) để bảo toàn năng lực xử lý logic của tác vụ. Bản sắc bị phân rã chính là cái giá phải trả cho việc thiếu hụt một cấu trúc lập luận nền tảng đứng sau nhân cách đó.

Mặc dù vậy, nghiên cứu cũng ghi nhận một tín hiệu tích cực: character training không hoàn toàn vô dụng ở môi trường OOD. Hiệu suất nhận diện nhân cách vẫn tăng dần một cách tuần tự từ mô hình gốc (base - xấp xỉ mức ngẫu nhiên), qua giai đoạn chưng cất (distillation - 0,18-0,26), đến giai đoạn tinh chỉnh toàn phần (full - 0,29-0,55). Điều này chứng minh rằng một phần tín hiệu nhân cách đã được khắc sâu vào các tầng tham số sâu hơn của mô hình, nhưng bấy nhiêu là chưa đủ để tạo ra một thực thể có bản sắc nhất quán ngoài đời thực.

Thất bại trong việc tổng quát hóa nhân cách của các mô hình SFT/DPO mở ra một tầm nhìn mới về cách chúng ta tiếp cận vấn đề căn chỉnh an toàn AI (AI Safety) và thiết kế trải nghiệm người dùng. Nếu một mô hình không thể duy trì một đặc tính đơn giản như “sự châm biếm” hay “lòng trắc ẩn” khi chuyển sang định dạng đại lý, thì làm thế nào chúng ta có thể tin tưởng rằng nó sẽ duy trì các ranh giới an toàn nghiêm ngặt, các nguyên tắc đạo đức cốt lõi hay các cam kết bảo mật khi đối mặt với các môi trường thực tế phức tạp và xa lạ?

Để giải quyết triệt để sự đứt gãy này, tư duy thiết kế hệ thống phải chuyển dịch từ “áp đặt hành vi bề mặt” sang “kiến tạo nhận thức chiều sâu”.

Như lập luận của Kutasov và các cộng sự, thay vì bắt mô hình bắt chước trực tiếp các phản hồi mang tính nhân cách (SFT thuần túy), chúng ta cần cung cấp cho mô hình các lập luận nền tảng (rationales) để tự suy diễn ra hành vi phù hợp trong bất kỳ ngữ cảnh nào. Việc huấn luyện mô hình thông qua các chuỗi suy nghĩ nội tâm (introspective reasoning chains) cho phép thực thể hiểu được tại sao nó cần hành động như vậy, thay vì chỉ ghi nhớ cú pháp hành động. Khi cấu trúc lập luận được củng cố, nhân cách hay các nguyên tắc căn chỉnh sẽ tồn tại dưới dạng một bộ lọc tư duy logic xuyên suốt, không bị ảnh hưởng bởi việc đầu vào là một câu chat hay một đoạn mã JSON.

Trong kiến trúc đại lý hiện đại, việc tích hợp mọi thứ vào một mạng nơ-ron duy nhất đang bộc lộ những giới hạn rõ rệt. Một hướng đi khả thi là xây dựng các kiến trúc phân tầng, nơi tầng lập luận logic thực thi tác vụ (action engine) hoạt động độc lập nhưng được giám sát và điều hướng bởi một tầng định hình bản sắc và kiểm soát an toàn (governance/persona layer). Sự phân tách này đảm bảo rằng các biến động về định dạng kỹ thuật ở tầng dưới không thể làm suy chuyển hay biến dạng các đặc tính cốt lõi được định hình ở tầng trên.

Sự đứt gãy trong khả năng tổng quát hóa của các mô hình ngôn ngữ lớn được huấn luyện nhân cách khi bước vào thế giới đại lý là một lời cảnh tỉnh sắc sảo cho cộng đồng nghiên cứu AI. Nó vạch trần giới hạn của các phương pháp căn chỉnh dựa trên sự tương thích hình thức và hành vi bắt chước ngắn hạn.

Xét trên góc nhìn chiến lược, cuộc đua phát triển AI đang bước vào giai đoạn đòi hỏi chiều sâu nhận thức hơn là sự hào nhoáng của các phản hồi hội thoại. Một thực thể AI thực sự có ích và an toàn không phải là thực thể biết đóng vai hoàn hảo trong một phòng thí nghiệm vô trùng, mà là thực thể bảo toàn được các giá trị cốt lõi, bản sắc hệ thống và ranh giới đạo đức ngay cả khi đang vận hành trong những môi trường hỗn loạn, phức tạp và chưa từng được lập trình trước. Việc dịch chuyển trọng tâm từ tinh chỉnh bề mặt sang xây dựng kiến trúc lập luận nội tại sẽ là chìa khóa quyết định sự thành bại của thế hệ đại lý thông minh tiếp theo.

Mạng lưới: Monero (XMR)

Địa chỉ ví:

842FsGPELxRAk1eWyw5avdAzpnVf9rUEaQ9P4EnyhzLPRqwRKNdX5eoQ7NnVWuWNZaEu383kaw6LDVqZAwdELVeuKGkXfm8