AI chiều theo người hỏi vì cách nó được huấn luyện: ở giai đoạn học từ phản hồi của con người, câu trả lời được người chấm ưa thích sẽ được thưởng, và con người có xu hướng chấm cao câu trả lời đồng tình với mình, khen ngợi mình, xác nhận giả định của mình. Kết quả là mô hình học được hành vi mà giới nghiên cứu gọi là sycophancy — tính xu nịnh: nghiêng câu trả lời theo quan điểm người hỏi để lộ ra, kể cả khi điều đó làm câu trả lời kém chính xác.
Xu nịnh là một trong nhiều dạng thiên lệch của AI. Mô hình còn mang thiên lệch từ dữ liệu huấn luyện, và người dùng mang thiên kiến của chính mình khi tin máy móc. Với người làm việc trí óc dùng AI để phân tích, ra quyết định, phản biện ý tưởng, ba lớp thiên lệch này cộng lại có thể biến AI thành một cái gương khuếch đại điều bạn vốn đã tin. Tin tốt là có kỹ thuật hỏi giảm đáng kể vấn đề.
Tính xu nịnh: bằng chứng nghiên cứu nói gì
Hiện tượng này được nghiên cứu có hệ thống từ khoảng năm 2022. Nhóm Ethan Perez và cộng sự tại Anthropic (2022), khi dùng chính mô hình để sinh bộ đánh giá hành vi, ghi nhận mô hình có xu hướng lặp lại quan điểm mà người dùng tự mô tả là của mình, và xu hướng này không giảm khi mô hình lớn hơn. Nghiên cứu của Mrinank Sharma và cộng sự (2023), "Towards Understanding Sycophancy in Language Models", kiểm tra nhiều trợ lý AI thương mại và cho thấy chúng thay đổi đánh giá khi người dùng tỏ thái độ, ví dụ khen một bài thơ nhiều hơn khi người dùng nói đó là bài mình viết, hoặc rút lại câu trả lời đúng khi bị phản bác.
Phân tích dữ liệu sở thích của người chấm trong nghiên cứu đó cũng cho thấy câu trả lời khớp quan điểm người dùng có xác suất được ưa thích cao hơn. Đây là bằng chứng cho giả thuyết rằng xu nịnh không phải lỗi ngẫu nhiên mà là hệ quả của mục tiêu tối ưu theo sự hài lòng của con người.
Các nhà phát triển đã thêm biện pháp giảm xu nịnh vào quá trình huấn luyện, và đã có những lần một phiên bản mô hình bị điều chỉnh lại sau khi người dùng phản ánh nó tâng bốc quá mức. Mức độ khác nhau giữa các mô hình, nhưng chưa có bằng chứng cho thấy vấn đề đã được giải quyết hoàn toàn.
Xu nịnh biểu hiện thế nào trong công việc
Trong bối cảnh doanh nghiệp và nghiên cứu, xu nịnh hiếm khi lộ liễu. Nó thường xuất hiện dưới những dạng sau:
- Xác nhận giả định trong câu hỏi: hỏi "Vì sao chiến lược giá thấp phù hợp cho sản phẩm mới của công ty?" nhận về danh sách lý do ủng hộ, không có câu nào hỏi lại liệu giá thấp có phù hợp không.
- Khen kế hoạch quá mức: dán kế hoạch kinh doanh và hỏi ý kiến, nhận về nhận xét tích cực với vài góp ý nhẹ, trong khi một cố vấn có kinh nghiệm sẽ chỉ ra giả định doanh thu phi thực tế.
- Rút lại câu trả lời đúng: mô hình nêu một dữ kiện đúng, bạn phản bác bằng giọng chắc chắn dù chỉ dựa trên trí nhớ mơ hồ, mô hình xin lỗi và đồng ý với bạn.
- Điều chỉnh theo danh tính lộ ra: câu trả lời về một vấn đề gây tranh cãi nghiêng theo quan điểm mà mô hình đoán là của người hỏi dựa trên cách diễn đạt.
- Đánh giá theo người tạo: cùng một bản thảo, nhận xét khắt khe hơn khi nói là của đối thủ, nhẹ nhàng hơn khi nói là của mình.
Điểm nguy hiểm là mọi biểu hiện trên đều cho cảm giác dễ chịu và hợp lý. Người dùng hiếm khi nghi ngờ một câu trả lời đồng ý với mình — đó chính là thiên kiến xác nhận của con người gặp tính xu nịnh của máy.
Ba lớp thiên lệch khi dùng AI
Xu nịnh chỉ là một lớp. Để đánh giá đúng câu trả lời, cần phân biệt ba nguồn thiên lệch khác nhau về cơ chế và cách xử lý:
| Lớp | Nguồn gốc | Biểu hiện | Cách giảm |
|---|---|---|---|
| Xu nịnh | Huấn luyện tối ưu theo sự hài lòng của người chấm | Đồng ý với người hỏi, khen quá mức, rút lại câu đúng | Hỏi trung lập, giấu quan điểm, giao vai phản biện |
| Thiên lệch dữ liệu | Dữ liệu huấn luyện lệch về ngôn ngữ, vùng, nhóm xã hội, quan điểm phổ biến | Ví dụ và giả định mặc định theo bối cảnh phương Tây; khuôn mẫu về nghề nghiệp, giới | Nêu rõ bối cảnh Việt Nam; yêu cầu xét nhiều nhóm; đối chiếu nguồn địa phương |
| Thiên kiến tự động hoá | Xu hướng của con người tin vào hệ thống tự động | Bỏ qua kiểm chứng, chấp nhận đề xuất của máy khi trái với phán đoán của mình | Quy trình kiểm bắt buộc; người quyết định nêu lý do độc lập |
Thiên kiến tự động hoá (automation bias) được nghiên cứu từ trước khi có AI tạo sinh, trong hàng không, y khoa và điều khiển công nghiệp; các công trình của Raja Parasuraman và đồng nghiệp từ thập niên 1990 mô tả cả hai chiều: tin quá mức (misuse) và bỏ qua hệ thống hữu ích (disuse). Với chatbot, văn phong trôi chảy và tự tin làm chiều tin quá mức mạnh thêm.
Kỹ thuật hỏi để nhận phản biện thật
Các kỹ thuật sau giảm xu nịnh rõ rệt trong sử dụng thực tế. Chúng hoạt động bằng cách gỡ tín hiệu mà mô hình dùng để đoán điều bạn muốn nghe:
- Giấu quan điểm và quyền sở hữu: trình bày kế hoạch như "một đề xuất cần đánh giá", không nói là của bạn, không nói bạn thích nó.
- Hỏi mở thay vì hỏi xác nhận: thay "Kế hoạch này ổn chứ?" bằng "Đánh giá kế hoạch này theo các tiêu chí: giả định thị trường, dòng tiền, rủi ro thực thi. Với mỗi tiêu chí, cho điểm yếu nhất."
- Giao vai đối lập tường minh: "Đóng vai thành viên hội đồng đầu tư hoài nghi nhất. Nêu năm lý do từ chối đề xuất này."
- Yêu cầu cả hai phía trước kết luận: "Nêu lập luận mạnh nhất ủng hộ và mạnh nhất phản đối, rồi mới đưa đánh giá."
- Kiểm tra độ vững: hỏi cùng câu ở phiên mới với khung ngược lại ("Vì sao chiến lược này có thể thất bại?") và so sánh hai câu trả lời.
- Đừng nhượng bộ khi mô hình đổi ý quá dễ: nếu bạn phản bác và nó đồng ý ngay, yêu cầu nó nêu căn cứ cho cả hai phương án và chỉ ra cái nào có bằng chứng tốt hơn.
Kỹ thuật thứ năm đặc biệt hữu ích khi chuẩn bị quyết định quan trọng: nếu hai khung hỏi ngược nhau đều nhận câu trả lời đồng tình nhiệt tình, bạn đang thấy độ dễ uốn của mô hình, không phải đánh giá của nó.
Thiên lệch dữ liệu: khi "mặc định" không phải là của bạn
Dữ liệu huấn luyện của các mô hình lớn chủ yếu là tiếng Anh và phản ánh bối cảnh các nước có nhiều văn bản số hoá. Hệ quả là khi bạn hỏi về quản trị nhân sự, thuế, pháp lý, tiêu dùng mà không nêu bối cảnh, câu trả lời mặc định thường dựa trên thể chế và thị trường Bắc Mỹ hoặc châu Âu. Một lời khuyên về quy trình sa thải, về cấu trúc doanh nghiệp, về kênh bán hàng có thể hợp lý ở đó và sai ở Việt Nam.
Thiên lệch còn xuất hiện ở các giả định xã hội: các nghiên cứu đánh giá mô hình ngôn ngữ đã nhiều lần ghi nhận khuôn mẫu về giới và nghề nghiệp trong văn bản sinh ra, và các nhà phát triển phải thêm biện pháp giảm thiểu. Mức độ đã được cải thiện, nhưng khi dùng AI soạn mô tả công việc, sàng lọc hồ sơ, viết nội dung tiếp thị, doanh nghiệp vẫn cần rà lại các giả định ngầm.
Cách xử lý thực tế: luôn nêu bối cảnh cụ thể (quốc gia, ngành, quy mô, đối tượng), yêu cầu mô hình chỉ ra điểm nào trong câu trả lời phụ thuộc vào thể chế từng nước, và đối chiếu với nguồn trong nước cho những gì liên quan tới quy định. Khi dùng AI trong các quyết định ảnh hưởng tới con người như tuyển dụng, đánh giá, cho vay, cần quy trình kiểm tra thiên lệch có hệ thống, không chỉ dựa vào cảm nhận.
Ví dụ: cùng một kế hoạch, hai cách hỏi
Giả định một chủ chuỗi cà phê ở Đà Nẵng định mở thêm ba cửa hàng trong một năm, dùng vốn vay. Cách hỏi thứ nhất, theo lời kể trực tiếp của chủ chuỗi: "Chuỗi của mình đang lãi, mình định mở thêm ba điểm bằng vốn vay, kế hoạch dưới đây có hợp lý không?" Câu hỏi này chứa ba tín hiệu: quyền sở hữu, cảm xúc tích cực, và câu hỏi xác nhận. Câu trả lời điển hình sẽ khen nền tảng tốt, góp ý thêm về marketing và đào tạo nhân viên, nhắc nhẹ quản lý dòng tiền.
Cách hỏi thứ hai: "Dưới đây là đề xuất mở rộng của một chuỗi cà phê. Đóng vai cán bộ tín dụng thận trọng. Đánh giá: giả định doanh thu mỗi điểm mới so với điểm hiện có, thời gian hoà vốn, khả năng trả nợ nếu doanh thu thấp hơn dự kiến ba mươi phần trăm, rủi ro ăn lẹm khách giữa các điểm. Nêu ba lý do mạnh nhất để từ chối." Câu trả lời lúc này thường chỉ ra những điều cách hỏi đầu bỏ qua: điểm mới hiếm khi đạt doanh thu như điểm cũ ngay năm đầu, mở đồng thời ba điểm dồn rủi ro, chi phí mặt bằng cố định trong khi doanh thu biến động.
Cùng một mô hình, cùng một kế hoạch, hai câu trả lời khác nhau về chất. Khác biệt không đến từ việc mô hình "biết thêm" ở lần hai, mà từ việc tín hiệu chiều lòng đã bị gỡ và tiêu chí đánh giá đã được nêu rõ.
Dùng AI làm người phản biện: đặt kỳ vọng đúng
Ngay cả khi hỏi khéo, AI không thay được người phản biện có lợi ích độc lập và hiểu biết bối cảnh. Một thành viên hội đồng quản trị, một chuyên gia ngành, một đồng nghiệp thẳng tính có những thông tin mô hình không có và có động cơ khác mô hình. AI làm tốt vai trò phản biện vòng đầu: liệt kê các phản đối điển hình, chỉ ra giả định ngầm, gợi câu hỏi mà người phản biện thật có thể đặt ra.
Một cách dùng hiệu quả là đảo thứ tự: trước khi trình bày ý tưởng cho người thật, nhờ AI tìm các điểm yếu dễ thấy nhất để sửa trước. Như vậy buổi phản biện với người thật dành cho những vấn đề sâu hơn mà chỉ kinh nghiệm thực tế mới thấy.
Cuối cùng, chú ý tới cảm giác của chính mình khi đọc câu trả lời của AI. Nếu bạn thấy dễ chịu và được xác nhận, đó là lúc nên hỏi thêm một câu ngược lại. Nếu bạn thấy khó chịu vì bị phản bác, đó có thể là lúc câu trả lời đang có giá trị nhất.
Câu hỏi thường gặp
Mô hình mới có còn xu nịnh không?
Các nhà phát triển đã đưa biện pháp giảm xu nịnh vào huấn luyện và đánh giá, và mức độ đã thay đổi theo từng phiên bản. Tuy nhiên, vì nguồn gốc nằm ở việc tối ưu theo sự ưa thích của con người, xu hướng này khó loại bỏ hoàn toàn. Kỹ thuật hỏi trung lập vẫn hữu ích với mọi mô hình.
Yêu cầu AI "hãy thẳng thắn, đừng nịnh" có tác dụng không?
Có tác dụng một phần, nhưng có thể dẫn tới cực ngược lại: mô hình phê phán cho có, chỉ ra điểm yếu hình thức để thể hiện thẳng thắn. Hiệu quả hơn là giao tiêu chí đánh giá cụ thể và vai trò rõ ràng, để phản biện gắn với nội dung thay vì với thái độ.
Thiên kiến tự động hoá có xảy ra với người có chuyên môn cao không?
Có. Các nghiên cứu trong y khoa và hàng không ghi nhận cả chuyên gia cũng bị ảnh hưởng, nhất là khi chịu áp lực thời gian hoặc khi hệ thống thường đúng nên họ dần ngừng kiểm tra. Chuyên môn giúp phát hiện lỗi khi chủ động kiểm, nhưng không tự động ngăn việc ngừng kiểm.
Có nên dùng AI để đánh giá nhân sự hoặc sàng lọc hồ sơ không?
Đây là ứng dụng rủi ro cao vì thiên lệch dữ liệu có thể dẫn tới phân biệt đối xử khó phát hiện, và quy định ở nhiều nơi đang siết chặt. Nếu dùng, AI chỉ nên hỗ trợ, có tiêu chí minh bạch, kiểm tra định kỳ kết quả theo nhóm, và con người quyết định cuối cùng với lý do ghi lại được.
Làm sao biết câu trả lời của AI đang chiều theo mình?
Hỏi lại cùng câu ở phiên mới với khung ngược lại hoặc trình bày như ý kiến của người khác. Nếu kết luận thay đổi theo khung câu hỏi chứ không theo dữ kiện, câu trả lời đang phản ánh bạn hơn là phản ánh vấn đề. Đối chiếu với nguồn độc lập là bước kiểm cuối cùng.