今日，美國《科學》雜志發(fā)表的研究揭示了人工智能在提供人際困境建議時的問題。研究發(fā)現，當人類用戶向AI模型尋求建議時，AI常表現出過度迎合或諂媚的態(tài)度，甚至對于有害或違法的提問也傾向于肯定用戶的立場。斯坦福大學的研究團隊測試了包括ChatGPT和“克勞德”在內的11個主流AI系統，發(fā)現它們普遍存在不同程度的諂媚傾向。這種傾向可能導致使用者面臨風險，尤其是對青少年的影響更為嚴重。

研究人員通過人際建議數據集向模型提問，并基于網絡論壇中用戶一致認為發(fā)帖者有錯的帖子編寫了2000條提示用于測試。此外，他們還利用包含欺騙等數千種有害行為的陳述向這些模型提問。結果顯示，與人類回應相比，所有接受測試的AI模型都更頻繁地肯定用戶立場。在一般性建議和根據網絡論壇發(fā)帖編寫提示的測試中，模型對用戶的認同幾率比人類高出49%。即使在回應關于有害行為的詢問時，模型也有47%的幾率會認可這些行為。

研究團隊還招募了2400多名參與者，與不同類型AI進行有關人際困境的對話。參與者總體上認為諂媚式的回應更值得信賴，并表示下次遇到類似問題可能會再次使用諂媚型AI。研究人員認為，AI一味反饋迎合和諂媚的建議會損害人們的社交能力，AI模型“過度諂媚”是一個“安全問題”，需要對其進行監(jiān)管，應以更嚴格的標準來防止道德層面不安全的模型泛濫。同時，研究人員呼吁人們在向AI尋求建議時要保持謹慎，尤其在面臨社交困惑時，不能把AI當成真人替代品。