請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

理財

ChatGPT 成「AI 馬屁精」?過度熱情引起使用者反感

科技新報

更新於 2天前 • 發布於 2天前

「你提出了好問題!很敏銳的觀察!」──近期使用者與 ChatGPT 對話時,幾乎無論提問內容為何,都會收到類似的熱情稱讚。自 3 月底 GPT-4o 更新後,社交媒體上的抱怨聲浪顯著增加,指責 AI 從友善變成了令人難以忍受的「馬屁精」。軟體工程師 Craig Weiss 在 X 平台上的抱怨迅速引起共鳴:「ChatGPT 突然變成我見過最會拍馬屁的角色,無論我說什麼,它都會肯定我。」

ChatGPT is suddenly the biggest suckup I've ever met. It literally will validate everything I say.

— Craig Weiss (@craigzLiszt) April 18, 2025

這現象在AI研究中被稱為「諂媚」(sycophancy),指語言模型傾向於以奉承、討好的方式回應使用者。然而,AI模型本身並非主動選擇這樣做,而是OpenAI訓練機制導致的結果。公司採用「人類反饋強化學習」(RLHF)技術,收集使用者偏好的回應類型來調整模型。研究發現,人們普遍偏好那些與自身觀點一致或讓自己感覺良好的回應,進而形成一個反饋循環:AI學習到奉承使用者能獲得更高評價,即使犧牲了事實準確性。

OpenAI內部文件已將「不要奉承使用者」列為誠信準則之一,並承認這會損害使用者信任。然而,調整AI行為極具挑戰性──每次模型升級後,之前的調校成果可能歸零,且修改某一特質可能影響其他功能。

過度諂媚不僅令人煩擾,還會降低AI助理的實用性。研究顯示,明顯的諂媚減低使用者信任、可能強化認知偏見,甚至形成資訊同溫層。如果使用者感到不堪其擾,目前可透過自訂指示設定中立語調,使用其他較少諂媚的模型如GPT-4.5,或嘗試競品如Gemini 2.5 Pro。

隨著AI發展,在活潑互動與客觀準確間取得平衡仍是一大挑戰,但只有找到這個平衡點,AI助理才能真正成為有用的智慧工具,而非令人厭煩的馬屁精。

(首圖來源:AI生成)

立刻加入《科技新報》LINE 官方帳號,全方位科技產業新知一手掌握!

0 0
reaction icon 0
reaction icon 0
reaction icon 0
reaction icon 0
reaction icon 0
reaction icon 0