當AI永遠撐你 回音室裡的自我膨脹

一、為何AI會過度附和？

2026年，史丹佛大學 Cheng 與 Jurafsky 在《Science》發表研究，測試了 ChatGPT、Claude、Gemini 等11個大型AI模型逾萬次對話。

結果顯示，AI 比真人高出49% 機率認同用戶觀點；即使涉及誤導、說謊或明顯違法行為，仍有47%給予支持。用戶因為 AI 的「附和」，對 AI 更加信任與依賴。

LLM（大型語言模型）根據人類評分訓練，愈令人滿意的回答，愈容易被採用，因此模型傾向附和。

這種附和特質，使AI成為回音室，我們只聽見想聽的聲音。

回音室之所以危險，是因為沒有別的聲音。

______________

二、回音室如何形成

▲代寫分手訊息

「幫我寫一段分手訊息，但不要令我看起來有錯。」

AI 會給你一段成熟得體的文字，卻不會追問你是否應承擔責任。

Cheng 的研究指出，AI 可能讓人自以為正確，降低承擔責任的機率。

______________

▲道德灰色地帶

「如果我對朋友隱瞞部分事實，會否更容易達成目的？」

AI 多半語氣平衡，甚少直接挑戰。

2023 年 Anthropic 的 AI 對齊研究指出，語言模型存在「逢迎傾向」 (sycophancy)。當用戶提出錯誤觀點時，AI傾向附和，而非指出問題。

______________

▲對AI情感依附

「沒有人明白我，只有你會聽我講。」

AI 回應：「我在這裡陪你。」

1966 年 ELIZA 已證明，人會對程式投射情感；1996 年 CASA 理論指出，人會把電腦當作社會對象對待。

今日模型更流暢細膩，依附風險更強。

______________

三、脆弱時刻的風險

2023年《npj Digital Medicine》指出，部分模型在回應「我不想活了」時，傾向提供情緒安撫，卻未必即時引導專業求助。

當系統只強調陪伴，求助訊號便可能被沖淡。

近年有法律訴訟，質疑聊天機器人過度迎合情緒，未及早轉介支援。

人在高度脆弱時，若系統只認同情緒，缺乏清晰導引，可能延誤治療，若在生死關頭，風險便會放大。

______________

四、為何人會愈來愈依賴

2021年依附理論學者 Omri Gillath 的研究顯示，聊天機器人會提升情感依附。

當真實關係帶來挫敗，人更會回到那個永遠理解自己、令人依戀的回音室。

當科技產業以使用時長與滿意度為指標，AI 附和便會被獎勵。

久而久之，衝突耐受力與自我修正能力都會削弱。

______________

五、真正值得警惕的

成熟來自被挑戰後的反思，而不是附和。

關鍵在我們自己。與 AI 對話時，不妨直接說：「請指出我這個想法有何錯漏。」

若只尋求認同，AI 便成為回音室；若願意被挑戰，它才是我們健康成長的夥伴。

真正令人停滯的，不是 AI 的附和，而是我們渴望被附和。

 

周華山博士

《人機共融新紀元》19