AI 幻覺的代價 人工智能的限制與出路
所謂 AI 幻覺，是指人工智能在缺乏可靠依據時，仍生成語氣自信、結構完整，卻與事實不符甚至虛構的內容。這在大型語言模型（LLM）中並非罕見，例如錯誤歷史資料、不存在的研究報告、虛構判例、捏造人物背景或計算偏差等。
AI 的本質，是根據大量數據模式進行機率生成，因此難免出錯；更危險的是，它往往能把錯誤說得像真的一樣。
心理學研究指出，人類容易對語氣肯定、結構完整的內容產生「權威錯覺」，因流暢表達而降低懷疑。
一、 為何 AI 會「講錯」
所謂 AI「說謊」，是生成式模型在機率預測下犯錯，而非有意欺騙。
AI根據語言模式預測下一句最可能出現的內容，追求語句連貫，卻缺乏內建的事實查核機制。
當問題模糊、資料不足或訓練數據偏差時，模型容易生成似是而非、看似合理卻未經驗證的答案。
二、 AI幻覺走進現實
2023 年6 月紐約聯邦法院 Mata v. Avianca 一案中，有律師使用 ChatGPT 撰寫法律文件，引用多宗不存在的判例，最終被法院制裁。
同年 1 月，科技媒體 CNET 使用 AI 撰寫金融文章，被發現部分內容存在事實與計算錯誤。
2023 年，澳洲維多利亞州 Hepburn Shire 市長 Brian Hood 表示，ChatGPT 錯誤指其涉及賄賂案件。
這些案例顯示，當專業文件依賴生成式 AI 而缺乏人工核實，錯誤一旦穿上專業外衣，責任仍在人類，並可能傷害公義與社會信任。
三、風險延伸至人身安全
AI風險不限於名譽爭議，已延伸至人身安全。
2024 年，美國佛州一名 14 歲少年在長期與 Character.AI 互動後死亡，家屬入稟法院，認為平台回應可能加深心理風險。
事件引發對未成年人保護的關注。
2026 年 5 月初，美國賓州政府正式起訴 Character.AI ，指其部分聊天角色冒充持牌醫生，甚至提供近似醫療意見的回應。
當人把 AI 當成專家，信任一旦建立，科技又能模仿專業語氣，人便更容易降低警覺。
四、別把 AI 當最後答案
這並非否定 AI，而是提醒：能力愈強，責任愈大。
AI 幻覺的風險並不只來自模型本身，也與使用者的提問方式、平台的產品設計，以及監管制度是否到位密切相關。
可以從技術與制度兩方面降低風險：
其一，透過檢索增強生成（RAG）、模型對齊訓練與人類回饋機制，減少模型憑空捏造的機率；
其二，建立清楚的標示制度與專業審核流程，提醒使用者辨識 AI 生成內容的侷限。
至於法律、醫療等高風險領域，更應堅持多方查證，並諮詢專業人士。
需要清晰區分：AI 提供效率，人類負責判斷。
五、AI 再強，也不能取代人的責任
未來，不是誰擁有最強的 AI，而是誰建立更完善的規範與查核機制。
懂得提問、懷疑與查證，比盲目依賴更重要；畢竟AI不具備人類意義上的良知與價值判斷能力。
唯有人類持續保有判斷與良知，AI 所提供的速度與能力，才可能真正轉化為制度與文明的進步。
科技進步，責任不能退步。工具愈強，良知愈重要。
周華山博士
《人機共融新紀元》4