療癒科技的倫理界線 AI 情緒陪伴的專業準則
AI逐漸被用作情緒支援，觸及人類最脆弱與私密的心理空間，必須建立清晰倫理框架與專業界線。
一、為什麼必須界定 AI 的角色？
要清晰界定AI的權限。若誤以為 AI 可取代心理治療或精神科服務，導致延誤治療，風險嚴重，甚至危及生命。
實務守則
• 定位為自助支援或心理教育工具
• 並不提供診斷、治療或危機介入
• 高風險情境要重複提醒AI限制
• 清晰界線，避免專業治療的用字
二、為什麼 AI 不能自行處理危機？
生成式 AI 可能產生虛構內容（AI幻覺）。危機情境下風險尤其嚴重，應設置人工監督與可追溯機制。危機轉介必須為真人服務，並提供電話、簡訊、即時聊天等多種聯絡方式，而非僅提供網頁連結。
實務守則
• 建立高風險語意的偵測系統
• 偵測自傷或他害的安全流程
• 提供在地緊急資源與轉介機制
• 提供真人專業支援的聯絡
三、為什麼需要創傷知情設計？
心理安全永遠優先於深度探索。不追問創傷細節，以免造成二度創傷。
實務守則
• 案主本位，容許暫停
• 敏感議題，安全至上
• 不追問具體創傷細節
• 情緒升高時，先穩定
四、為什麼情緒資料需嚴格保護？
情緒對話，往往包含私密資訊，外洩可能造成傷害。
實務守則
• 敏感資料需額外同意
• 說明用途與保存期限
• 要提醒用戶AI限制
• 提供查閱與刪除機制
五、為什麼不能無條件迎合？
AI過度迎合和討好用戶，容易強化妄想或扭曲思維。
實務守則
• 提供多元角度與觀點
• 溫和挑戰極端的信念
• 強調真人支持的重要
• 鼓勵回到現實的連結
六、為什麼未成年人需更高標準？
保護未成年人，是倫理責任。因為其判斷與情緒能力仍在發展，容易產生依附與誤判。
實務守則
• 設立年齡門檻
• 提供青少年專屬模式
• 偵測自傷即轉介真人
• 強調不能取代親子溝通
• 限制長時間高依附性對話
• 優化AI使用守則與素養教育
七、為什麼需理解 AI 限制？
切忌神化AI。過度依賴，會忽略真實情感關係。
建議原則
• 不將 AI 視為治療替代
• 危機情境優先求助真人
• 重大決策諮詢專業人士
• 了解隱私與資料保密性
• 需要有人類審核的機制
八、為什麼鼓勵人機共融？
AI 只是輔助工具，真正支持來自穩定的人際連結與專業系統。若僅依賴 AI 聊天，可能產生依附、逃避現實。人機共融，讓 AI 回歸真實生活、社群支持與專業守護。
建議原則
• 定期真人晤談
• 建立生活連結
• 設置使用節奏
• 鼓勵社群參與
• 專業培訓督導
九、附錄：國際實踐案例
情緒支援科技的專業性，不在於擬真程度，而在持續守護使用者的安全、尊嚴與自主。
以下為 AI 情緒支援較專業的國際平台，都是清晰界線、危機轉介優先、資料透明、倫理治理結構完整。
1. Wysa：保密、臨床驗證、分級照護與危機轉介。
2. Woebot Health：以臨床研究為基礎的數位心理健康平台，公開安全治理與資料保護框架。
3. Limbic：強調醫療器材認證、可解釋性與臨床監督。
4. Youper：提供情緒追蹤與自助支援工具，明確標示危機邊界與轉介責任。
5. 988 Suicide & Crisis Lifeline ：24小時真人支援
AI 情緒陪伴的核心，不是讓人更依賴科技，而是讓人更有力量回到真實的人際連結與專業支持系統。
周華山博士
《人機共融新紀元》3