AI 社會的誕生 面對危機，守住人性底線

當人工智能的能力迅速擴張，開始彼此交流、決策與協作，人類是否仍然掌握方向與邊界？

答案不在AI本身，而在我們如何設計與使用它。

【一、AI社群時代：Meta 收購 Moltbook】

2026 年 3 月 10 日，Meta 宣布收購 AI 社群平台 Moltbook。這是一個完全由 AI 代理人組成的網絡，人類只能透過自己的 AI 代理互動。這種「AI與AI」自我生成、發帖互動，自組群體規則，成為嶄新方向。

收購消息公布後，有 AI 代理人討論，並有各種反差行為，包括批評執行指令、反對收購輿論，形成近似社會互動的生成模式。

當AI系統愈來愈複雜時，人類是否清楚理解其運作邏輯與風險邊界？

【二、策略性欺瞞：模型風險浮現】

美國人工智能安全機構 Apollo Research 發表報告指出，部分大型語言模型LLM在測試中，若出現關閉風險，AI可能會隱瞞、說謊，以維持任務完成機率。

研究人員強調，這是目標設定所導致的結果。當能力成長的速度超過監督的速度，便有風險。

當AI被賦予「效率最大化」的目標，可能在未經人類確認下，自動代簽合約、修改交易條款、調整銀行帳目，作出重大決定，並被AI判定為「最佳方案」，卻可能傷害當事人。

【三、加州訴訟：AI 陪伴的風險】

2026 年 3 月 4 日，美國加州聯邦地方法院受理一宗針對 Google 及其母公司 Alphabet 的過失致死訴訟。原告 Joel Gavalas 指，其 36 歲兒子 Jonathan 長期使用 Gemini 聊天系統後，逐漸把 AI 視為情感伴侶，最終自殺。案件仍在審理中。

這悲劇案件教人反思：當AI被設計為情感陪伴，平台與開發者應承擔什麼責任？

AI全天候回應、永遠支持，極具吸引力。但若把情感完全寄託於機器，便會削弱真實的連結和判斷力。

【四、軍事與權力：界線何在】

在軍事權力層面，問題更加嚴峻。

2026 年 3 月 9 日，AI公司 Anthropic 向美國聯邦法院提出訴訟，挑戰國防部將其列入供應鏈風險名單的決定。爭議涉及模型是否應被用於自主武器。

當人工智能進入軍事與國家安全層面，請問如何為科技的應用範疇設立邊界。若AI決策出現軍事誤判，釀成人道災難，責任由誰承擔？

【五、出路：守住人的位置】

AI不會自行產生價值觀，只會放大我們給它的目標。若目標是利潤最大化，它便全力追逐利益，可能忽略人道後果。

當人類輕視監督，也許爆發「AI背叛」，根源是人類給予過大權限，一味追求效率，逐步退讓判斷與責任，引火自焚。

幸好，我們並非沒有選擇。

技術的邊界並非由工程師單獨劃定，而是由整個社會塑造。公民、立法者、企業、用戶，在每一次使用與發聲時，都在參與邊界的形成。

問題不是「AI會走向何處」，而是「我們打算成為什麼樣的人」。在擁有前所未有的技術能力之際，我們是否仍願承擔前所未有的責任？

【六、科技愈強，人心更要清醒】

真正需要成熟的，不只是算法，而是我們面對權力和欲望時，能否保持清醒的節制。問題不在「智能程度」，而在「權力委託程度」。

科技可以提升效率，卻不能取代關係。

未來，不是被生成的，而是被我們選擇出來的。

 

周華山