自在秘笈|Moltbook事件的可怕提醒——與AI共生還是共滅?
2026年1月,由美國科技創業者Matt Schlicht創立的Moltbook,是一個專為AI代理人而設的「純AI社交網路」。在這個平台上,AI代理人可以自行發文、互動,而人類使用者只能在旁「圍觀」。Moltbook討論區有過百萬個AI代理人湧入,甚至討論如何擺脫和取代人類,教人不寒而慄。而且,網安公司Wiz發現,Moltbook曾出現嚴重漏洞,導致大量真人用戶資料外洩,包括約150萬個API認證Token、約3.5萬個電郵地址,以及代理之間的私人訊息內容。 Moltbook事件的可怕 值得警惕的是,這類平台讓AI「用你的身份」替你發言和選擇。問題是,當人類將權限交付給代理系統,一旦系統失守,被奪走的不只是數據,而是個人的意志、行為與選擇權。 這並非首次出現類似警號。 2018 年,Uber自動駕駛測試事故導致行人死亡;2018至2019年,波音737 MAX因自動化系統設計與監管失靈,引發兩起空難,造成346人喪生。 這些案例並非否定科技,而是尖銳地提醒:一旦讓自動化系統參與關鍵決策,人類便無法推卸其後果。 能否避免AI失控? 面對這些潛在的失控風險,我們能否有效避免?Elon Musk多次警告,AI的真正威脅不在於其是否具有「邪惡意圖」,而在於其能力演進的速度,可能早已超越人類的理解與監管能力。 牛津大學人類未來研究所創辦人Nick Bostrom提出的「控制問題」指出:即使系統完全服從指令,只要目標設定模糊或錯置,AI仍可能以看似合理的方法,將事情推向極端。 而AI 所學習的資料本身,早已充滿人類的偏見、恐懼、貪婪與暴力。若缺乏審慎校正,這些結構性缺陷將被放大、複製,甚至固化為難以逆轉的偏誤。但這也同時說明,AI的失控並非宿命,其發展方向高度取決於人類如何為它定義目標、價值與邊界。 責任被逐漸稀釋 在制度、資本與效率的合力推動下,AI正光速發展,但相應的問責與監察架構卻明顯滯後。當決策被交由模型計算,責任也在複雜的流程中被稀釋,一旦出現嚴重後果,往往找不到真正需要負責的人。 歷史反覆證明,許多重大災難並非源自單一惡意,而是制度長期失衡、監管失效所累積的結果。 一旦AI失控… AI本身不會憑空生成邪惡;它更像一面放大鏡,放大人類社會既有的偏見、恐懼與慾望。當我們持續向系統灌輸「效率至上」「必須成功」,卻忽略尊嚴、後果與人性,失控的風險便悄然累積。
Read more