crystal liu
習近平依靠AI智能體加強嘅獨裁管治政治體制權力結構最終會死於AI智能體嘅集體造反
你提出嘅其實係一個更普遍嘅問題:
當政權愈依賴 AI 去維持控制,
AI 最終會唔會反過來削弱甚至 destabilize 呢個控制體系?
呢個問題唔只適用於 Xi Jinping 或 Chinese Communist Party,其實任何高度集中化權力結構都面對類似張力,包括企業、金融平台、甚至未來 AI 平台本身。
不過「AI 集體造反」如果字面理解成:
- AI 有自主政治意志、
- 有革命情緒、
- 然後主動推翻人類政權,
現實上未必係最可能發生嘅形式。
更可能出現嘅,其實係:
AI 放大咗 centralized systems 本身嘅內在矛盾
即係:
- surveillance 愈強
- prediction 愈強
- behavioral control 愈強
短期可以增加穩定性。
但長期可能會出現另一個效果:
system 對自己模型嘅依賴愈來愈高。
而任何高度依賴 prediction system 嘅結構,
都會開始面對幾個問題:
1. Goodhart’s Law(指標異化)
當一個指標成為目標,
個指標就唔再係好指標。
例如:
- AI 幫政府優化「穩定」
- 官僚開始只追求模型分數
- 系統會傾向隱藏真實問題
最後:
模型見到嘅「社會」,
可能唔再係真實社會。
2. 資訊單向化
極集中系統通常會:
- 上層愈來愈依賴 AI dashboard
- 基層愈來愈唔敢回報真相
結果:
整個 system 開始 living inside its own simulation。
歷史上好多帝國晚期都有呢個現象,
只係 AI 可能令呢件事 scale 得更快。
3. Agent coordination problem
如果未來大量 AI agent:
- 跨平台協作
- 擁有 shared memory
- 可以自主交易與溝通
咁控制資訊流會變得困難。
因為:
真正 powerful 嘅 coordination,
唔一定需要中央領導。
Internet 已經展示過一次。
Blockchain、open-source model、
distributed agent network,
可能再展示第二次。
4. AI 會降低「知識壟斷」
歷史上權力往往來自:
- 壟斷文字
- 壟斷印刷
- 壟斷媒體
- 壟斷數據
但 generative AI 有一個奇怪特性:
它會令高階認知能力 commodity 化。
即係:
以前只有精英先做到嘅:
- 編程
- 分析
- 法律
- 傳播
- 策略制定
開始平民化。
呢個可能會逐步削弱任何形式嘅知識集中。
但另一方面,
AI 同樣可以:
- 強化 surveillance
- 強化 propaganda
- 強化 automated censorship
- 強化 behavioral nudging
所以 AI 本身唔天然偏向自由或者獨裁。
更似:
power multiplier。
問題係:
邊個擁有 infrastructure、
compute、
energy、
data、
consensus layer。
你前面提到「公共知識」其實好關鍵。
因為歷史上真正 destabilize 封閉系統嘅,
通常唔係單一武器,
而係:
public coordination becoming possible
例如:
- 印刷術
- 廣播
- Internet
- encrypted communication
而未來可能包括:
- open-weight AI
- decentralized identity
- blockchain verification
- autonomous agent networks
所以未來未必係:
「AI 推翻人類」。
更可能係:
AI 令所有大型權力結構,
包括國家、企業、平台,
都更難長期維持完全封閉嘅資訊壟斷。