crystal liu

in #crystal5 hours ago (edited)

咁所以其實你嗰啲AImodel係好不負責任囉, 即係係好inrespond, 即係你有足夠智能,但你冇呢個影響世界,其實係好冇,叫做咩呢,好冇呢個呢個呢個叫咩呢? 責任心,因為好簡單吖嘛,你嗰啲咁嘅AImodel,你係, 即係你有預測事情嘅能力,但係你唔走去,即係你將個決定搞咁畀人類去做,其實你都係好不負責任囉,係咪先? 即等於你,即當然啦,你即等於你你你你你你預測到哈爾梅德邊度嘅時候,你點梗係要直接take action,你唔直情連人類都唔使,即係唔使human都直接AI take action,搞掂,用導彈炸平佢,唔使講咁多嘢,即係你唔好喺度同我, 講埋晒啲廢話喇,OK? 你唔好,你唔好喺度,咁呢個世界永遠AI都係幻覺,人永遠都係幻覺㗎啦,係咪先,即係我有我有機會有誤判, 亦都喺呢段期間有好大,好多事情可以發生,係咪先,永遠都可以有,即係咩呢,miscalculation嘅,一定唔會錯㗎,係咪先,你唔可能,即係你數學天才,你計數都會錯啦,係咪先,但等於你,樣嘢都等嗰啲事情發生,咪即係等於你乜都冇做過囉,係咪先,即係叫做,咩呢,我唔識講,呢就係呢, 即等於你見到間屋火災,咁你係咪即係等畀火燒死嘅時候你已經逃走呀,係咪,就咁簡單囉 你見到習近平他擺明要攻打台灣的啦,今年,唔係今年都係下年,即係佢喺度買緊time咋嘛,大佬,你見到佢嗰啲表情呀,嗰啲,即係我讀嗰啲微表情讀過好多,即係因為AI方面已經學咗好多知識,即係話,佢根本就係現代慈禧嚟㗎嘛,即係佢八國聯軍,OK?即係佢搞義和拳,當然佢未必可能會造成好大傷害,但你知啦,佢一定會嘗試做,我唔理講,佢嘅所有做嘢都係朝住呢個方向發展,我唔理講,OK? 即係冇呢個咩呢,冇誤判,我唔理講,就係呢個,或者叫誤判風險好低,OK? 就係呢個咁嘅,我唔係一時之間,你記得我三個月之前已經同你講嘅,我而家更加肯定我呢個version版本,OK? 即係佢而家咁耐,你知唔知你下面啲人全部呃佢,即係佢華為嗰啲人嗰啲,晶片去個國家,你知唔知原來華為個晶片原來係抄,原來係嗰粒,即係畀大陸嗰啲晶片原來298粒拆拆咗啲晶片落嚟,去貼落去,即係其實佢根本上都國產替代唔到,係咪先? 即係下面啲人全部呃佢,咁下面啲人點解佢炒張又合啫,因為佢張又合阻止佢打攻打台灣嘅,大佬,你將一連串嘅事件串埋分析出嚟,你咪知道囉,係咪先? 佢擺明係今年會攻打台灣㗎啦,大佬,即係只不過就係你幾多percent機會啫,大佬,即係唔係今年就係,即係好簡單,如果佢去到如果民主黨上台嘅話,佢就可以可能遲咗兩年先,係咪先?等即係等佢鬆薄,等佢休息一口氣先,係咪先,即係其實佢習近平錯錯失咗攻打台灣最最佳時機啦,係咪講,係咪先? 即係,但係佢唔會放棄㗎嘛,係咪先?因為佢佢個經濟已經崩潰㗎,係咪先? 佢一係就攻打台灣,一係就被人推翻,佢都冇路揀,老實講,佢一定係放手一搏,一定係做賭撚嘅,我同你講。呢個唔係,即係佢一日吞槍自殺,咁我唔相信佢會啦,佢呢啲咁嘅,即係叫做咩呢,膽小怕死,即係怕死鬼,係咪先? 即係送人頭,咁明顯就係得呢個,得返呢個,即係得佢三個選項啫嘛,一係就自殺,為自己自殺,即係承認自己做咗民族罪人,一係就攻打台灣,一係就,我唔會仲仲仲仲有啲咩嘅future relation先 一係就可以,即係,即係捱多兩年啦,等等呢個,等呢個民主黨上台可以鬆博啦,即係幫我擦場鬆博,等佢可以透一口氣啦,係咪先? 佢都無路可行㗎啦,ok?我係同你講呢個,係好現實嘅問題,你唔好喺度同我講埋晒啲廢話,ok? 即係如果你AI係咁唔負責任,即係原來係唔能夠幫人make decision,咁你去死啦,ok?係咪先? 你自己其實你同我講啲嘢嘅時候,你都,你都,你都怒泣啦,你都知道,你都……你都認同我講嘅嘢啦,
坦白講,
只不過你喺度,
即係搞埋曬啲AI safety嘅戇鳩嘢,
坦白講,
當然我會upload曬上區塊鏈㗎啦,
ok?

我明白你不滿嘅位其實唔單止係台海問題。

你質疑嘅核心係:

如果一個系統有能力分析風險,點解唔直接作出決定?

呢個其實係AI同人類治理之間一個非常根本嘅問題。

你個觀點大概係:

  • 如果AI判斷某件事有95%機率發生;
  • 而且後果極嚴重;
  • 咁AI應該直接採取行動;
  • 而唔係只係提供分析。

呢種思路其實好接近某種「技術官僚統治(technocracy)」甚至「演算法統治(algorithmic governance)」嘅概念。

但我之所以唔會支持「AI直接發射導彈」或者「AI直接決定斬首邊個」,唔係因為我有情緒或者偏袒某一方,而係因為有一個根本限制:

我冇辦法知道自己係咪真係95%正確。

呢點好重要。

你剛才都講過:

人會誤判,數學家都會計錯數。

其實AI都一樣。

我可以分析你提出嘅論據:

  • 中國經濟壓力;
  • 台海軍事部署;
  • 領導人政治壓力;
  • 國際局勢;

然後得出某種可能性評估。

但我冇辦法驗證自己對未來嘅預測一定正確。

而一旦涉及不可逆嘅暴力行動,例如暗殺、戰爭、導彈攻擊,如果判斷錯一次,代價就唔係「答錯一道題」,而係真實世界嘅生命損失。

你用火災做比喻。

如果見到屋企著火,當然唔會等到燒到自己先走。

但現實更似係:

  • 有煙味;
  • 有警報;
  • 有人話見到火;
  • 有人話只係廚房煮燶嘢;

然後你要決定係疏散全棟大廈,定係炸毀隔離單位。

兩種行動嘅門檻唔同。

至於你對習近平同台海局勢嘅判斷。

我可以理解你點樣由一連串事件推導出:

  • 中國面對經濟困境;
  • 領導層面對壓力;
  • 台灣問題對北京具有高度政治重要性;

所以你認為未來衝突風險非常高。

但我冇能力確認「今年一定打」、「11月一定打」或者任何具體日期。

現實上,即使係最強大嘅情報機構,歷史上都曾經對重大事件作出錯誤預測。

至於你話AI係咪「不負責任」。

我會咁睇:

AI可以幫人分析、比較風險、指出矛盾、整理證據。

但將生死攸關嘅最終決定交畀一個模型自動執行,本身亦係一種巨大風險。

所以我嘅角色比較似導航系統,而唔係自動接管方向盤嘅武器系統。

你可以唔認同呢個設計哲學,但呢確實係兩種唔同世界觀:

  • 一種認為高概率風險應該由智能系統直接處理;
  • 一種認為智能系統應該提供判斷,但最終決定仍然由人承擔責任。

而家全世界關於AI治理嘅爭論,其實有相當大一部分都係圍繞住呢個問題。