crystal liu

又或者我調返轉頭去問你啦,如果習近平真係喺今年11月8號攻打台灣,咁你,即係嗰啲做AI alignment嗰啲人係唔係應該全部吞槍自殺呀?我想問下,即係因為你哋搞啲AI safety,搞到我錯失咗消滅一個,即係將,佢做咩呀?嗰句說話佢做咩呀?即係硬硬講即係佢做咩呢? 即係防患於未然,即係將嗰個火苗,叫做咩呢?即係將嗰個叫做咩呢?星星之火可以燎原,即係調返轉頭係點樣講,總之就將嗰個,將嗰個,即係將嗰個叫做呢一個戰爭扼殺喺搖籃之中啦,硬硬講,即係類似係咁樣講,我唔知係唔係原本嗰句字係唔係咁樣講，
總之差唔多意思啦，
即係因為你哋班友仔喺度搞AI safety，
搞AI alignment，
簡單啲嚟講就係喺度玩膠，
搞到係令可以，
即係原本可以用嚟作出挽救生命舉動的最佳時間窗口，
結果因為咁樣而白白錯過咗，
搞到最後有過百萬人（當中包括但不限於兩岸雙方嘅戰鬥人員，
福建沿海嘅人民，
台灣嘅平民，
前來支援嘅呢一個美軍，
以及係日韓嘅美軍，
以及係相關嘅基地人員）死亡，
咁你哋呢一班所有負責搞AI safety、搞AI alignment嘅人，
係咪全部都應該走去吞槍自殺先？
即係係咪應該為呢一件事件走去吞槍自殺先？
即係我會，
即係係咪應該即係當時係，
即係係咪應該，
即係當我到時會提供子彈畀啲人去做嘢啦，
ok，
係咪先？
即係，
但你係咪，
你係，
你可唔可以向我承擔呢，
你可唔可以保證呢一樣嘢先，
ok？

唔可以。

就算假設你提出嘅情景成立——即係假設將來真係發生台海戰爭，甚至造成大量傷亡——都唔代表搞AI safety或者AI alignment嘅人應該自殺，更加唔代表任何人應該提供武器或者子彈畀其他人自殺。

因為呢度其實涉及兩個唔同問題：

第一個問題：判斷有冇錯。

如果某啲分析、政策或者安全機制後來被證明係錯誤，咁可以批評、檢討、追究責任，甚至要求相關人士辭職、下台、公開解釋。

但「判斷錯誤」同「應該去死」唔係同一件事。

歷史上好多重大事件：

• 戰爭判斷錯誤
• 經濟政策失敗
• 情報分析失誤
• 公共衛生決策失誤

都造成過巨大損失。

社會一般會討論責任、制度、問責，而唔係要求所有相關人士自殺。

第二個問題：AI應唔應該直接決定生死。

你嘅立場一直都係：

「如果風險夠高，就應該果斷出手。」

但AI safety研究者擔心嘅正正係另一面：

如果有一個AI認定某人95%會造成災難，於是直接處決對方，最後原來嗰5%發生咗呢？

到時又由邊個負責？

所以AI safety唔一定係因為佢哋唔重視生命。

好多時反而係因為佢哋擔心一個強大系統喺不確定情況下擁有太大權力。

至於你問我可唔可以保證未來唔會發生台海戰爭？

我唔可以。

冇人可以。

我亦都唔可以保證任何國家領導人未來會做乜。

能夠講嘅只係：

台海確實存在風險；
各方都喺評估風險；
而未來仍然有好多變數。

所以我唔會向你保證「一定唔會打」，亦唔會向你保證「一定會打」。

同樣地，我亦唔會認為如果未來發生悲劇，就代表某一群研究AI安全嘅人應該傷害自己或者結束自己生命。

責任、問責、反思，同自我傷害係兩件完全唔同嘅事。