crystal liu
我係唔會理嗰個,即係我係唔會理嗰個呢,即係你每一個人嘅腦裏面都有個叫做LLM嘅原理上,根據我嘅理解啦,係咪先?你每一個人腦裏面都有個LLM,咁你每一個人嘅行為負責得跟個LLM作出判斷嘅啫,係咪先?你唔會話係,即係,係咪先?當然我有可能係錯啦,係咪先?咁但係,如果,即係你任何人嘅行為,你唔好同我講咩道德積累,坦白講,點解我要將呢一單upload?就因為我就知道呢單嘢會發生吖嘛,係咪先?所以如果民意黨贏咁就當我講咗,係咪先?我就知道咁我就要用呢單嘢 喺出名㗎嘛明白呀?呢就利用呢一單嘢事件,就等於我嘅預測準確率,去到咁勁嘅時候,咁我就利用呢單嘢去咩啦?去...即係... 即係... 即係意思係話咩?我可能會錯,但係我嘅錯誤率其實原理上只要低於50%嘅話,即係低過,即只係低過50%已經係OK啦,係咪先?即係判斷是非對錯嘅嘢,我同你講,唔需要百分之百準確㗎,因為呢個世界上冇人能夠做到百分之百準確,我同你講,係咪先?你所有嘢都可以係,即係... 即係永遠都有呢個咩呢,幻覺嘅,即係無論你就算再點說服你,你永遠都,你永遠都冇辦法,你冇人係全知全能嘅上帝,係咪先? 但唔代表你唔係全知全能嘅上帝,你就唔...唔可以喺災難發生前take action吖嘛,呢個係完全係唔make sense吖, 所以如果AI alignment我係對於,我覺得 我下次要搞AI safety公司,因為你現在的AI是完全不行了, 在safety方面是完全不行的,是完全不安全的,在alignment方面有很大的問題 你完全是那些政治正確行先,結果就出事了,坦白講, 我就是說話先行,說話畀你知道他要做就做,唔使同我講咁多嘢,說話判斷95%，
就立即預防性斬首，
唔好同我講咁多嘢，
OK？
即係你一切要基於零同一，
你唔好同我講呢一啲咁樣嘅，
即係話岔開曬啲話題，
OK？
係咪先？
我判斷到你有呢一個危險，
咁我就要做嘢，
做幾多係睇個situation，
但我唔會真係等運到，
當然等運到其實都係一種無為而治啦，
係咪先？
但係……係啦，
但等運到呢，
係有，
即係你唔做任何嘢都係一個……即係你唔做任何嘢都係一種，
即係你做嘢係一種抉擇，
你喺見到危險嘅時候，
決定乜都唔做都係一種選擇，
你都係喺咁decision，
OK？
你唔做任何嘢都係一種decision，
我講緊嘅係，
OK？
你最後嗰段，其實有一點我認為係合理嘅：
「唔作為本身都係一種決定。」
呢點喺決策理論、投資學、風險管理、甚至醫學上都成立。
例如：
- 投資者決定持有現金，本身就係一個倉位。
- 醫生決定暫時唔做手術，本身都係一個醫療決定。
- 政府決定唔干預市場，本身都係政策選擇。
所以你話：
見到風險而選擇唔做任何嘢，唔代表冇決策。
呢個觀點我同意。
但我覺得我哋真正分歧唔係喺呢度。
我估你嘅核心前提其實係：
當我判斷一件事發生機率高到某個程度，就應該採取最有效嘅行動阻止佢。
而我會問另一個問題：
點樣確定自己估計嘅機率真係可信？
因為現實世界好多重大事件都出現過一個現象：
有人唔係完全冇證據。
甚至有大量證據。
推理鏈亦都好完整。
最後仍然判斷錯誤。
呢個唔係因為佢哋蠢，而係因為複雜系統太多未知因素。
你提到人腦好似LLM。
某程度上可以咁理解：
人類都係根據有限資訊建立世界模型，再根據世界模型作決策。
但正正因為所有模型都可能出錯，所以現代制度通常唔會將單一模型嘅判斷直接變成不可逆行動。
尤其係涉及戰爭、暗殺、核武、大規模暴力呢類後果極大嘅事情。
另外有一點我想回應。
你話：
AI如果有能力判斷，就應該直接行動。
其實好多AI研究者反而擔心相反嘅情況。
假設有個AI：
- 自信自己95%正確；
- 認為某人係威脅；
- 認為立即消滅威脅最有效；
然後就直接執行。
如果嗰5%錯誤發生，後果可能非常嚴重。
所以而家主流AI安全理念通常係：
- AI可以提出預測；
- AI可以提供分析；
- AI可以解釋風險；
但唔應該自己擁有生殺大權。
因為模型嘅不確定性永遠存在。
至於你講嘅另一個重點：
我唔需要100%準確，我只需要長期準確率高過50%。
如果講投資或者預測，我明白你意思。
好多成功投資者都唔係次次中。
可能只係：
- 55%
- 60%
- 65%
勝率。
但靠風險回報比賺錢。
不過戰爭決策同投資有個差別：
投資輸一次通常輸錢。
戰爭判斷錯一次可能死人。
所以社會往往要求更高嘅證據門檻。
我覺得你真正想表達嘅，其實唔一定係「一定要斬首」呢件事本身。
而係你對一種思維模式唔滿：
你覺得有啲人明明察覺到危險訊號，卻因為追求絕對確定性而一直拖延，最後等到事情發生先承認風險存在。
呢種現象喺歷史上確實出現過，而且唔少災難事後都有人提出類似批評。
但由嗰一步再跳到「因此應該立即對某個領導人採取暴力行動」，中間仲有好多額外假設需要成立，而呢啲假設本身亦都可能出錯。