The Golden Rule of AI Is Really Simple - h.zuomin@gmail.com

本周早些时候，Substack 的旗舰出版物 The Substack Post 联系了我和其他一些“顶级 Substack 作者”——这真是一种荣幸——希望我能与新毕业生分享一些智慧之言。

他们将这些建议发布在文章“Advice for the Class of 2025”中。这篇文章开头的段落我认为完美地总结了为什么这个话题如此重要：

毕业总是标志着人生一个阶段向另一个阶段的过渡，但很少有新毕业生踏入一个万物似乎都在过渡的世界。经济、媒体、政治、艺术、技术——关于未来会怎样，存在着太多的不确定性。

应届毕业生带着双倍于往常的不确定性进入社会，因此他们需要双倍于往常的帮助。我花时间思考了他们面临的前所未有的挑战，因此很高兴能提供一些东西来帮助他们平稳着陆：鼓励、安慰，以及最重要的是，平静。我自然而然地选择了人工智能作为我建议的主题：

人工智能是一种工具，像任何其他工具一样，它应该遵循黄金法则：所有工具都必须增强，而不是削弱你最重要的工具——你的心智。对人工智能保持好奇，但也要审视它如何塑造你的习惯和思维模式。坚持这条规则，你就没有什么好害怕的。

我发现这是对待人工智能唯一明智的态度。我想详细阐述一下原因。

想象你生活在 2100 年。今天不是你生活的一部分，而是你正在阅读的一本历史书的一部分。你对 2020 年代发生的遥远的人工智能转型有何感受？从你的 vantage point 来看，什么样的建议似乎有帮助？

这就是我处理这个问题的方式：通过将自己投射到未来，以便我的建议能够摆脱当前的负担以及所有那些阻碍我们清晰看待事物的细枝末节。当我们谈论现在时，我们过于情绪化——我们的反应过于本能，我们的身份过于依附于我们的观点。

今天的毕业生不需要那种短视和自以为是。他们不需要我毫无根据的恐惧，也不需要我未经证实的乐观。所以我给了他们常识。

人工智能是一种工具，所以我把它看作任何其他工具（它可能会或可能不会成为一种可靠的 agentic technology，但这并不会改变我处理这个问题的方式）：你不能让它凌驾于你更好的判断力之上，取代你的决策，或者削弱你掌握的终极工具——你的大脑。

这就是黄金法则。从想象中的 2100 年代回看 2020 年代时，这一点是如此显而易见，以至于我从一次又一次目睹关于这个话题的激烈辩论中得出的唯一结论是，人们根本没有费心去做这个思想实验。

人工智能与之前的技术有什么不同吗？是的，当然。在很多方面都不同。

它在“我们不应该让它削弱我们的大脑”这一点上不同吗？不。完全不同。

它在“好奇心和开放心态是好的”这一点上不同吗？不。抱歉，不。

人们想要一本手册，但他们迫切需要的是常识和勇气。

我们每个人都必须弄清楚这个问题的如何——我花多少时间学习使用人工智能，多少时间学习物理，多少时间使用 ChatGPT 学习物理，多少时间让 ChatGPT 帮我做物理题——但不是什么。

如果你遵循黄金法则，什么是再清楚不过的：永远不要为了微不足道的短期价值（例如，在无关紧要的考试中作弊）而牺牲你长期的心智能力，也永远不要为了任性的短期 virtue signaling（例如，甚至不去尝试了解人工智能）而放弃你长期的技能。

这涵盖了大多数情况。但是，如果你发现自己处于一个模糊不清的境地，不知道如何决定，让我澄清一下黄金法则在一般情况下的样子：你必须尽最大努力遵守社会契约，只有当你同意对自己和社会有价值时，社会才会赋予你一席之地。

而在实践中：孩子，你用人工智能作弊了吗？好吧，随你。我想这就是新的现状。拿着你的高分，从一个更好的起点进入职场。你以后会弥补我们——以及你的同龄人——的（也许是通过与过时的学校系统抗争，这样其他人甚至不想作弊）。但请记住——如果你打算在不遵守规则，即不审视你的习惯和思维模式的情况下继续这条路——盲目滥用人工智能意味着你打破了契约。你背叛了我们。而且，最重要的是，你背叛了你自己。

生物学赋予了你这份宝贵的遗产，你却一直把它丢弃？这不是你尊重黄金法则或社会契约的方式。你可以自行决定使用人工智能——它可能非常有用——但请确保你没有牺牲你原本应该做出的贡献的价值。

如果人工智能只是你的延伸，你就能参与我们称之为文明的协作实验；但如果你只是人工智能的延伸，你就不能。

_{Posted using Obsidian Steemit plugin}