AI 的风险可以用 AI 防御

恐慌可能是非理性的

强调 AI 危险的联名信一封又一封，类比核战争和流行病的譬喻层出不穷，与国会议员共进晚餐的 OpenAI CEO 寻求监管。种种迹象表明，似乎不做些什么，AI 就要让人类完蛋了。

马克·安德森（Marc Andreessen）却有着不同的想法，他写下近 7000 字的文章，洋洋洒洒论述以下观点：

AI 不会毁灭世界，甚至可能会拯救世界。

马克·安德森是硅谷风投公司 a16z 的联合创始人和合伙人。

a16z 是硅谷最具影响力的创投公司之一，倾向长期投资，参投过 OpenAI，尤其关注下一代科技的发展，在区块链和加密货币领域享有盛名，并经常以 KOL 的形象现身，发表尖锐和前沿的观点。

来回摇摆的 AI 天平之上，马克·安德森选择站在另一个极端，展现着极其乐观的理想主义，驳斥了几个主流的 AI 威胁论。

这也在情理之中，因为马克·安德森本人与 AI 利益相关，并在文章的结尾提到，他和他的公司将尽可能支持 AI 工程师和初创公司。换言之，他想从 AI 革命里赚钱。

我们不必无条件相信一切，只是兼听则明、偏信则暗，很少有人能够准确预测未来，以批判性的目光多了解前沿观点，也是一种抓住可能性的方式。

划重点

AI 提供了深度增强人类智力的机会。

对 AI 的恐慌可能是非理性的。

认为 AI 将杀死人类是一种迷信。

不必担心 AI 让人失业。

AI 不会导致技术不平等。

AI 的风险可以用 AI 防御。

尽可能快速积极地构建 AI。

以下是原文编译（有部分删改）

⼈⼯智能的时代已经来临，⼈们都吓坏了。

但我想在这里带来好消息：AI 不会毁灭世界，甚至可能拯救世界。

先简单介绍 AI 是什么：

AI 是数学和软件代码的应用，教计算机如何像人类一样理解、综合和生成知识。

AI 类似其他计算机程序，运行、接收输入、处理并生成输出。

AI 的输出在各个领域都很有用，包括编程、医学、法律和创意艺术等等。

AI 由人拥有并受人控制。

AI 提供了深度增强人类智力的机会

人类智力是我们花费数千年到达现今世界的杠杆，创造科学、技术、数学、物理学、化学、医学、能源、建筑、交通、通信、艺术、音乐、文化、哲学、伦理和道德。

如果没有这些，我们仍然会生活在泥屋中，靠农业勉强维持温饱。我们运用智力，让生活水平在过去 4000 年间提高了大约 10000 倍。

AI 为我们提供的，是深度增强人类智力的机会，使智力的所有产出，从创造新药物，到解决气候变化，再到探索星际旅行，变得更加卓越。

AI 对人类智力的增强已经开始，它以各种计算机控制系统的形式存在于我们周围，通过像 ChatGPT 这样的大语言模型扩展和加速。

未来的 AI 新时代可能是这样的：

每个人都将拥有一位具备无限耐心、同理心和知识的 AI 助手，它将在人生的各个机遇和挑战中与人同在，最大化每个人的成果。

生产力增长将大幅加速，推动经济发展，创造新的产业和就业机会，进而在全球范围内实现物质繁荣的新时代。

科学突破、新技术和新药物将大幅扩展，自然规律将被进一步解码。

创意艺术将迎来黄金时代，艺术家、音乐家、作家和电影制作人将更快、更大规模实现创意。

人们今天用天赋所做的任何事情，借助 AI 可以做得更好，并应对以前无法解决的新挑战。

另外，AI 的人性化程度也被低估了。 AI 艺术给了缺乏技能的人类创造的自由，医疗聊天机器人比人类同行更有同理心。 AI 不会让世界变得更加残酷和机械化，而是会让它更加温暖和美好。

对 AI 的恐慌可能是非理性的

历史上每一项重要的新技术，从电灯到汽车、从无线电到互联网，都引发了恐慌，这是一种社会传染病，使人们相信新技术将毁灭世界。

我们正面临着一场完全失控的 AI 恐慌，它本质上是非理性的，被用来推动新的 AI 监管。行为艺术家们发表戏剧性的公开声明，自称是在无私捍卫公共利益。

ChatGPT 之父也签署了的联名信.

这些人可以分为两类，狂热的社会改革者和自利的机会主义者。

尤其那些打着风险旗号寻求政府监管的 CEO，就像 20 世纪 20 年代美国禁酒运动的私酒贩子，或将形成垄断组织为自己牟利，提高新创企业和开源竞争的准入门槛，新鲜血液将更难发展起来。

认为 AI 将杀死人类是一种迷信

最经典的 AI 末日论是，AI 将杀死人类。

「我们创造的技术终将崛起和摧毁我们」，这种恐惧深深地根植在我们的文化之中。

普罗米修斯为人类带来了火，因此他被众神永远折磨。玛丽·雪莱的《弗兰肯斯坦》，谱写了更加符合现代语境的神话。卡梅隆的电影《终结者》里，杀人机器人的眼睛闪烁着红光。

但认为 AI 将杀死人类是一种迷信。AI 不是经过数十亿年进化、参与适者生存的生命，它是数学、代码、计算机，由人们建造、拥有、使用和控制。

简而言之，AI 没有意愿，没有目标，它不会想要杀掉你。AI 是一种机器，就像你的烤面包机，它不会变得有生命。

「AI 伦理学家」的言论应该被谨慎看待，「AI 风险」已经发展成为一种邪教。

不必担心 AI 让人失业

自机械织布机等设备出现以来，历史上每一项新的重大技术，都带来了更多的就业机会和更高的工资水平。与此同时，恐惧也如影随形，担心人类劳动力终将被致命一击。

自动化导致失业，是一种「固定馅饼谬误」，即在任何给定的时间里，劳动力的数量是固定的，要么由机器完成，要么由人类完成，如果由机器完成，那么人类失业。

相反，当技术应用于生产时，生产力也会增长，投入减少，产出增加，结果是商品和服务的价格降低，我们将有额外的消费能力购买其他东西。这增加了需求，推动了新产品和新产业，为之前被机器取代的人们创造了新的工作岗位。

当市场经济正常运行、技术被自由引入，这将是一个永不停歇的向上循环。一个更大的经济体将出现，拥有更高的物质繁荣，更多的产业、产品和就业机会。正如米尔顿·弗里德曼所说的「人类的需求无穷无尽」 ，我们想要的比我们拥有的更多。

如果更进一步，所有现存的人类劳动都被机器替代，意味着什么？

生产力增长的速度将前所未有，现有商品和服务的价格将接近免费，消费者购买力飙升，新需求爆炸式增长。企业家们将创造令人眼花缭乱的新产业、产品和服务，并雇佣尽可能多的 AI 和人类员工，从而满足所有新需求。

假设 AI 再次替代了人类劳动力，这个循环将重复，推动经济发展，让就业增长更上一层楼，通往亚当·斯密从未敢想象的物质乌托邦。

AI 不会导致技术不平等

技术的拥有者独占技术，并不符合自身利益。恰恰相反，他们想将技术卖给尽可能多的客户。

世界上最大的产品市场，是整个世界的 80 亿人。

电力、广播、计算机、互联网、移动电话和搜索引擎，这些技术的制造商都积极主动地降低价格，直到所有人都能负担得起。同样地，我们已经可以免费或低成本地使用 New Bing、Google Bard 等最先进的生成式 AI。

这不是因为他们愚蠢或慷慨，而恰恰是因为他们贪婪——扩大市场规模，赚到更多的钱。

因此，情况与技术推动财富集中化相反，技术的最终用户包括全球所有人。

这并不是说，不平等不是社会问题，但它并非由技术驱动。

AI 的风险可以用 AI 防御

技术是一种工具。从火和石头开始，任何技术都可以游走在善恶之间。

有人提出应该尽早禁止 AI，但这并不现实，因为AI 不难获取，它是数学和代码。你可以通过成千上万的免费在线课程、书籍、论文和视频学习如何构建 AI，每天都有开源项目不断涌现。AI 就像空气，它将无处不在。

AI 的风险可以用 AI 防御。

例如，如果我们担心 AI 生成虚假人物和视频，可以通过加密签名验证真实内容。 在 AI 之前，数字内容的创建和修改已经存在了，答案不是禁止 Photoshop 或者 AI，而是利用技术构建一个真正解决问题的系统。

放弃禁止 AI 的徒劳，把它用于善意、合法的防御目的，一个充满 AI 的世界将比我们今天生活的世界更安全。

尽可能快速积极地构建 AI

应该允许大型 AI 公司尽可能快速、积极地构建 AI，但不允许它们建立垄断组织。

应该允许初创 AI 公司尽可能快速、积极地构建 AI。即使初创公司失败了，它们在市场上的存在，也将不断激励大公司做得更好。

应该允许开源 AI 自由传播，并与大型公司和初创公司竞争。它们广泛的可用性，将造福学习如何构建和使用 AI 的学生，确保无论身份和财富如何，每个人都能从中受益。

为了防止有人用 AI 做坏事，政府和企业应该积极利用 AI，最大化社会的防御能力，不只是应对 AI 风险，还包括解决疾病、气候等问题。