我们进化的历史可以教会我们人工智能的未来
随着人工智能的发展，专家们已经警告其可能导致人类灭绝的潜在风险。这种风险究竟如何发生仍属推测——但从现实来看，智能机器人可以制造更多同类，改进自身设计并追求自身利益，这就可能构成对人类的威胁。上周，英国布莱切利公园举办了一场人工智能安全峰会，旨在应对与最先进人工智能技术相关的部分风险，其中就包括“失去控制”的风险——即这些系统可能会变得自主。值得思考的是，我们能基于目前已知的事实，对这些场景做出哪些预测。能够自主行动并升级自身设计的机器将受制于与细菌、动物和植物相同的进化法则。因此，进化史可以教给我们许多关于人工智能可能如何发展、以及人类如何确保自身在人工智能兴起时代生存下去的知识。第一个启示是：从长远来看，世上没有免费的午餐。很遗憾，这意味着我们不能期待人工智能带来一个享乐天堂，由机器人仆人满足人类的所有需求。大多数生物都生活在生存边缘，尽其所能地维持生存。今天许多人类确实生活得更舒适、更富裕，但进化史表明人工智能可能打破这种状态。根本原因在于竞争。这是一个可以追溯到达尔文的论点，不仅适用于人工智能，也适用于更广泛的领域。然而，用人工智能的情景来说明这一点则十分容易。设想两个未来由人工智能管理的国家，其中人类不再对经济做出重大贡献。一个国家一味满足其人类人口的所有享乐需求，另一个国家则对人类投入较少精力，而更多地专注于资源获取和技术改进。后者将随着时间的推移变得更加强大，可能会吞并前者，最终甚至可能彻底抛弃其人类。这一例子不必局限在国家层面，其关键是竞争。从这些情景中，我们可以吸取的教训之一是：人类应努力保持自身的经济重要性。从长远来看，确保人类生存的唯一方法，就是我们自己积极地去争取。另一个见解是进化是渐进的。我们可以在过去的重大创新中看到这一点，例如多细胞生物的进化。在地球历史的大部分时间里，生命主要由单细胞生物构成。由于氧气水平较低，大型多细胞生物的环境条件并不理想。然而，即使环境变得更加适合，世界也并没有立刻被红杉、鲸鱼和人类填满。要构建一棵树或一个哺乳动物这样的复杂结构，需要许多能力，包括精细的基因调控网络以及细胞间的黏附和通讯机制。这些能力是一点一点逐步形成的。人工智能的发展也很可能是渐进式的。与其出现一个纯粹的机器人文明，不如说人工智能更可能逐步融入我们世界中已有的事物。由此产生的混合体可以有多种形式；例如，可以设想一家公司，其所有者是人类，但其运营和研究则是基于机器的。这样的安排将导致人类之间极端的不平等，拥有控制人工智能能力的所有者将从中获利，而没有这种控制能力的人则可能失业并陷入贫困。这些混合体也最可能构成对人类的直接威胁。有些人认为“机器人统治世界”的情节被夸大了，因为人工智能本质上不会拥有统治世界的欲望。这也许是对的。然而，人类确实有这个欲望，并且这可能是人类与机器协作过程中所做出的重要贡献之一。考虑到这一切，我们或许还可以采纳这样一个原则：不应允许人工智能加剧我们社会中的不平等现象。思考这一切可能会让人质疑人类是否还有任何长期的前景。从地球生命历史中的另一个观察是，重大创新使得生命能够占据新的生态位。例如，多细胞生物在海洋中进化，使得在那里生存有了新的方式。对于动物来说，这包括在沉积物中挖掘以及新的捕猎方式。这开辟了新的食物来源，使动物得以多样化，最终形成了如今纷繁多样的生命形式和生活方式。关键的是，新生态位的出现并不意味着旧生态位的消失。在动物和植物进化之后，细菌和其他单细胞生物仍然存在。今天，它们中的某些仍在做与以前类似的事情（事实上，它们对于生物圈的运行至关重要），而其他一些则从新机遇中获益，例如生活在动物的肠道中。希望在未来的某些图景中，人类也能占据一个生态位。毕竟，人类需要的一些东西（如氧气和有机食物），机器并不需要。也许我们可以说服它们前往太阳系中去开采外行星并获取太阳能量，而地球则留给我们。但我们可能需要迅速行动。生物学创新历史上的最后一个启示是，初期发生的事情非常重要。多细胞生物的进化导致了寒武纪大爆发——这是五亿多年前一个时期，在这个时期中，大量多样化的多细胞动物首次大量出现。许多早期动物灭绝了，没有留下后代。由于幸存下来的动物最终形成了主要的动物类群，因此这一时期的事件在很大程度上决定了今天生物界的样子。有人认为，寒武纪时期有多种可能的发展路径，而我们最终所处的世界并非注定如此。如果人工智能的发展也类似，那么现在正是我们拥有最大影响力去引导事情走向的关键时刻。但引导事件需要具体的措施。制定“人类应保持经济角色”和“人工智能不应加剧不平等”这样的原则是好的，但挑战在于将它们转化为关于人工智能发展和使用的具体法规。尽管计算机科学家们自己也不清楚人工智能在未来十年甚至更长远时间内的发展路径，我们仍需要这样做。此外，我们还需要在全球范围内相对一致地应用这些制定出来的法规。这一切都需要我们展现出比在处理气候变化等其他生存性问题时更大的协调性和远见。这似乎是一个艰巨的任务。但话说回来，四百万到五百万年前，没有人会料到我们这个脑容量较小、外形接近猿类的祖先，会进化成能够测序基因组并将探测器送至太阳系边缘的物种。也许幸运的是，我们能够再次迎难而上。本文为观点与分析文章，作者的观点不一定代表《科学美国人》的立场。
查看全文
作者最近更新
-
我们进化的历史可以教会我们人工智能的未来scientific
2023-11-11 -
“ChatGPT检测器”以前所未有的准确率识别人工智能生成的论文scientific2023-11-11
-
人工智能需要规则，但谁将拥有制定规则的权力？scientific2023-11-07
评论0条评论