机器之能报道
作者：邢波
关于 AI 风险的问题，各路大佬也是意见不统一，前阵子大家还在社交媒体上爆发了一场大规模论战。
有的人带头签署联名信，呼吁 AI 实验室应立即暂停研究并呼吁政府加强监管。也有不少人对 AI 发展非常积极乐观，认为 AI 的发展远未构成对人类的威胁，监管只会蜕变为少数巨头利益的保护伞。
英国政府针对 AI 技术前后态度的变化，正是「威胁论」尘嚣甚上的例证。三月份，英国政府曾发布白皮书，承诺不会扼杀 AI 创新。仅仅两个月后，「AI 末日论」 弥漫，政府也开始讨论为 AI 设置护栏，并敦促美国政府也这么做。
正是在这一大社会舆论背景下，穆罕默德·本·扎耶德人工智能大学校长、卡内基梅隆大学计算机科学学院教授邢波发表了自己的看法。
作为世界上顶尖计算机科学教授之一，邢波直言不讳批评这些「威胁论」、「末日论」，「营造出充满悲观情绪的舆论，加剧公众的恐惧和焦虑。」而这些主张的推理和结论之间却存在「巨大鸿沟。」 他指出，制造和鼓吹悲观论调的人「没有坚持一个受过教育的社会成员应有的理性分析和严谨论证。」
邢波对 AI 发展持积极、开放态度。他认为，AI 正在迎来 21 世纪的「文艺复兴」，也将从根本上改变人类获取知识和解决问题的方式，将我们带入一个赋能时代（Age of Empowerment），增益人类其所不能，促进人类福祉。
本文是邢波供稿（英文）的中译版本，由机器之心编译，以下是全文。
人工智能正在从根本上改变我们获取知识和解决问题的方式。
在聊天机器人和图像生成器高调登场之前，人工智能已经悄然融入了人们的日常生活。它可以识别人脸打开手机，在你旅行时充当翻译和向导。当你结束一天的工作想放松休息时，它甚至可以为你挑选一部电影。
但是，在聊天机器人革命的同时，也出现了一些悲观的警告，将人工智能日益增长的能力与核灾难或自然灾害等生存威胁相提并论。网络上一些意见领袖说以后会出现全知全能的人工智能幽灵，还制造了一些其他抽象却荒谬的说法。然后学术界和商界的一些大人物选择放大这些说法，营造出充满悲观情绪的舆论，加剧公众的恐惧和焦虑，他们没有去坚持一个受过教育的社会成员应有的理性分析和严谨论证。那些站在当今科学前沿的真正研究者和创新者的声音正被这些论调所淹没。
仔细审视实际存在的威胁，就会发现人工智能所谓的危险被夸大了。核武器在广岛和长崎留下的不可磨灭的伤痕、Covid-19 等大流行病的肆虐以及气候变化导致的冰川融化，都是现实危险的鲜明写照。
对人工智能的悲观描述更多的是哗众取宠，而非科学上的实事求是。与核武器的直接灾难或气候变化的无情打击不同，人工智能的所谓威胁只停留在科幻小说的领域。例如 HAL-9000、「天网」 、奥创都是我们熟悉的反派角色，他们本是人工智能，却背叛了自己的创造者。
11月2日，英国首相苏纳克出席在英国布莱切利公园举行的人工智能安全峰会。不论是真的人工智能怀疑论者还是假的人工智能怀疑论者，都因为让公众和政府感到恐慌而被指责，这一点在最近的布莱切利公园活动中可以看出。
人工智能的现状与研究科学家试图解决的实际问题大相径庭。人工智能一词本身涵盖了大量科学领域、技术创新、人工制品和人类活动的内容。但是由于舆论偏离了方向，导致社会对人工智能充满了曲解和误用。
短短几年人工智能模型迅速增长，但这些具有误导性的威胁论调没有据此对未来趋势做出科学推断。没有哪条技术增长曲线会无限增长，增长也受到物理定律、能源约束和范式限制的约束，就像我们在转基因作物生产、半导体芯片的晶体管密度和超级计算机的 FLOPS（性能）中看到的情况。没有证据表明，如果未来没有重大的范式颠覆，目前的软件、硬件或数学将推动我们走向通用人工智能（ AGI ）。与所有生物体基因编辑的潜在风险相比，基于 Transformer 的人工智能（ ChatGPT 等人工智能聊天机器人的基石）的风险显得微不足道。
人工智能末日论者的推理和结论中存在根本漏洞——假设和证立之间存在巨大鸿沟。想象一下，假如说有人发明了一辆自行车，通过锻炼和训练很快能在短时间内大幅度提高骑行速度。在使用电动机和较轻材料后，这辆自行车能跑得更快。如果说这辆自行车可以快到起飞，你信吗？
不难看出这种推理的荒谬性，但这正是当前对人工智能的舆论：人工智能通过生成式预训练模型—— Transformer 可以成为百科全书一样的存在。接下来，人工智能将跃升为 AGI 。然后它会变成一种人工超智能（ Artificial Superintelligence，ASI ），拥有情商、意识和自我复制的能力。接着，人工智能会有一个巨大的飞跃——根据牛津大学联盟最近的一场辩论中提出的一些场景，人工智能会针对人类，在没有威慑的情况下，能够使用科幻方法消灭人类，比如让植被释放有毒气体，或者想办法耗尽太阳的能量。
上面所说的每一次飞跃都需要科学技术取得突破性进展，而这很可能难以实现。因为这些飞跃涉及的诸多假设在逻辑上都是不成立的。但这些故事讲述的风险却会激发公众的想象力。
正如我们最近在英国布莱切利公园举行的人工智能安全峰会上看到的那样，这些人工智能怀疑论者—不管是有意还是无意—都在无视科学论证的义务，让公众和政府感到恐慌。目前正在推行的法规并不是为了防止可笑的生存风险，而是在破坏威胁大型科技公司利润的开源人工智能社区。过度监管以提高人工智能开发成本，只会让少数富豪受益。
具有讽刺意味的是，「生存威胁」 论还忽视了人类的作用。切尔诺贝利等灾难和挑战者号航天飞机爆炸悲剧的背后不是技术，而是人类管理系统。和与现实世界打交道的物理科学相反，人工智能的领域主要是数字化的。与物理学、化学和生物学等任何直接与物理世界进行实验的技术相比，人类需要更多的参与到和人工智能的互动过程当中，找到更多可以检查和控制人工智能的机会。
人工智能末日论者的言论掩盖了科学进步和技术革命给社会和文明带来的根本性、超群的利益，以致于几乎无法激励公众理解和利用科学。历史上不乏科技成为人类进步的催化剂而非扫把星的例子。指南针、书籍和计算机等工具带领人类智慧从深海畅行到无边宇宙。
关于人工智能存在威胁的说法取决于人工智能能否超越人类智慧，而这一概念缺乏明确的衡量标准。许多发明—如显微镜和计算器—已经超越了一些人类能力，但人们对这些发明感到兴奋，而不是担心它们会灭绝人类。
伴随聊天机器人革命而来的是不祥的警告，这些警告将人工智能日益增长的效用与核灾难或自然灾害等生存威胁相提并论。
实际上，人工智能正在迎来21世纪的 「文艺复兴」（AI RenAIssance），从根本上改变我们获取知识和解决问题的方式。与孕育了启蒙、倡导理性发现科学真理的文艺复兴不同的是，这个时代正将我们带入一个赋能时代（ Age of Empowerment ）。
历史上的文艺复兴得益于印刷技术和出版市场，使知识得以在欧洲和其他地区迅速传播。早期的科学通过「知道如何思考」来构建知识结构。牛顿和莱布尼茨等人倡导并定义了这种理性主义。他们和他们同时代的人为一套基于第一性原理、有条理且系统的科学大厦奠定了基础。
他们创造的科学通过逻辑和有条不紊的实验形成假设、揭示核心观点并验证理论三步曲，几个世纪以来，不断向前发展。现代人工智能正在重塑这种经典的解决问题的方法。
如今，庞大的数据集、先进的基础设施、复杂的算法和强大的计算能力融为一体，预示着一个远远超越传统逻辑的新发现时代的到来。它有望成为一门以彻底的经验主义和人工智能引导的洞察力为特征的科学。今天的人工智能复兴超越了「如何」，进而深入研究「为什么」。它为个人提供的不仅仅是知识，还有解决实际问题的工具，标志着经验方法和手段的转向。人工智能揭示了生物学、基因组学、气候科学和自动化等领域的各种可能性。
当前这个时代的标志是经验主义的复苏，人工智能的数据处理能力使知识的提炼、组织、推理和假设检验自动化，并从已识别的模式中学习洞察力。它为科学探索的新方法开辟了道路，例如，通过极高吞吐量的数字内容生成、复杂的模拟预测和大规模战略优化，其规模和速度大大超出了传统的基于第一性原理的方法和因果推理所能处理的范围。
这意味着人类有了前所未有的真正机会来应对气候变化、癌症和个性化医疗等以往不可能应对的挑战。这种现代文艺复兴促进人们持续学习、不断适应，使社会文化从坚持在行动之前理解一切，转向探索、理解和有道德地加以使用。在提倡谦虚地获取知识、解决问题方面，这种心智模式与过去的经验方法论可谓异曲同工。
就像普罗米修斯为人类盗取火种一样，人工智能已成为推动人类文明进步的有力工具，虽然尚未被完全掌握。我们需要谦逊、勇气和自由来掌握并使用这一工具。
相关文章
