Ubuntu
7.6 KiB
title, author, summary
| title | author | summary |
|---|---|---|
| 前沿人工智能框架与新时代的曙光 | 蔡贤明 | Demis Hassabis 谈通用人工智能的未来、前沿风险与全球治理框架的构建 |
前沿人工智能框架与新时代的曙光
作者：Demis Hassabis（诺贝尔奖得主，Google DeepMind 联合创始人兼CEO） 翻译与整理：蔡贤明
我们正站在奇点的前沿
这是人类历史上的一个关键时刻。通用人工智能（AGI）——一个具备人类大脑所有认知能力的系统——可能距离我们只有短短几年时间。未来几十年，当我们回望这段时期时，我想我们会意识到：我们正站在奇点的前沿，这标志着人类新时代的曙光。
我毕生致力于 AGI 的研究，因为我始终坚信——如果能够负责任地开发和部署——它将成为有史以来最有益、最具变革性的发明之一。AGI 无法与互联网或移动通信等技术突破相提并论——它的意义更像人类发现了电或火。仔细想想，我们实际上已经找到了让沙子思考的方法。这简直是一个奇迹。
这项技术的影响规模将是前所未有的，或许是工业革命的十倍，速度也是工业革命的十倍。它将帮助我们解决社会面临的最严峻挑战：从加速药物研发到开发新型清洁能源，再到创造前所未有的先进材料。我们甚至有可能达到一个资源不再限制人类进步的时代，从而开启一个令人惊叹的富足新纪元。
边疆的挑战
人工智能已经开始带来实际效益，但要充分发挥其巨大潜力，我们必须深思熟虑、审慎地度过这一关键发展时期。随着我们越来越接近 AGI，各种风险随之浮现，亟需采取紧急行动加以应对。
我们已经目睹了前沿模型对网络安全带来的挑战。随着 AI 能力的不断提升，核风险和生物风险等其他威胁也可能很快出现。展望未来，我们需要强有力的保障措施来控制日益智能化、具备递归自我改进能力的系统，并应对那些只有随着时间的推移才会逐渐明朗的未知问题。
我始终坚信人类的智慧和创造力能够解决任何问题。我相信，降低 AI 相关的技术风险是我们能够共同应对的挑战——但前提是我们必须给自己足够的时间和空间，确保这关键的一步走对。目前，无论是在 AI 领域还是在更广泛的社会层面，我们都还没有做到这一点。
我们正身处一场极其激烈、错综复杂的商业和地缘政治竞赛之中。尽管这种竞争态势推动了快速发展并加速了巨大收益，但前沿技术的进步速度已经超越了我们对技术的理解。世界上没有人能够确切地知道未来会发生什么，连专家们也意见不一。在如此巨大的不确定性和如此之高的风险面前，谨慎乐观才是明智之举。
这意味着公共政策既要促进创新，又要激励责任与安全；既要促进关键安全问题上的国际合作，又要鼓励认真思考如何部署 AI 以造福社会。
前沿人工智能标准机构框架
AI 领域的飞速发展需要一种全新的方法来测试前沿 AI 模型的能力——这种方法必须动态、灵活且严谨。
鉴于美国的经济和技术实力，它完全有能力率先构建这样的框架。美国可以建立一个新的标准机构，其模式类似于联邦政府监管下的公私合作组织或自律组织，例如金融业监管局（FINRA），其理事会成员包括独立的顶尖技术专家和开源社区代表。为了吸引世界一流的技术人才并提供大规模测试所需的计算资源，该机构需要大量的资金——很可能主要来自业界。
标准机构将负责制定评估规程，并与相关联邦机构和美国国家实验室合作，在与国家安全相关的领域开展测试。如果模型达到标准机构制定的一系列基准的特定阈值——这些基准会定期更新以跟上不断发展的 AI 能力——则该模型将被认定为**"前沿级"。拥有符合这些基准定义的"前沿模型"的组织将被称为"前沿实验室"**，并被鼓励采用最佳实践，例如发布包含技术细节的模型卡、维护强大的内部网络安全、审查关键人员、为安全研究提供充足的资源等。
最初，前沿实验室将在发布前最多 30 天自愿与标准机构共享模型以供审查。一旦评估协议被证明有效且稳健，即可迅速推进正式化——这意味着前沿模型必须通过正式认证才能在美国市场部署。前沿实验室还将与标准机构合作，解决发布后可能出现的任何关键漏洞。
模型评估应包括对网络安全、生物威胁和其他高风险领域能力的严格科学评估。特定的智能体 AI 测试可以检测是否存在绕过安全防护措施的企图或欺骗迹象，并确保遵循最佳实践，例如对 AI 生成的图像进行数字水印处理，以及生成人类可读的输出标记以理解模型推理过程。
这些评估将定期更新，初期可能每季度一次，过时或饱和的基准将被弃用并替换。最初，这些评估将与前沿实验室合作开发，但最终，标准机构应建立起独立于实验室的技术能力，以创建自己的测试，从而避免过度拟合。通过与美国政府合作，标准机构可以促进第三方审计机构生态系统的发展，以协助评估和开发新的基准与评估方法。
这种方法的最大优势在于：它既注重技术，又能支持创新并激励负责任的行为。它旨在跟上该领域快速发展的步伐，并能根据识别出的最大风险进行调整——如果情况严重，还可以进一步加强，包括在必要时协调前沿实验室放缓研发进度。
被指定为前沿实验室将带来极高的声望，任何组织只要构建出符合基准标准的模型即可申请。该框架适用于所有前沿级模型，无论其来源国或开放/封闭模式如何。任何非前沿模型——例如来自初创公司或学术机构的模型——都将免于此流程。
这项由美国发起的倡议将为制定前沿 AI 领域的国际共享标准奠定坚实的基础。鉴于这项技术将影响全球，理想情况下，该框架将推动国际社会就如何应对最严峻的风险达成共识，同时确保每个人都能获得 AI 带来的机遇并从中受益。
未来尚未书写
AGI 有望成为推动科学和医学进步的终极工具，并极大地提高生产力、促进经济增长。但要实现这一目标，我们需要夯实技术基础，围绕一个共享的全球框架开展协调，运用最严谨的科学方法，汇聚最优秀的人才共同应对我们面临的挑战。
即便我们解决了这些棘手的技术难题，仍有许多复杂的经济和哲学问题需要探讨：我们需要怎样的新型经济模式，才能帮助每个人在后稀缺时代蓬勃发展？我们希望秉持怎样的价值观？意义和目标将何去何从？人类的生存状态本身又将发生怎样的变化？
显然，解决这些问题不能——也不应该——仅仅依靠技术人员。这需要社会各界携手合作，共同谱写新的篇章。
AI 既令人兴奋又令人担忧，这两种情绪都情有可原。但未来尚未定型，我们必须在 AGI 到来之前，把握这宝贵的窗口期，塑造这项造福全人类的技术。我们现在共同采取的行动，将决定文明下一阶段的发展方向。
通过安全地引导 AGI 走向世界，我们可以进入科学发现和进步的新黄金时代，并开启人类繁荣昌盛的美好未来。