转载

前沿模式论坛

以下是与Anthropic，Google和Microsoft的联合公告和努力。

  • Anthropic、Google、Microsoft和OpenAI正在推出前沿模型论坛，这是一个专注于确保前沿AI模型的安全和负责任开发的行业机构。
  • 论坛旨在帮助（i）推进人工智能安全研究，以促进前沿模型的负责任发展并最大限度地降低潜在风险，（ii）确定前沿模型的安全最佳实践，（iii）与政策制定者、学术界、民间社会和其他人分享知识，以推动负责任的人工智能发展;以及（iv）支持利用人工智能应对社会最大挑战的努力。
  • 前沿模式论坛将设立一个咨询委员会，以帮助指导其战略和优先事项。
  • 论坛欢迎其他组织参与开发前沿人工智能模型，愿意合作推进这些模型的安全发展。

今天，Anthropic，Google，Microsoft和OpenAI宣布成立Frontier Model Forum，这是一个新的行业机构，致力于确保前沿AI模型的安全和负责任的开发。前沿模型论坛将利用其成员公司的技术和运营专业知识，使整个人工智能生态系统受益，例如通过推进技术评估和基准，以及开发一个公共解决方案库来支持行业最佳实践和标准。

论坛的核心目标是：

  1. 推进人工智能安全研究，以促进前沿模型的负责任开发，最大限度地降低风险，并对能力和安全性进行独立、标准化的评估。
  2. 确定负责任地开发和部署前沿模型的最佳实践，帮助公众了解技术的性质、功能、局限性和影响。
  3. 与政策制定者、学术界、民间社会和公司合作，分享有关信任和安全风险的知识。
  4. 支持开发有助于应对社会最大挑战的应用程序，例如减缓和适应气候变化、早期癌症检测和预防以及应对网络威胁。

成员资格标准

论坛将前沿模型定义为大规模机器学习模型，这些模型超越了当前最先进的现有模型中的能力，并且可以执行各种任务。

符合以下条件的组织均可成为会员：

  • 开发和部署前沿模型（由论坛定义）。
  • 表现出对前沿模型安全的坚定承诺，包括通过技术和制度方法。
  • 愿意为推进论坛的努力做出贡献，包括参与联合倡议和支持倡议的发展和运作。

论坛欢迎符合这些标准的组织加入这项工作，并合作确保前沿人工智能模型的安全和负责任开发。

前沿模型论坛将做什么

政府和行业一致认为，虽然人工智能为造福世界提供了巨大的希望，但需要适当的护栏来降低风险。美国和英国政府、欧盟、经合组织、七国集团（通过广岛人工智能进程）和其他方面已经为这些努力做出了重要贡献。

为了在这些努力的基础上再接再厉，需要在安全标准和评估方面开展进一步的工作，以确保负责任地开发和部署前沿人工智能模型。该论坛将成为跨组织讨论人工智能安全和责任和行动的工具之一。

未来一年，论坛将重点关注三个关键领域，以支持前沿人工智能模型的安全和负责任开发：

  • 确定最佳实践： 促进行业、政府、民间社会和学术界之间的知识共享和最佳实践，重点关注安全标准和安全实践，以减轻广泛的潜在风险。
  • 推进人工智能安全研究： 通过确定有关 AI 安全的最重要的开放研究问题来支持 AI 安全生态系统。论坛将协调研究，以在对抗性稳健性、机械可解释性、可扩展监督、独立研究访问、紧急行为和异常检测等领域推进这些努力。最初将重点关注开发和共享前沿人工智能模型的技术评估和基准的公共图书馆。
  • 促进公司和政府之间的信息共享： 建立可信、安全的机制，在公司、政府和相关利益攸关方之间共享有关人工智能安全和风险的信息。论坛将遵循网络安全等领域负责任披露的最佳做法。


谷歌和Alphabet全球事务总裁肯特·沃克（Kent Walker）表示：“我们很高兴与其他领先公司合作，分享技术专长，以促进负责任的人工智能创新。我们都需要共同努力，确保人工智能造福于每个人。

Microsoft副主席兼总裁布拉德·史密斯（Brad Smith）表示：“创造人工智能技术的公司有责任确保其安全，可靠，并保持在人类的控制之下。这一举措是将科技行业聚集在一起，负责任地推进人工智能并应对挑战以造福全人类的重要一步。

OpenAI全球事务副总裁Anna Makanju表示：“先进的AI技术有可能深刻地造福社会，实现这一潜力的能力需要监督和治理。至关重要的是，人工智能公司——尤其是那些致力于最强大模型的公司——在共同的基础上保持一致，并推进深思熟虑和适应性强的安全实践，以确保强大的人工智能工具具有尽可能广泛的利益。这是一项紧迫的工作，这个论坛有能力迅速采取行动，推进人工智能安全的状态。

Anthropic首席执行官Dario Amodei表示：“Anthropic认为人工智能有可能从根本上改变世界的运作方式。我们很高兴与行业、民间社会、政府和学术界合作，促进该技术的安全和负责任的发展。前沿模型论坛将在协调最佳实践和分享前沿人工智能安全研究方面发挥至关重要的作用。

前沿模型论坛将如何运作

在接下来的几个月里，前沿模式论坛将建立一个咨询委员会，以帮助指导其战略和优先事项，代表不同的背景和观点。

创始公司还将建立关键的制度安排，包括章程、治理和资金，并有一个工作组和执行委员会来领导这些努力。我们计划在未来几周内与民间社会和各国政府就论坛的设计和有意义的合作方式进行磋商。

前沿模型论坛欢迎有机会帮助支持和推动现有的政府和多边倡议，如七国集团广岛进程、经合组织在人工智能风险、标准和社会影响方面的工作，以及美欧贸易和技术委员会。

论坛还将寻求在其每个工作流程中利用现有行业、民间社会和研究工作的宝贵工作。诸如人工智能伙伴关系和MLCommons继续在整个人工智能社区做出重要贡献，论坛将探索与这些和其他有价值的多方利益相关者合作和支持的方式。

相关文章
本文目录
    标签
    OpenAI研究 Hadoop 人工智能 Stable Diffusion 杂项 OpenAI插件例子 Midjourney Openjourney DALL-E OpenAI博客 OpenAI接口
    近期评论
    • 推荐文章
    1. 暂无相关文章