OpenAI、微软、谷歌和Anthropic共同发起人工智能前沿模型论坛
techmonitor
全球一些最大的人工智能实验室已发起成立一个新的论坛，旨在规范大型语言模型（LLMs）的发展。OpenAI、微软、谷歌和Anthropic是创始成员，他们将重点关注未来的大语言模型，而非当前使用的模型。OpenAI正在牵头创建新的AI前沿模型论坛。（照片由T Schneider/Shutterstock提供）这些公司表示，前沿模型论坛可能成为一个新行业组织的前奏，该组织旨在推动先进人工智能系统的安全且负责任的发展。根据该组织的说法，这将包括在AI安全研究方面的合作、制定标准，以及与政策制定者和行业的信息共享。就像OpenAI上周在白宫与美国总统乔·拜登达成的自愿协议一样，这一新组织聚焦于未来处于研究前沿的系统，这将包括任何比今天使用的模型更强大的模型，例如OpenAI的GPT-4、Anthropic的Claude 2和谷歌的PaLM。自OpenAI去年11月推出ChatGPT以来，大语言模型和生成式AI已引起全球关注。它们在企业界和经济领域中得到广泛使用，但也正受到监管机构和倡导者的日益审视。目前大多数监管重点，从欧盟《人工智能法案》到英国《人工智能白皮书》，都是针对当前使用的人工智能模型，但“前沿模型论坛”的创始成员试图将焦点转移到下一代系统，这包括所谓的人工通用智能（AGI），或具备人类级理解能力的模型。微软总裁布拉德·史密斯在一份声明中表示：“开发AI技术的公司有责任确保技术的安全、安全性和保持人类控制。”OpenAI表示，新的行业组织不会向政府游说政策，而是专注于安全研究。尚不清楚这种不游说的原则是否也适用于这些公司本身，因为有报道称OpenAI一直在向欧盟游说，要求弱化其《人工智能法案》中的一些条款。前沿模型论坛董事会和工作组的宣布该论坛表示，下一步将是创建一个新的咨询委员会，并资助一个工作组和执行董事会，以推动标准的制定。“前沿模型论坛将利用其会员公司的技术与运营专业知识来造福整个AI生态系统，例如通过推进技术评估和基准测试，并开发一个公共解决方案库，以支持行业最佳实践和标准，”OpenAI表示。内容来自我们的合作伙伴如何通过技术团队推动公共部门的可持续发展议程混合云中的价值通过数据中心运营优化业务价值其他正在开发所谓前沿AI模型的组织也受邀加入该论坛，并为AI安全研究做出贡献。核心目标包括安全研究、最小化风险的责任开发标准以及识别最佳实践。查看所有通讯注册我们的通讯数据、洞察和分析直接发送给您由《科技观察家》团队提供在此注册尽管亚马逊、Inflection和Meta签署了白宫AI原则（包括在模型上线前进行漏洞和安全测试），但它们并未加入该论坛，原因尚不清楚。前沿模型论坛的会员资格标准论坛的会员必须在开发自己的前沿模型，同时展现对模型安全的承诺，并愿意为推进论坛的努力做出贡献。前沿模型被定义为一种大规模的机器学习模型，其能力超越当今最先进的AI。OpenAI全球事务副总裁安娜·马卡努说，先进的AI技术有潜力“极大地造福社会”，但要实现这种潜力需要监管和治理。“AI公司——尤其是那些正在开发最强大模型的公司——就共同基础达成一致，并推动深思熟虑且灵活的安全实践以确保强大AI工具实现最广泛的利益，这是至关重要的，”她说。“这是一项紧迫的工作，而且该论坛正处于快速推进AI安全状态的有利位置。”该组织赞扬国家政府在建立护栏以减轻先进AI风险方面正在进行的AI安全工作。然而，还需要进一步工作来评估前沿模型的潜力，并确保它们以负责任的方式部署。Anthropic首席执行官达里奥·阿莫戴说，AI有潜力从根本上改变世界的运作方式，并补充道：“我们很期待与产业界、民间社会、政府和学术界合作，推动这项技术的安全和负责任发展。前沿模型论坛将在协调最佳实践和分享前沿AI安全研究方面发挥关键作用。”更多阅读：英国将主办全球AI峰会本文涉及主题：AI，前沿模型论坛
查看全文
作者最近更新
评论0条评论