欧盟人工智能法案会成为开源的“死刑”吗？
techmonitor
欧盟需要在《欧盟人工智能法案》中采取更多措施来支持开源人工智能的发展，一群领先的开发者和开源公司已发出警告。GitHub、Hugging Face和知识共享基金会都是致欧洲议会公开信的签署者之一。然而，一位人工智能专家告诉《科技观察报》，开源与安全部署的人工智能并不兼容，因为很难对误用负责。《欧盟人工智能法案》中包括一项对外部审计人工智能模型的要求，这可能与开源项目不兼容（照片由Rawpixel.com/Shutterstock提供）。这封公开信已发送给欧盟的政策制定者，并列出了一系列建议，供欧洲议会在制定《人工智能法案》最终版本时参考。这些建议包括对人工智能组件有更清晰的定义，明确说明从事开源模型的业余爱好者和研究人员并未从他们的代码中获得商业利益，并允许在真实世界中对人工智能项目进行测试。全球各国政府正在努力寻找应对人工智能安全和监管的最佳方式。OpenAI和Google等公司正在形成联盟，推动未来模型的安全研究，而英国则在倡导全球性措施。欧盟在人工智能监管方面采取了其中最严格的规定，将拥有第一部全面的法律。在公开信发布的同时，还有一篇关于人工智能模型监管的研究论文发表。该论文认为，《欧盟人工智能法案》将为人工智能监管树立全球先例，支持开源生态系统的监管将有助于在管理风险的同时鼓励创新。该法案的设计以风险为基础，针对不同类型的人工智能采取不同的监管方式。这些公司指出，围绕开源的规则和非商业项目豁免的细节尚不够清晰。他们还表示，关于影响评估的规则，包括第三方审计，对于通常非营利性的项目来说过于繁琐。《欧盟人工智能法案》可能成为“开源的终结”。人工智能认证机构ForHumanity的首席执行官Ryan Carrier告诉《科技观察报》，《欧盟人工智能法案》是“开源的死亡”，他将这种技术开发方式描述为“不承担责任和不担责的借口”。Carrier表示：“由于组织有遵守法规的责任，他们不能再依赖那些无法提供上游工具足够陈述、保证和赔偿的工具。”他指出，这意味着有人将必须治理、评估并支持任何开源产品，使其能够投入生产并符合法案。“开源作为创造过程是有用的，但若要生存下去，它必须与治理、监督和问责制度结合。”他表示。Carrier认为，“如果开源社区能够整理所有合规要求，并确定一个吸收责任和上游责任的流程，那么他们仍可继续下去。”相比之下，BCS F-TAG小组主席Adam Leon Smith欢迎呼吁对开源人工智能持更开放态度。“我们对人工智能技术提供商的许多要求，以确保人工智能被安全使用，包括透明度，这是开源文化中内置的概念。”Leon Smith说。“监管应专注于人工智能的使用，而不是其创建。因此，监管机构应谨慎避免对开源造成不必要的限制。”我们合作伙伴的内容技术团队如何在公共部门推动可持续发展议程在混合云中发现价值通过数据中心运营优化业务价值英国开源组织OpenUK的首席执行官Amanda Brock告诉《科技观察报》，《欧盟人工智能法案》的自上而下方法使除最大公司外的任何人都很难理解和遵守该法规。她同意行为准则和可接受使用政策与开源软件许可不兼容，因为它们默认允许任何人出于任何目的使用代码。查看所有新闻通讯注册我们的新闻通讯由《科技观察报》团队为你提供数据、洞察和分析在这里注册人工智能发展“处于十字路口”一个可能的解决方案是进一步转向Meta在授权其Llama 2大型语言模型时采用的方法。Llama 2并未在真正的开源许可下发布，因为它对共享和使用该模型的方式及用户群有一些限制，包括对高使用场景的付费许可。Brock指出，“这表明我们正处于一个不断演变的空间，并且委员会的立法方法将行不通。”Brock也同意，在《欧盟人工智能法案》最终通过前，有必要改变如何处理和分类欧盟的开源项目。“默认情况下，组织将被视为商业企业，需按照法案规定满足某些合规标准，特别是针对开源软件。”她解释道。如果某些组织满足特定条件并遵守良好的实践标准，可以享受豁免。但Brock表示，人们对豁免条件是否足够广泛以涵盖所有开源项目表示担忧。这将导致一些特定项目被法案纳入监管，却无法合规。开源研究平台Iris.ai的首席技术官兼联合创始人Victor Botev表示，欧洲拥有世界顶级的开源资质，欧盟监管机构需要采取措施保持该领域的运行。“当Meta等公司为AI模型LLaMA 2发布商业开源许可时，即使是美国的行业巨头也已转向开源社区的力量。”Botev说。“我们正处于人工智能发展的十字路口，”Botev表示。“一条路指向封闭模型和黑箱开发。另一条道路则通向一个崛起的欧洲科技场景，开源运动将以比任何一家公司更快、更有效地迭代和实验AI——无论公司规模如何。”Botev认为，实现开源模式需要更广泛的人群认识到其优势，并了解AI系统的实际运作方式。他指出，这将激发更多关于如何进行监管的富有成果的讨论，而无需诉诸夸张的对话。“从这个意义上说，社区本身可以成为监管机构的盟友，确保我们拥有合适的监管措施，并且这些措施是可实施的、合理的，对所有人都是公平的。”他解释道。阅读更多：前沿模型论坛：OpenAI与合作伙伴启动AI安全组织本文主题：人工智能，欧盟人工智能法案
查看全文
作者最近更新
评论0条评论