Adobe 和 IBM 加入最新人工智能水印协议
techmonitor
白宫宣布，Adobe、IBM和NVIDIA是八家新加入美国总统乔·拜登自愿人工智能治理计划的公司之一。最初该计划面向OpenAI、Anthropic和Google DeepMind等大型人工智能实验室，旨在鼓励签署方遵守特定的治理标准，包括对人工智能生成的内容进行水印标记，并“支持第三方发现并报告其人工智能系统中的漏洞”。这一消息发布之际，一项新研究显示，由于缺乏指导和明确的监管规定，企业领导正在推迟人工智能项目。Adobe是白宫自愿治理计划的八家新签署方之一，该计划要求公司对人工智能内容进行水印标记。（照片由Mats Wiklund / Shutterstock提供）白宫协议还要求签署方做出安全承诺，例如测试输出内容中的虚假信息和安全风险。签署方还应与更广泛社区分享降低风险的方法信息，并投资网络安全措施。其他签署自愿治理计划的公司还包括拥有Slack生产力平台的CRM巨头Salesforce、美国数据情报公司Palantir、生成式人工智能模型Stable Diffusion的创建者Stability，以及人工智能实验室Cohere和Scale AI。7月份发布的早期版本中，签署了该计划的公司包括亚马逊、Anthropic、Inflection、Google、Meta、微软和OpenAI。这些组织都承诺立即开始实施相关措施，该工作被政府形容为“人工智能未来发展的基础”。白宫在首次宣布该计划时表示，这一计划强调了人工智能发展的三个重要原则：安全、安全性和信任。这与英国今年早些时候发布的《人工智能白皮书》中的原则相似。“为了充分发挥人工智能的潜力，拜登-哈里斯政府鼓励该行业坚持最高标准，以确保创新不会以美国人的权利和安全为代价，”白宫表示。“人工智能的发展历程表明了这些风险的隐蔽性和普遍性，这些公司承诺推出能够减轻这些风险的人工智能。”人们认为，更好的监管和治理将有助于加快人工智能在市场中的普及。包括IBM在内的部分公司正在开发工具以提高透明度和报告能力。这包括在每个阶段跟踪模型训练所使用的数据，并对每个训练阶段进行报告。然而，该事实清单还敦促公司在解决所有安全风险之前避免发布模型权重和具体细节。治理与监管白宫认为，新的自愿治理计划是全球人工智能发展协议的基础。英国政府也已达成类似的承诺，允许模型用于第三方测试。事实上，拜登政府自愿治理计划中提出的原则，与英国政府在即将举行的布莱切利人工智能安全峰会期间提出的优先讨论事项相似。这些轻量级的治理方式与欧盟在即将出台的人工智能法案中采取的更具指令性的态度形成对比。来自我们合作伙伴的内容人工智能如何在保险行业释放价值机会人工智能将为食品和饮料行业打造一个更具韧性的未来保险企业必须利用数据合作的力量才能实现其商业潜力。根据福布斯的报道，到2027年，人工智能市场的规模预计将达到4070亿美元，到2030年的年均复合增长率（CAGR）预计为37.3%。尽管如此，企业界对人工智能产品和服务仍存在持续的担忧，治理问题被列为延迟推出的主要原因之一。查看所有时事通讯注册我们的时事通讯数据、见解和分析将发送到您的邮箱由《科技观察家》团队提供在这里注册全球法律事务所DLA Piper的一份调查发现，当前监管框架的缺乏是导致企业领导焦虑的主要原因。该报告根据对年收入平均9亿美元或以上的600名高管的采访编撰而成，报告还显示，超过三分之一的受访者不确定其公司是否符合当前的人工智能法规，另有39%的人不清楚相关法规将如何发展。与此同时，近一半受访者表示，由于数据隐私问题和治理框架的缺乏，人工智能项目已被中断、暂停或回撤。针对DLA Piper的报告，全球人工智能实践小组的Jeanne Dauzier呼吁企业在推出新人工智能产品时更加谨慎。该小组联合主管知识产权和技术的负责人表示：“这项研究传递出两个明确的信息。”“首先，企业感到必须迅速采用人工智能——在这个领域，他们无法袖手旁观，等待观望。其次，必须确保在业务和社区中获得惊人的生产效率提升机会，不会带来道德上的代价。”阅读更多：白宫获得人工智能安全承诺本文主题：人工智能
查看全文
作者最近更新
评论0条评论