在 Dreamforce 大会上，马克·贝尼奥夫正将 Salesforce 定位为企业人工智能领域值得信赖的代表。
techmonitor
Salesforce一年一度的Dreamforce大会于周二拉开帷幕，创始人Marc Benioff在会上介绍了公司最新的基于人工智能的进展。Benioff似乎正努力将Salesforce塑造为一个可信赖的企业人工智能提供商，这正值科技领袖们普遍担忧大型语言模型（LLMs）和生成式人工智能风险过高，企业难以部署的背景下。Marc Benioff在Dreamforce 2023上发表主旨演讲。（Matthew Gooding/Tech Monitor 摄）Benioff在旧金山大会的开幕式上发表了主题演讲，他和团队深入介绍了公司最新的Einstein 1人工智能平台，该平台能够使用户自动整理、分类并分析来自不同来源的大量数据。随后，Benioff还与OpenAI创始人Sam Altman一同登台，后者讨论了他公司的工作以及人工智能开发者面临的挑战。Salesforce想要为其客户打造一个值得信赖的人工智能平台在歌手兼词曲创作人Dave Matthews演唱完一首《Something to tell me, baby》后，Benioff走上了讲台，阐述了公司对人工智能在企业中如何被使用的立场。“我们认识到一个非常重要的事实——我们正处在一个人工智能革命中，它将影响我们的身份和运作方式，并将我们带回到我们的核心价值观。”他说道。但他也坦言，目前这一批生成式人工智能系统，比如OpenAI的ChatGPT，输出的质量他并不乐观。“这些系统不错，但并不好，”Benioff说，“它们可以给出不完全准确的回答。你可以称之为幻觉，但我觉得它们是在撒谎。这些大型语言模型是非常具有说服力的骗子。”Benioff补充说，企业数据被人工智能开发者用来训练模型的做法也阻碍了其普及。“很多首席信息官都说，‘我现在还不准备把数据交给这些大型语言模型来提高它们系统的智能水平’。”他说。Benioff表示，这些担忧是有依据的。据Tech Monitor报道，芯片制造商AMD上个月发布的一项研究发现，在全球5,000名被调查的IT决策者中，超过半数表示，由于对数据安全的担忧，他们的企业尚不具备采用人工智能系统的准备。三星就是众多禁止员工使用如ChatGPT等聊天机器人之一，因为这些敏感信息可能会被用来训练模型。Salesforce认为自己已经找到了解决方案，即通过Einstein 1的“信任层”，据称该功能可以防止数据被泄露或用于训练人工智能。在之后的演讲中，公司的首席技术官Parker Harris解释了该功能在实际操作中的运作方式，使企业可以安全地通过Salesforce平台使用商业大型语言模型，而不会使信息面临风险。通过Einstein 1，信息在被发送给像OpenAI的GPT-4这样的大型语言模型之前会被“遮掩”处理，以确保其安全生成洞察，然后再返回并解除遮掩。Parker说：“开发人员永远也不会保留你的数据，吸收到数据中进行训练。”Benioff和他的团队似乎正依靠他们与大型企业的现有紧密关系，来说服客户在人工智能方面也能够信任他们。“我们并不关注你的数据，你的数据也不是我们的产品，”Benioff说，“我们在这里是为了让你变得更优秀、更有生产力，也更成功。”**来自我们的合作伙伴：**- 人工智能正在保险行业中解锁宝贵的机会- 人工智能将为食品饮料行业打造更具韧性的未来- 保险企业必须利用数据协作的力量实现其商业潜力- OpenAI的Sam Altman在Dreamforce上：人工智能幻觉等话题在Dreamforce后期，Altman与Benioff进行了对话交流。在谈到“幻觉”时，作为OpenAI的CEO，Altman显然更加放松地看待系统产生错误结果的问题。**查看所有通讯****订阅我们的通讯**由Tech Monitor团队提供的数据、洞察与分析，直接发送到您的邮箱。点击此处注册。Altman表示，防止人工智能系统产生幻觉存在“许多技术挑战”，他说道：“一个不太明显的问题是，这些系统很大一部分价值实际上就在于它们会产生幻觉。”他表示，虽然你“已经可以在数据库中查找信息，但创造力是人工智能系统的核心力量之一”。Altman继续说道：“如果你只是简单地要求系统从不给出它没有100%把握的信息，那你就失去了它的魔力。”Altman说，他的团队开始观察到“智能从复杂的计算机编程中逐步浮现”，但他也警告道：“我们有信心预测GPT将会变得越来越强大，但我们不知道新能力是如何或为何出现的。我们会对新的重大进展毫无准备。”因此，他指出政策制定者的监管是必要的。目前，世界各地政府正在制定各种形式的人工智能法规。当被问及哪个国家已经准备好在人工智能领域引领潮流时，Altman补充说：“我认为美国将是最大的领导者。”他解释说：“我们美国拥有许多有利条件，但这将是一场真正全球性的努力。”Salesforce为Tech Monitor提供了Dreamforce的旅行与住宿费用。**阅读更多：** 美国联邦贸易委员会对OpenAI展开调查
查看全文
作者最近更新
评论0条评论