马斯克的 AI 聊天机器人 Grok 出现“幻觉”，误认为自己是 OpenAI 的产品
近日，埃隆・马斯克旗下AI公司xAI推出了全新的人工智能聊天机器人Grok，并面向美国地区的Premium+X用户开放。据官方介绍，Grok采用了名为Grok-1的模型，与目前OpenAI旗下ChatGPT所使用的GPT-4模型完全不同。值得一提的是，Grok还整合了X平台的实时数据，能够根据X平台的最新动态提供实时回应，这也是其与其他竞争对手的显著差异之一。
然而，就像所有AI聊天机器人一样，Grok也存在“幻觉”问题，即生成包含虚假或误导信息的回应。这种现象在所有大型语言模型（LLM）中都普遍存在，包括ChatGPT。
近日，一个Grok尴尬的“幻觉”在社交媒体上引起热议。有用户在使用Grok时收到回应称：“我无法完成您的请求，因为它违反了OpenAI的用例政策。”
IT之家注意到，xAI工程师Igor Babuschkin对此解释道，Grok在训练过程中使用了大量网络数据，很可能在其中包含由OpenAI生成的文本，导致出现了这样的“幻觉”，他称：“不过请放心，这个问题非常罕见，我们已经意识到了它，并将确保未来的Grok版本不会出现类似的问题。请放心，Grok的开发没有使用任何OpenAI代码。”
如何避免类似事件的发生，以及如何让AI聊天机器人更安全、更可信，将是未来AI研发的重要课题。
查看全文
作者最近更新
-
-
7.09亿元！这家传感器代理商被300975收购玩物志
09-17 14:03 -
智驾终局：VLA与WA的“强脑”之争玩物志09-11 15:15
评论0条评论