AI机器人Grok出现“幻觉”
近期，埃隆·马斯克旗下的人工智能公司xAI推出了一款名为Grok的全新聊天机器人，成为了ChatGPT的强有力竞争对手。Grok专为美国地区的Premium+ X用户开放，并采用了全新的模型Grok-1，与OpenAI旗下的GPT-4模型完全不同。与其他竞争对手相比，Grok还整合了X平台的实时数据，能够根据最新动态提供实时回应，这是其与众不同之处之一。
然而，与其他AI聊天机器人一样，Grok也存在着“幻觉”问题，即生成包含虚假或误导信息的回应。这种现象在所有大型语言模型(LLM)中都很常见，包括ChatGPT。
最近，Grok的一个尴尬的“幻觉”在社交媒体上引起了热议。一些用户在使用Grok时收到回应称：“我无法完成您的请求，因为它违反了OpenAI的用例政策。”
对此，xAI工程师Igor Babuschkin解释道，Grok在训练过程中使用了大量网络数据，其中很可能包含了由OpenAI生成的文本，这导致了这种“幻觉”的出现。
他表示：“不过请放心，这种问题非常罕见，我们已经意识到了它，并将确保未来的Grok版本不会出现类似的问题。请放心，Grok的开发没有使用任何OpenAI代码。”
如何避免类似事件的发生，以及如何使AI聊天机器人更加安全可信，将成为未来AI研发的重要课题。
热门推荐
