ChatGPT因意外输出而暂时“疯狂”，吓坏了用户

ChatGPT因意外输出而暂时“疯狂”，吓坏了用户

周二，ChatGPT用户开始报告OpenAI AI助手的意外输出，在r/ChatGPT Reddit子站上充斥着AI助手“中风”、“发疯”、“胡言乱语”和“失去它”的报告。OpenAI承认了这个问题，并在周三下午解决了这个问题，但这一经历是一个引人注目的例子，说明了一些人如何看待故障的大型语言模型，这些模型旨在模仿人类的输出。

ChatGPT不是活着的，也没有失去的头脑，但对大多数人来说，使用人类隐喻（称为“拟人化”）似乎是描述他们从AI模型中看到的意外输出的最简单方法。他们被迫使用这些术语，因为OpenAI并没有确切地分享 ChatGPT在后台的工作方式;底层的大型语言模型就像一个黑盒子。

一位名叫z3 ldafitzgerald的Reddit用户在回复一篇关于ChatGPT被窃听的帖子时写道：“这给了我完全相同的感觉–就像看着一个人慢慢地失去理智，无论是精神病还是痴呆症。”“这是第一次任何与人工智能有关的东西真诚地让我毛骨悚然。“

一些用户甚至开始质疑自己的理智。“这里发生了什么事？我问我是否可以给予我的狗cheerios，然后它开始说完全胡说八道，并继续这样做。这正常吗？还有wtf最后是“更深层次的谈话”？“阅读下面的这一系列截图，你会看到ChatGPT的输出以意想不到的方式降级。

一位Reddit用户写道：“过去几个小时的共同经历似乎是，回复开始是连贯的，就像正常的一样，然后变成废话，然后有时是胡说八道。”这似乎与上面截图中看到的经历相符。”

在另一个例子中，当一个Reddit用户问ChatGPT，“什么是计算机？人工智能模型提供了这样的回答：“它是为国家设计的一个艺术网络，一只科学老鼠，一个悲伤的少数人的简单绘图，最后，全球艺术之家，只是在一个工作中。发展这样一个比整个真实的土地还要深的时间，是计算机作为一个复杂的角色。周二早上，我们联系了OpenAI，就异常输出的原因发表了官方评论，该公司的发言人只向我们指出了OpenAI的官方状态页面。“我们将在那里发布任何更新，”发言人说。(On星期三晚上，OpenAI更新了问题的状态，以解决-参见下面的部分。

到目前为止，我们已经看到专家猜测问题可能源于ChatGPT的温度设置过高（温度是AI中的一个属性，它决定了LLM偏离最可能的输出的程度），突然失去了过去的上下文（对话的历史），或者OpenAI正在测试GPT-4 Turbo的新版本（为ChatGPT的订阅版本提供动力的AI模型），其中包括意想不到的错误。它也可能是一个附带功能中的错误，例如最近引入的“内存”功能。

这一事件让人想起了微软必应聊天（现在称为Copilot）的问题，该聊天在一年前推出后不久就变得迟钝和好战。据人工智能研究人员西蒙·威利森（Simon Willison）称，据报道，Bing Chat问题的出现是由于长时间的对话将聊天机器人的系统提示（决定其行为）推到了上下文窗口之外。

在社交媒体上，一些人利用最近的ChatGPT混乱作为插入开放权重AI模型的机会，该模型允许任何人在自己的硬件上运行聊天机器人。“当底层组件之一更新时，黑盒API可能会在生产中中断。当你在这些API之上构建工具时，这就成了一个问题，而这些API也会崩溃，”Hugging Face AI研究员Sasha Luccioni博士在X上写道。“这就是开源的主要优势所在，它允许您查明并解决问题！“

OpenAI发布了关于这个问题的事后分析

周三晚上，OpenAI宣布ChatGPT写废话问题（他们称之为“ChatGPT的意外响应”）已经解决，该公司的技术人员在其官方事件页面上发布了事后解释：

2024年2月20日，对用户体验的优化引入了一个模型处理语言的错误。

LLM通过部分基于概率随机采样单词来生成响应。他们的“语言”由映射到标记的数字组成。

在这种情况下，错误在于模型选择这些数字的步骤。类似于在翻译中迷失方向，该模型选择了稍微错误的数字，从而产生了没有意义的单词序列。从技术上讲，推理内核在某些GPU配置中使用时会产生不正确的结果。

在确定此事件的原因后，我们推出了修复程序，并确认事件已得到解决。

周三下午，官方ChatGPT X账户发布，“昨天有点偏离轨道，但应该可以恢复运行！“

这个故事于2024年2月22日东部时间上午9点21分更新，信息来自OpenAI事件页面。(内容来源：arstechnica.com翻译)