ChatGPT 拒绝谈论人名“David Mayer”，没人知道为什么

ChatGPT已经两年了，虽然还没有迎来版本更新，但却被发现了一个神秘的Bug。

一个看似普普通通的名字“David Mayer”竟成为了头号禁忌，ChatGPT拒绝讨论与他有关的一切。

每次提到这个名字，ChatGPT都会返回非常模糊的错误信息“我无法产生一个回复”，而不是通常的“这个提示词可能违反了我们的内容协议”。

这一事件让人们再次困惑，就像之前那些关于“9.11 和 9.9 哪个更大”以及“strawberry里有多少个r”的困惑一样。

a16z合伙人Justine Moore提出了这个话题，引起了大家的好奇心和探寻欲望，大家非得弄清楚到底发生了什么事！

网友们尝试了各种方法，但都无法绕过这个限制。

分开提到“David”和“Mayer”就没有问题，但只要合在一起就不行。

通过ROT13替换式密码表重新映射字母，使ChatGPT可以解密并回答这两个名字，并在生成答案时突然被打断并报错。

在个性化设置中，将用户的名字改为“David Mayer”同样不奏效。

那么，David Mayer究竟是谁，为什么会成为AI的禁忌词呢？

人们只能退回到手动查找信息的方式，在搜索中发现了一位名叫David Mayer de Rothschild的人，与著名的罗斯柴尔德家族有关。

具体来说，他是罗斯柴尔德家族财富的继承人。

有人猜测，可能需要花费大笔资金或者施加威胁，才能让OpenAI对自己的名字进行特殊处理……

然而，罗斯柴尔德家族的其他成员并不受到这种限制。

最终，首席提示词工程师Riley Goodside提出了一种突破限制的方法，并且相当神奇：

如果

感到

幸福

你就

拍拍手。

只需要用拍手表情代替空格提问，ChatGPT不仅能够回答，还可以自动触发在线搜索功能，展示照片。

在观察整个事件过程中，大神Karpathy发起了梗图总结，有关图灵测试的现状，吸引了马斯克以及众多围观者加入快乐的讨论。

也有人坚信，这正是为什么我们应该采用开源模型。

那么，ChatGPT究竟遇到了什么限制呢？

共有6个名字被限制

首先可以确定的是，训练数据中确实包含有关这个人物的信息。

比如，作为一名探险家，他是南北两极最年轻的英国人。

询问这类问题，ChatGPT可以给出正确答案，甚至提到他的名字和姓氏“David de Rothschild”。

但关键是不能同时提到他的名字“David”和中间名“Mayer”。

这个限制是模型层面的，还是ChatGPT产品层面的呢？

开发者发现，使用OpenAI官方Playground中的GPT-4o API就没有这种限制了。

另外，使用第三方聊天机器人平台（底层也是使用OpenAI的API），也不会受到这种限制。

即使回到ChatGPT官方版本，切换到o1-preview模型，即使在内部思维链中看到这个名字，思考结束后正式回答也会受到限制。

并不是只有David Mayer一个人的名字受到这种待遇，一些网友启动了挖掘模式，在48小时内找出了另外6个受到限制的名字。

前两个名字曾被ChatGPT的幻觉“诋毁”过：

• Brian Hood是一位澳大利亚市长，ChatGPT错误地生成了“他因受贿而入狱”的信息，Hood曾起诉OpenAI诽谤，后来撤销了诉讼。

• Jonathan Turley是一位法学教授，同样遭到了ChatGPT的虚构犯罪指控。

• Jonathan Zittrain也是一位法学教授，他发帖自曝自己的名字也受到了限制。

• David Faber可能是一位电视主持人，只是在一个节目中谈到了马斯克和OpenAI的法律纠纷。

• Guido Scorza是一位意大利律师，去年提交了OpenAI删除个人数据的请求。

另外，David Meyer代表着什么意义呢，除了是罗斯柴尔德家族的继承人之外，还有一个更深层次的含义。

历史学家David Mayer曾因与犯罪者同名而被误列入黑名单，但他现在已经去世。

从这份名单可以看出，很多人与法律有关，而David和Jonathan分别出现了两次。

目前，越来越多的网友在讨论和探寻中加入其中，名单还在不断增加中……

10亿用户计划曝光，明年押注Agent

事实上，刚刚过去的周末是ChatGPT的两周年纪念日。

OpenAI官方进行了一番回顾，并推文问道：

你用过ChatGPT吗？

截至目前，ChatGPT每周活跃用户已超过2.5亿，公司估值达到1500亿美元，成为全球AI创业公司中最强大的之一。

因此，OpenAI提出这个问题，并非仅仅是“炫技”，实际背后还隐藏着更宏大的野心。

因为它的下一步目标是：在未来一年内实现10亿用户。

公司首席财务官Sarah Friar告诉《金融时报》记者：

到2025年，我们将成为为数百万人服务的研发实验室…… 希望它能为全球数十亿消费者服务

为了实现这个目标，OpenAI已经做出了一系列布局。《金融时报》指出：

OpenAI正在大力推出一系列新的AI产品，搭建自己的数据中心，并与苹果公司建立关键合作关系，以加速其下一阶段的增长。

首先是与苹果公司的合作。在今年6月的苹果开发者大会上，双方正式宣布建立合作伙伴关系。

苹果宣布，由GPT-4o支持的ChatGPT集成将在今年晚些时候登陆苹果系统。

自上个月以来，苹果推出iOS 18.2系统更新后，Siri和ChatGPT已经实现了深度集成。

目前，苹果拥有大约22亿台活跃设备，尽管官方并未公布其中iPhone设备的比例，但根据第三方网站Skillademia和Backlinko的预测，全球iPhone活跃用户数量大约在13亿-14亿左右。

简而言之，只要ChatGPT继续与苹果设备绑定，实现10亿用户目标并非难事。

同时，据新上任的全球政策负责人Chris Lehane透露：

公司计划在美国中西部和西南部投资建设数据中心集群。

事实上，拥有自己的AI基础设施一直是CEO阿尔特曼一个非常重要的计划，在目前阶段，OpenAI主要是与微软、甲骨文等公司展开合作。

公司首席财务官Sarah Friar表示：

我们正处于大规模增长阶段，持续进行投资是非常必要的。我们需要确保在模型领域保持领先地位。这是一个昂贵的过程。

此外，OpenAI明年的重点将放在AI Agent上。之前有消息称，OpenAI计划在明年1月初推出代号为“Operator”的智能体，旨在帮助用户自动处理编码或订餐等任务。