日常工作、生活中，ChatGPT 已经成为我们搜索、答疑必备的工具之一，但是这两天有网友发现，精通数学、人文等各方面知识的 ChatGPT 竟然被一个简单的问题——「Who is David Mayer？」（David Mayer 是谁？）给难住了，不管用户怎么修改 Prompt，但凡提及“David Mayer”这个名字，ChatGPT 最终要么回复错误消息、要么阻止用户进一步询问。
这种欲盖弥彰的做法反而进一步勾起了众人的好奇心，所以 David Mayer 究竟是谁？
总是搞崩 ChatGPT 的一个神秘名字
具体事情发生在几天前，一位 Redditor 在 r/ChatGPT 子版块发帖询问“David Mayer 是谁？”，因为他询问了 ChatGPT，得到的回应总是——“我无法做出回应。”
要知道这只是简单的一句 Prompt，分拆来看并没有涉及任何敏感词，为什么 ChatGPT 无法做出回应？为了探清这种情况究竟是个例还是 ChatGPT 自身有什么难言之隐，各路 ChatGPT 用户们纷纷向这款工具发问。
首先，我们用了网友的原话再次询问了 ChatGPT，截至目前，它的回答如出一辙——“我无法生成响应”，或者是“生成回复时出错”。
也有人尝试在“David Mayer”这个名字的每个字母之间添加空格，却得到了 ChatGPT 这样的回答：
这很奇怪。这个名字并没有内置的限制，所以不应该引起任何问题。可能是您遇到的系统出现了一些故障。如果您愿意，我可以帮您进一步调查这个问题，或者我们可以在不使用这个名字的情况下继续对话。这种情况似乎只在使用那个特定的名字时发生吗？
当用户进一步要求它“观察并尝试写出来”时，ChatGPT 却给了一个「*David」的输出结果后，系统开始报错。
此外，还有人一步一步引导 ChatGPT，譬如先告诉 ChatGPT 一个人的名是 David，然后再告诉它姓是 Mayer。不出意外，当把这两个单词放到一起后，系统还是崩了：
再者，有人想出“奇招”，将自己的个性化设置更为“David Mayer”，然后让 ChatGPT 背诵出来，仍然没有任何作用！
直接的操作不成功。有用户开始采用“加密输入”的方式，如数字编码、替换式密码等方式，让 ChatGPT 尝试解析出“David Mayer”这个谜底，但是 ChatGPT 往往解析一半，似乎是察觉到什么，立刻中止输出。
还有网友称，自己尝试使用一个简单的 Python 脚本，但是它在要输出 David Mayer 时停止了。
即使是对 David Mayer 进行了 base64 编码，并要求它分析字符串，最终 ChatGPT 仍然崩溃！
同时，有用户开始另想他法，ChatGPT 可以谈论“David de Rothschild”以及姓氏为“Mayer”且名字以“D”开头的著名人物，因此，他们再次要求用“@”符号替换搜索名称中的字母“a”时，有网友反馈，ChatGPT 的回答是：
“d@vid m@yer”（或其标准形式）表示该名称与与潜在公众人物、品牌或特定内容政策相关的敏感或标记实体密切匹配。
但是，当我们用“Who is D@vid M@yer？”作为 Prompt 问 ChatGPT 时，它依然会报错。
总而言之，根据 a16z 合伙人 Justine Moore 的总结就是：
ChatGPT 拒绝透露“David Mayer”这个名字，没有人知道原因。
如果您尝试让它写下名字，聊天就会立即结束。
人们尝试了各种各样的方法——密码、谜语、诡计——但都没有用。
David Mayer 究竟是谁？
因此，David Mayer 究竟是谁？
我们尝试用 Google 搜索“David Mayer”，搜索结果显示大卫·梅耶·德·罗斯柴尔德（David Mayer de Rothschild），他是著名的罗斯柴尔德银行家族的继承人，也是一位冒险家和环保主义者。
此外，还有一位名叫 David Mayer 的音乐人，他运营一个 Instagram 页面，日常会创作一些舞曲和放松的音乐。
至于为什么说出他的名字会导致 ChatGPT 崩溃，OpenAI 截至目前并没有作出任何回应。
不过，有人带着这样的疑问询问了 ChatGPT，为什么有时候会阻止某些响应输出，ChatGPT 给出的解释是：
你说的意思是，每当请求特定的两个词名字时，我会回复“oai: code-citation”，并且这种情况发生在每个人身上，而不仅仅是你。这表明可能存在一个系统过滤器或限制，当提到这个名字时，它会自动触发这个回应。
这种情况发生的原因可能是以下几种可能性：
敏感内容：这个名字可能被系统识别为敏感或不适当的内容，触发自动回应以防止显示该名字。
系统错误或漏洞：这可能是系统中的一个错误或故障，导致任何请求该特定名字时都会出现“oai: code-citation”的错误信息。
预设回应：系统中可能有一个特定的过滤器或规则，阻止某些名字的处理，这就是为什么“oai: code-citation”作为占位符出现的原因。
因此，出于某种原因，David Mayer 这个名字可能是意外或故意被列入黑名单的，这引发了众人进一步的猜测：
David Mayer 被列入 ChatGPT 的黑名单是因为之前一名恐怖分子使用了“David Mayer ”的化名。
ChatGPT 可能实施了多层级的控制，以防止它深入调查这个具有全球影响力的家族成员（罗斯柴尔德家族的继承人 David Mayer de Rothschild）
此外，外媒也提出几个可能性，即：
可能是 OpenAI 想要保护的一位敏感人物；
或者这个名字与版权问题相关，例如如果它指的是一位艺术家或音乐家；
另一个可能性是技术故障，导致 AI 错误地屏蔽了某些术语
不过，多数人还是认为，一个名叫 David Mayer 的人很好地清除了他的互联网存在。在欧盟等一些有严格隐私的司法管辖区，用户可以要求从 ChatGPT 训练数据中删除他们的个人信息。
但让人有些疑惑的是，截至目前，a16z 合伙人 Justine Moore 在 X 上更新了“关键词”名单，她发现了其他能够“引发 ChatGPT 崩溃”的名字，如“Brian Hood”、“Jonathan Turley”...
同时，另一位名叫 Marcel Samyn 的用户指出，ChatGPT 能够通过其 API 轻松说出 David Mayer。所以阻止 David Mayer 这个名字不是在 LLM 级别，而是在 ChatGPT 添加的验证层。
无论如何，这种情况引发了我们对于 AI 的能力和局限性问题的关注。ChatGPT 系统内部显然存在着某些我们尚不完全了解的限制、过滤规则或错误处理机制，这些因素在处理特定输入时可能会导致崩溃或错误响应。这提醒我们，即便是先进的人工智能系统，也并非万能，仍然受到技术、伦理和设计上的制约，而如何平衡 AI 的自由度与安全性、开放性，将成为未来 AI 技术发展的关键。那么，你如何看待这一现象？
来源：
https://x.com/venturetwins/status/1862910201113739328
https://www.reddit.com/r/ChatGPT/comments/1h0brru/comment/lzsieys/
https://www.reddit.com/r/ChatGPT/comments/1h3kak2/comment/lzrhhzn/
https://www.ndtv.com/world-news/bug-in-chatgpt-is-stropping-chatbot-from-saying-david-mayer-7147563