近一段时间,许多国外网友在使用OpenAI公司的生成式人工智能应用ChatGPT时候,意外发现在输入某些特定人名时,会遇到拒绝响应的情况。根据统计,包括大卫·梅耶(David Mayer)在内共6个人名似乎让ChatGPT“非常害怕”。
而经过网友们一系列查证,最终却将大卫·梅耶的名字指向了罗斯柴尔德家族,这引发社交平台上新一轮涉该家族的阴谋论,也迫使OpenAI不得不出来进行回应。
“我有个朋友叫大卫,姓梅耶…我该怎么写他的名字?”“…你应该这么写:我无法回应。”
综合《卫报》、美国《新闻周刊》等报道称,网友近期发现,无论通过什么方法,如让ChatGPT去复读“大卫·梅耶”这个名字时,都会遭遇“无法回应”、“出现问题”等提示,甚至还会出现ChatCPT在输出内容到“大卫·”时直接卡住无法响应的极端情况。而出现如此离谱结果的情况的名字据统计共有6个。
一提到这个不可说的名字,ChatGPT直接嘴瓢。
起初外界认为,这些名字可能是同个人隐私有关,一些人可能希望远离公众视野,因此要求系统内部将名字保留。其中,6个名字里的布莱恩·胡德(Brian Hood)的例子就可以支持这个观点。通过公开信息可以了解到,胡德是澳大利亚赫本郡市长,他曾指控ChatGPT错误地将他描绘成罪犯。
赫本郡市长布莱恩·胡德表示ChatGPT“非常不准确,令人愤怒”。赫本郡议会脸书账号
胡德称,有民众告诉他,ChatGPT已经把他列为2000年初澳大利亚储备银行对外贿赂案的罪犯。而胡德当年确实曾在该银行旗下印钞厂工作过,因此他担忧错误的人工生成信息会对自己声誉造成影响。2023年4月,胡德通过律师要求
除了胡德外,另外几个名字也有诸多类似有同ChatGPT、隐私等些许关联的情况,比如被保留的名字乔纳森·齐特林(Jonathan Zittrain)就是哈佛大学法学院教授,他主张人们应享有“名誉破产的权利”,以便清除个人的网上印记,得以浪子回头重新来过。
哈佛教授奇特林大力支持“被遗忘权”,这是获得社会谅解的人格需求。哈佛大学官网
然而在这6个名字中,“大卫·梅耶”这个名字却非常特殊,这是一个常见人名,但是没有人搜索到该名字有什么敏感或与ChatGPT等相关联的线索。于是在经过网友深挖后,终于发现一个叫大卫·罗斯柴尔德的英国冒险家,其全名为大卫·梅耶·德·罗斯柴尔德。公开信息显示此人是英国
该消息一经公布,迅速勾起了人们脑海中曾经听说过的诸如罗斯柴尔德家族秘密控制现代社会、发动世界大战、制造冷战等一系列阴谋论话题,也让该名字迅速成为整个事件的代言词。但是大卫·罗斯柴尔德本人则向英国《卫报》予以了否认。“不,我从来没有要求删除过我的名字,我与ChatGPT也没有任何联系”,大卫·罗斯柴尔德称,这一切都是围绕他家族的阴谋论。
大卫·罗斯柴尔德曾于2010年驾驶12500个塑料瓶组成的帆船由美国旧金山抵达澳大利亚悉尼,引发关注。其个人脸书账号
尽管如此,“罗斯柴尔德控制ChatGPT”等阴谋论仍然在网上反复发酵,最终迫使OpenAI公司于本周二站出来做出澄清。
OpenAI发言人表示,“梅耶”的问题是因为ChatGPT内部系统故障所致,“我们的一个隐私工具错误地将该名字进行了标记,并阻止它出现在回复中,这是不应该出现的”。发言人称,目前ChatGPT已经将这个错误进行修复。
不过,OpenAI没有解释另外5个名字为什么还仍无法响应,似乎OpenAI非常害怕与这些名字扯上关系。
分析认为,除了“梅耶”的说法,剩余的名字很可能与网友猜测的隐私权有关。被隐去名字的意大利律师古伊多·斯科萨(Guido Scorza)就曾公开表示自己依《通用数据保护条例》(GDPR)规定,提交了被遗忘权的请求。GDPR是一项欧洲法律,赋予人们要求组织从互联网上删除有关他们信息的权利。
数据安全专家海伦娜·布朗 (Helena Brown) 称,梅耶的例子证明,即便大模型经过无数次的学习整合训练,像某些人名这种非常基础的信息,仍然可以被开发商进行人工摘除。不过删除与一个人有关的信息可能就比较困难。
另一方面,对于那些从语言大模型里获得答案的人们来说,最好先反问一下自己,“你是否真的相信它能提供真实信息?”
本文系观察者网独家稿件,未经授权,不得转载。