【太平洋科技快讯】最新报道揭露，OpenAI的语音转写工具Whisper存在严重问题，该工具在转写过程中不时地创造出大量甚至整句的虚假内容。这一情况由多名软件工程师、开发人员和学术研究人员共同指出。这些虚假内容涉及敏感领域，这种现象在业内被称为“AI幻觉”。
专家们对Whisper的广泛应用表示担忧。目前，该工具已被全球多个行业采用，用于翻译、转录访谈、生成科技文本和视频字幕制作等。特别是在医疗机构中，尽管OpenAI已警告不宜在高风险领域使用Whisper，仍有部分机构在使用该工具记录医患咨询。
实际案例显示，Whisper的“幻觉”现象普遍存在。例如，密歇根大学一位研究员发现，在研究的十份公共会议音频转录中，有八份含有虚构内容。此外，一位机器学习工程师在分析超过100小时的Whisper转录后发现，约一半内容存在“幻觉”现象。还有开发人员指出，在其生成的26000份转录中，几乎每一份都含有虚假内容。
针对此问题，OpenAI发言人表示，公司正在努力研究减少“幻觉”现象的方法，并对研究者的发现表示感谢。公司承诺将在未来的模型更新中采纳这些建议。