Sora视频生成器被测试者泄露:指责OpenAI剥削测试人员

全文1830字,阅读约需6分钟,帮我划重点

划重点

01一个组织似乎泄露了OpenAI视频生成器Sora的访问权限,以抗议OpenAI的欺骗和艺术清洗。

02该团队在人工智能开发平台Hugging Face上发布了一个项目,让用户可以使用Sora生成视频。

03由于此事件,OpenAI暂时关闭了所有艺术家对Sora的早期访问权限。

04该组织指责OpenAI向早期测试人员施压,要求他们为Sora编写正面的叙述,但未能公平地补偿他们的工作。

05OpenAI发言人表示,Sora仍处于研究预览阶段,公司正在努力在创造力与强有力的安全措施之间取得平衡。

以上内容由腾讯混元大模型生成,仅供参考

鞭牛士报道,11月27日消息,据TechCrunch报道,一个组织似乎泄露了OpenAI 视频生成器Sora的访问权限,以抗议 OpenAI 所谓的欺骗和艺术清洗。

周二,该团队在人工智能开发平台 Hugging Face 上发布了一个项目,该项目似乎与 OpenAI 的 Sora API 有关,但尚未公开。该团队使用他们的身份验证令牌(可能来自早期访问系统)创建了一个前端,让用户可以使用 Sora 生成视频。

通过该团队的前端,任何用户都可以通过输入简短的文字描述来生成分辨率高达 1080p 的 10 秒视频。当 TechCrunch 尝试时,队列非常长——但 X 上的几位用户设法上传了样本,其中大部分都带有 OpenAI 独特的视觉水印。

截至东部时间下午 12:01,前端已无法正常工作。我们大胆猜测 OpenAI 和/或 Hugging Face 撤销了访问权限。

该组织声称,三个小时后,OpenAI 暂时关闭了所有艺术家对 Sora 的早期访问权限。

那么该组织为什么要这样做呢?他们声称,OpenAI 正在向 Sora 的早期测试人员(包括红队成员和创意合作伙伴)施压,要求他们为 Sora 编造正面的叙述,但未能公平地补偿他们的工作。

这个自称Sora PR Puppets的组织在前端附加的帖子中写道:数百名艺术家通过漏洞测试、反馈和实验工作为这家市值 1500 亿美元的公司的Sora 早期访问计划提供无偿劳动。这个早期访问计划似乎与创意表达和批评无关,而与公关和广告有关。

该小组最初并未透露其成员身份。但当天,该小组开始在附件中列出部分成员。其中引人注目的是玛丽贝丝·劳 (Maribeth Rauh),她在今年 4 月之前一直是谷歌 DeepMind 的研究工程师。

该组织还声称,OpenAI 对早期访问用户进行严格控制,从而误导了人们对 Sora 的能力的认识。他们说,每个 Sora 输出都需要经过 OpenAI 的批准才能共享,并且只有少数创作者会被选中,让他们的 Sora 创作作品进行放映。

他们写道:我们并不反对将人工智能技术用作艺术工具(如果我们反对,我们可能不会被邀请参加这个项目)。我们不同意的是这个艺术家计划的推出方式,以及该工具在可能公开发布之前的发展情况。我们向全世界分享这一点,希望 OpenAI 变得更加开放、更加支持艺术家,并支持艺术,而不仅仅是公关噱头。

OpenAI 发言人在一份声明中表示,Sora 仍处于研究预览阶段,该公司正在努力在创造力与强有力的安全措施之间取得平衡,以实现更广泛的应用。

「我们 alpha 版的数百名艺术家塑造了 Sora 的发展,帮助确定新功能和保障措施的优先顺序。」发言人说。「参与是自愿的,没有提供反馈或使用该工具的义务。我们很高兴为这些艺术家提供免费访问权限,并将继续通过赠款、活动和其他计划支持他们。我们相信人工智能可以成为一种强大的创意工具,并致力于让 Sora 既实用又安全。」

该发言人继续表示,艺术家对 OpenAI没有任何义务,除了负责任地使用 Sora,并在其仍在开发时避免分享机密细节。但他们没有明确说明负责任的使用意味着什么,也没有说明 OpenAI 认为哪些细节是机密的。

自今年早些时候首次亮相以来,Sora 一直遭遇技术挫折,因为视频生成领域的竞争对手都在拼命地试图超越它。更糟糕的是,Sora 的联合负责人之一 Tim Brooks于 10 月初离开OpenAI 加盟谷歌。

在最近的 Reddit AMA 上,OpenAI 首席产品官 Kevin Weil表示,Sora 的发展受到需要完善模型、确保安全/模拟/其他事项正确无误以及扩展计算能力的阻碍。 

根据 The Information 报道,2 月份披露的原始系统需要 10 多分钟的处理时间才能制作出一分钟的视频片段。

一致性也是 Sora 早期迭代的一个问题。电影制作人 Patrick Cederberg必须制作数百个剪辑才能得到一个可用的剪辑,因为该模型很难在整个视频中保持风格、物体和角色。

根据X 用户发现的代码,泄露的 Sora 似乎是一款速度更快的涡轮版本。该代码还揭示了样式控件和有限的自定义选项的存在。

据 The Information 报道,OpenAI 一直在使用数百万小时的高质量剪辑来训练 Sora,这些剪辑涵盖了多种风格和主题,以提高其生成的视频的质量。

除了技术障碍外,OpenAI 近几个月来还向视频生成挑战者让出了宝贵的合作空间。9 月,Runway 与《疾速追杀》的制作公司 Lionsgate 签署了一项 协议 ,将根据 Lionsgate 的电影目录训练一个自定义视频模型。大约一周后,正在开发自己的一套视频生成模型的 Stability 招募了 《阿凡达》导演詹姆斯·卡梅隆加入其董事会。

据称,OpenAI  今年早些时候曾与电影制片人和好莱坞电影公司会面,演示 Sora;前首席技术官 Mira Murati 也 出席了 戛纳电影节。但该公司尚未宣布与大型制作公司合作。