划重点
01OpenAI于周一推出了视频生成工具Sora，但关键功能尚未向大多数用户发布，等待进一步测试。
02Sora使用上传的照片或真实人物录像作为参考生成视频，但OpenAI表示最初不会向所有用户提供该功能，以防滥用。
03为此，Sora具有一个过滤器，检测生成的视频是否描绘了未满18岁的人，以及与性、暴力或自残内容相关的审核将更严格。
04此外，OpenAI还在使用“提示重写”来防止Sora生成以活跃创作者风格的视频。
05目前，OpenAI的ChatGPT Pro和Plus计划的订阅者可以访问Sora，但仅限于某些国家的用户。
以上内容由腾讯混元大模型生成，仅供参考
OpenAI 在周一推出了其视频生成工具 Sora。但该公司选择不向大多数用户发布一个关键功能，等待进一步测试。
该功能使用上传的照片或真实人物的录像作为参考生成视频。OpenAI 表示，它将让一部分 Sora 用户访问该功能，但在有机会完善其“安全方法”之前，不会广泛推出该功能。
“使用上传的真实人物照片或视频作为‘种子’生成视频的能力是一个潜在滥用的风险，我们正在采取特别渐进的方法，以从早期使用模式中学习，”OpenAI 在一篇博客文章中写道。“来自艺术家的早期反馈表明，这是一种他们重视的强大创意工具，但考虑到滥用的潜在风险，我们最初不会向所有用户提供。”
OpenAI 也不允许用户将包含真实人物片段或图像的生成视频分享至 Sora 的主页发现页面。
“作为 OpenAI，我们显然背负着一个大目标，因此我们希望通过 Sora 来防止非法活动，但我们也希望在此与创造性表达之间取得平衡，”OpenAI 技术团队成员、Sora 研究负责人 Will Peebles 在今天早些时候的直播演示中说道。“我们知道这将是一个持续的挑战——我们可能在第一天就无法做到完美。我们开始时会有些保守，因此如果我们的审核没有完全正确，请给我们反馈。”
生成视频是一种强大的工具——同时也是一个有争议的工具，深度伪造和错误信息是重要的担忧。根据身份验证服务 Sumsub 的数据，全球深度伪造欺诈在 2022 年至 2023 年间增加了超过 10 倍。
在 OpenAI 表示为防止滥用而采取的其他措施中，Sora 有一个过滤器来检测生成的视频是否描绘了未满 18 岁的人。如果是这样，OpenAI 声称会对与性、暴力或自残内容相关的审核应用“更严格的标准”。
所有由 Sora 生成的视频都包含元数据以显示其来源——具体来说，是遵循 C2PA 技术标准的元数据。元数据可以被移除，这是可以的。但 OpenAI 将其作为一种方式，供支持 C2PA 的平台快速检测视频是否来自 Sora。
为了抵御版权投诉，OpenAI 还表示正在使用“提示重写”来防止 Sora 生成以活跃创作者风格的视频。
“我们添加了旨在触发用户尝试以活跃艺术家的风格生成视频时的提示重写，”公司写道。“在这个版本的 Sora 中，我们选择采取保守的方式，因为我们希望更多地了解创意社区如何使用 Sora……在创作中，有着很长的传统是基于其他艺术家的风格进行创作，但我们理解一些创作者可能会有顾虑。”
一些艺术家已起诉包括 OpenAI 在内的人工智能公司，指控它们在未获许可的情况下使用他们的作品来创建能够模仿其独特风格的人工智能工具。这些公司则声称，合理使用原则保护它们免受版权侵权的指控，并且人工智能模型实际上并不进行简单的重复。
在培训中，OpenAI 只会说 Sora 是使用“多样化数据集”的混合开发的，包括公开可用的数据、通过与数据供应商的合作访问的专有数据，以及内部开发的自定义数据集。今年早些时候，前 OpenAI 首席技术官 Mira Murati 并没有明确否认 Sora 是在 YouTube 视频上训练的，这似乎违反了谷歌拥有的流媒体平台的使用政策。
根据视频博主 Marcus Brownlee 的说法，他提前预览了 Sora，该系统可以根据文本提示或图像创建多个视频片段的变体，并通过重混工具编辑现有视频。故事板界面让用户创建视频序列；混合工具将两个视频结合，创建一个保留两者元素的新视频；循环和重剪选项允许创作者进一步调整和编辑他们的视频和场景。