Sora关键功能仅限部分用户
在周一，OpenAI发布了其全新的视频生成工具Sora。不过，这项技术的关键功能并未对大多数用户开放，OpenAI选择进行进一步的测试。这个关键功能允许用户使用上传的真人照片或视频作为参考，生成全新的短视频。尽管如此，OpenAI表示，只有部分用户能体验到这项功能，且在尚未调整完善“安全方法”之前，这项功能不会大规模推向市场。
渐进式开放：应对潜在的滥用风险
OpenAI在其博客中解释道，利用真人照片或视频作为“种子”生成视频的能力，潜在的滥用风险不容忽视。为了更好地理解用户的使用模式，OpenAI将采取渐进式的开放策略。
另外，OpenAI还强调，用户生成的视频不得用于展示真实人物的片段或图像，且不能通过Sora的主页功能进行分享。这一决定显然是为了避免误用和不当传播，确保技术的安全性和道德性。
Sora负责人谈挑战
Sora的产品负责人Rohan Sahai在直播中表示：“我们面临着巨大的压力，因此，防止Sora被用于非法活动是我们的首要任务。但与此同时，我们也希望在创造性表达和防止滥用之间找到平衡。”他还提到：“我们清楚这将是一个持续的挑战，我们可能无法做到完美，刚开始时我们会采取保守策略，如果我们的审核机制存在不足，请随时给我们反馈。
过滤器与严格的内容控制措施
为了避免技术被滥用，OpenAI宣布将采取多项措施，其中之一是Sora内置的过滤器，能检测视频是否涉及未满18岁的人物。OpenAI还表示，将对涉及性、暴力或自残等敏感内容的生成视频实行更严格的审核标准，确保这些内容不被发布。
所有通过Sora生成的视频都将包含元数据，特别是符合C2PA标准的来源信息。尽管这些元数据可以被删除，OpenAI依然希望通过它们，帮助支持C2PA的平台快速识别视频是否来自Sora。
打击版权侵权：即时重写功能防止模仿创作者风格
为防止版权纠纷，OpenAI还采取了“即时重写”措施，阻止用户以真人创作者的风格生成视频。公司在声明中指出：“我们增加了提示重写功能，当用户尝试生成类似在世艺术家的风格时，系统会自动触发这一功能。” OpenAI还强调，随着对创意社区使用Sora的理解不断深入，他们会采取更加谨慎的策略。尽管模仿他人风格是创作的一部分，但公司意识到一些创作者可能对这一点有所顾虑。
Sora的数据来源之谜
在训练数据方面，OpenAI透露，Sora是通过“多样化的数据集”开发的，这些数据集包括公开数据、与数据供应商的合作获得的专有数据以及公司内部开发的自定义数据集。今年早些时候，OpenAI前首席技术官Mira Murati在谈到Sora的训练时，未完全否认其可能涉及使用YouTube上的短视频数据，而这似乎违反了谷歌的使用政策。
目前，OpenAI的视频生成工具Sora已对ChatGPT Pro和Plus订阅用户开放，但仅限于部分国家的用户使用。
暂无评论内容