摘要：根据该公司首席执行官萨姆·奥特曼（Sam Altman）和其他几位创业公司领导人和研究科学家在其YouTube频道上主持的直播，Sora将在美国和“国际上大多数国家”开放使用，但在欧洲和英国仍不可用。

Sora算是终于发布了。

OpenAI今天宣布，它将向某些国家的用户公开发布其大肆宣传的视频生成人工智能工具，自首次亮相以来，它已经进行了近一年的内测。

根据该公司首席执行官萨姆·奥特曼（Sam Altman）和其他几位创业公司领导人和研究科学家在其YouTube频道上主持的直播，Sora将在美国和“国际上大多数国家”开放使用，但在欧洲和英国仍不可用。

这些都是相当严重的冷落。

这并不是OpenAI第一次在试图将其产品部署到大洋彼岸时遇到障碍。例如，其ChatGPT高级语音模式的推出也推迟了几周，这可能是由于担心遵守欧盟的数据隐私法（GDPR）。

对于苍井空来说，障碍可能再次与监管环境有关。

Sora产品负责人Rohan Sahai在直播中表示：“作为OpenAI，我们显然有一个很大的目标，所以我们想要防止Sora的非法活动，但我们也想要平衡这与创造性表达。”

正如美国全国广播公司财经频道（CNBC）所指出的那样，这家初创公司的产品主管凯文·威尔（Kevin Weil）去年10月在Reddit的一个帖子中透露，当时还没有发布Sora的原因之一是，他们仍然需要“做好安全/模拟/其他事情”。

OpenAI并没有详细说明Sahai所指的“非法活动”可能是什么——或者它们是否与错开的推出有关——但Weil的评论和生成式人工智能被滥用的曲折历史为我们提供了一些想法。

错误信息和虚假信息是围绕生成式人工智能技术的最大担忧之一。如果Sora没有足够强大的护栏来防止它冒充名人或政治家，那可能会带来重大的法律责任。

同样，这也可能是版权的情况，因为OpenAI面临着对其训练数据来源的审查。但在面向用户的方面，像集成了chatgpt的Dall-E这样的图像生成器通常会因为这些担忧而拒绝包含艺术家姓名的提示（对于著名人物也是如此）。在这方面，Sora可能需要更多的约束。

我们也不能掩盖Sora可以用来制作极端暴力图像和儿童性虐待材料（CSAM）等更黑暗的材料的事实，因为有些人因涉嫌这样做而被捕。

所有这些都应该是OpenAI的主要担忧。但平衡创意自由与安全并不容易，有人可能会说，在当前容易产生幻觉的状态下发布这些人工智能模型已经是在玩火了。

来源：湖辣