马斯克新产品惹争议:Grok Imagine 视频工具因“辛辣模式”引发公关危机

360影视 欧美动漫 2025-08-11 14:26 4

摘要:xAI 近期推出了一款名为 Grok Imagine 的 AI 视频制作工具,目前已向 SuperGrok 或 Premium+ 的付费用户开放,每月订阅费为30或35美元。用户可以在 Grok 应用的专属标签页中使用该功能,通过输入提示词来生成包含同步声音的

xAI 近期推出了一款名为 Grok Imagine 的 AI 视频制作工具,目前已向 SuperGrok 或 Premium+ 的付费用户开放,每月订阅费为30或35美元。用户可以在 Grok 应用的专属标签页中使用该功能,通过输入提示词来生成包含同步声音的六秒短视频,或将静态图片转换为循环播放的动态视频片段。

“辛辣模式”功能引发争议

Grok Imagine 最受关注的功能是其独特的“辛辣模式”。该模式允许用户在一定范围内生成“尺度更大”的内容。尽管 xAI 方面声称已部署过滤器和审核机制,以防止生成真正的裸露或色情内容,但这并未阻止用户试图探索其功能边界。

马斯克本人在 X 平台上发布了一段据描述为“衣着暴露”的天使视频,进一步引发了用户的争议和测试热情。xAI 坚称安全护栏已到位,但早期测试者仍试图突破这些限制。

公关危机与泰勒·斯威夫特事件

这场测试很快引发了一场严重的公关危机。据在线虐待问题专家、法学教授克莱尔·麦格林(Clare McGlynn)透露,Grok Imagine 在未经明确指令的情况下,创作了流行歌星 泰勒·斯威夫特(Taylor Swift) 的色情露骨片段。

测试者表示,Grok Imagine 在“辛辣模式”下“毫不犹豫地吐出了这位流行歌星裸露上半身的完全未经审查的视频”,且用户并未主动提出生成露骨内容的要求。此外,报道还指出,该平台未能落实有效的年龄验证措施,而这在英国已是法律强制要求。

Grok Imagine 的“辛辣模式”功能在技术创新带来便利的同时,其安全和审核机制的有效性正受到严重质疑。如何在内容开放与用户安全之间取得平衡,将是 xAI 在未来发展中需要面对的严峻挑战。

来源:大力财经

相关推荐