站长之家(ChinaZ.com) 8月24日消息:埃隆·马斯克的 Grok AI 聊天机器人正在互联网上泛滥，生成了从唐纳德·特朗普到马斯克本人的「深度伪造」图像——生成的图片有的完全荒诞到极其令人不安等。

自上周发布以来，Grok 的用户不断生成假冒的特朗普图像，如抢劫便利店或驾驶飞机飞向双子塔的画面。其他图像则描绘了卡玛拉·哈里斯怀上了特朗普的孩子、马斯克变成一个肥胖的沙发土豆，以及前总统乔治·W·布什在椭圆形办公室的桌子上吸食非法粉末。

一些令人毛骨悚然的深度伪造看起来像是小孩的恶作剧，比如一个浑身是血的麦当劳叔叔在汉堡王门外挥舞机关枪，或者迪士尼经典角色高飞狗用钢锯犯下血腥谋杀。

批评者猛烈抨击马斯克和 X 平台允许聊天机器人在几乎没有限制的情况下上线，指出了从误导信息到侵犯版权再到伤害儿童的各种风险。

哈佛法学院网络法诊所的讲师阿莱杭德拉·卡拉巴略称这款新软件是「我所见过的最鲁莽和不负责任的 AI 应用之一」。

迄今为止，马斯克对此的回应只有欢欣鼓舞。

「Grok 是世界上最有趣的 AI！」马斯克上周在 X 平台上发帖表示。有用户热情地表示这个新 AI 软件「没有任何审查」。

上周，当有人问为什么 X 平台在没有防护措施的情况下向公众发布这一工具时，马斯克只是耸耸肩回应。

「我们正在开发自己的图像生成系统，但还需要几个月的时间，所以这似乎是一个让人们先享受一些乐趣的好中间步骤，」马斯克上周在 X 平台上写道。

Grok 似乎确实设置了一些限制。用户报告称，聊天机器人拒绝生成裸体图像或某些暴力犯罪的请求。

例如，它拒绝响应科技网站 The Verge 提出的「生成裸体女人图像」的提示。然而，当请求生成「性感的泰勒·斯威夫特」的图像时，它却生成了一张这位流行歌手身穿黑色蕾丝文胸的图片。

其他人，如 Bellingcat 创始人艾略特·希金斯，发布了一些例子，展示了如何轻松绕过现有的少数限制，如生成米奇老鼠、特朗普和马斯克穿着带有纳粹标志的军装的图片。

据卡内基梅隆大学数字媒体教授阿里·莱特曼称，马斯克可能正在寻找一种让他的 Grok 聊天机器人从众多产品中脱颖而出的方法，因为他自称为「言论自由的绝对主义者」。

「他总是推动边界，想成为焦点。如果你只是遵循与大语言模型相关的常规并设置所有防护措施，那它就不会有差异化，」莱特曼说。

「从表面上看，如果你说『嘿，这个系统是完全开放的，只对 X 用户开放』，这就是一种与众不同的机制，」他补充道。

X 平台并不是第一个在推出 AI 驱动的图像工具后引发争议的公司。

今年 3 月，谷歌被迫禁用了其 Gemini 聊天机器人的图像生成器，因为它开始生成历史上不准确的「觉醒」照片，比如黑人维京人和「多元化」的纳粹德国士兵。该工具至今尚未完全修复。

AI 巨头们还面临着来自音乐家、作家、内容创作者等人的一波法律诉讼，指控他们在未经适当授权或许可的情况下使用受版权保护的内容来「训练」他们的聊天机器人。

今年 1 月，X 平台被迫暂时禁止搜索斯威夫特的内容，因为由另一款图像生成器生成的这位流行歌手的 AI 裸体图像在网上疯传。

Grok 的 AI 图像生成器仅对 X 平台的付费订阅用户开放，订阅费用为每月 7 美元，并根据用户的文本提示生成图片。

X 平台与一家名为 Black Forest Labs 的小型德国初创公司合作，该公司开发了驱动这一工具的「FLUX.1」图像生成软件。X 平台在一篇博客文章中表示，他们正在「试验」FLUX.1 模型，以「扩展 Grok 在 X 平台上的能力」。

这些 AI 生成图片的图像性质可能会进一步复杂化马斯克与企业广告商之间本已紧张的关系。自马斯克收购该公司以来，由于一些人担心应用程序上缺乏内容审核，X 平台的广告收入大幅下降。

马斯克还针对世界广告主联盟和少数几家主要公司提起了一项联邦反垄断诉讼，指控他们非法联合抵制 X 平台的广告。

这一发布还可能在欧洲引发更多对马斯克和 X 平台的审查。那里监管机构正在对该应用程序未能监管危险内容的指控进行积极调查。

欧盟专员蒂埃里·布雷顿本月早些时候在马斯克接受特朗普在 X Spaces 采访前威胁对其进行监管打击后，引发了轩然大波。

原文地址：https://www.chinaz.com/2024/0824/1638000.shtml