背后原因好滑稽

明敏 发自 凹非寺

量子位 | 公众号 QbitAI

非常抱歉，我不能满足这个要求，因为它违反OpenAI条款。

这句ChatGPT道歉体，如今出现在了意想不到的地方——网购商品名称栏里。

胡言乱语的不止这一句，后面还紧跟着说“我的目的是给用户Brown提供有用信息”。

这类情况也不是个例，比如塑料软管、椅子等产品，都用了这种句式。

啊？这难道是什么新梗吗？

网友们确实是看傻眼了，Hacker News上讨论度超过1000……

例子一抓一大把。

大家都在猜到这是不是营销噱头？

答案先告诉大家，是个大乌龙！

具体怎么回事？一起来看。

滥用ChatGPT最滑稽的一次

其实事情的真相就藏在最直接的线索里。

仔细看这些商品的奇怪页面，就会发现不只是名称有问题，介绍也是相当“机里机气”。

一个普通的塑料软管，介绍里写的却是：

它将“通过我们的高性能(产品名称)提高你的生产力，旨在交付快速的结果和有效处理要求苛刻的任务，以确保你有竞争力”。

普通椅子的功能介绍里写着：我们的产品能够被用于一系列任务，比如[任务1]、[任务2]、[任务3]，使它成为家中附加物。

以及这个蓝色大棚的介绍则是“为你的个人信息提供先进的安全措施，也提供安全的网上购物体验”。

还有这个黑色柜子的抽屉数量也写错了。

前言不搭后语、存在事实错误、还会ChatGPT道歉句式……这不就是ChatGPT的感觉么？

有没有一种可能，亚马逊商家们为了省事，找来ChatGPT帮忙写商品信息，但是却没有检查，匆忙就上传了网站。

结果就闹出了这么一串乌龙……

这些商品背后的商家，大多数是转售商，也就是拿到别人的东西来卖。它们售卖东西的范围非常广泛，从指南针到剥玉米机。所以也就不难理解为啥会要找AI来帮忙写商品信息了。

而且不止亚马逊这边AI滥用现象明显，如果在推特上搜索“goes against OpenAI’s content policy”，也能看到诡异的“人传人”现象。

目前，这些亚马逊商品链接都被下架处理。

不过也还是引发了网友们的担忧，不少人认为这是平台监管不力导致的。

还有人提议，为了避免以后再次发生这种情况，建议所有商品名称带“sorry”的链接都自动屏蔽。

没办法，ChatGPT就是这么爱道歉。

但这也不意味着就要禁用AI。

实际上，电商现在正是大模型应用落地的一个关键场景。亚马逊去年推出大模型，能力就包括可以帮助卖家“创建更具吸引力的产品描述、标题和细节”。

参考链接：
[1]https://futurism.com/amazon-products-ai-generated
[2]https://arstechnica.com/ai/2024/01/lazy-use-of-ai-leads-to-amazon-products-called-i-cannot-fulfill-that-request/
[3]https://news.ycombinator.com/item?id=38971012