包括评估「AI自我复制、逃出实验室」风险

梦晨 发自 凹非寺
量子位 | 公众号 QbitAI

Sam Altman，作为OpenAI的CEO你赚了很多钱吧？

我没有OpenAI的股权，我的薪酬刚刚够健康保险……我做这个是出于热爱。

就在昨晚，这段对话发生在美国华盛顿一场听证会。

Sam Altman与IBM副总裁Christina Montgomery、纽约大学名誉教授Gary Marcus一同出席作证。

讨论的核心问题在于，ChatGPT与其他AI技术的风险。

与过去的其他科技公司高管不同，Altman表示非常欢迎对AI进行监管。

如果这项技术出了问题，那就可能会是大问题……我们希望与政府合作，防止这种情况发生。

议员们的态度也与过去大不相同，减少了批评和刁难，像是真的在征求三位证人的意见。

AI如何监管？OpenAI提出三点方案

听证会开始，参议员Richard Blumenthal作开场白，阐述了AI造成虚假信息扩散、社会不平等加剧等潜在风险。

但坐在主席台的Blumenthal，嘴却一直紧闭。

这是一段录音，文本由ChatGPT生成，声音由AI软件合成，听起来与本人几乎一致。

有围观网友表示：议员们这次居然认真准备了，这很难得。

录音结束后，真正的Blumenthal补充道，虽然ChatGPT这次表达地和他本人观点一致，但同样的技术也可以轻松合成虚假消息，“那将非常可怕”。

Altman在证词中也表示，AI可能被用于操纵舆论也是他最担心的问题之一，特别是明年将举行大选。

当Photoshop刚出现时，有一段时间人们真的会被P图骗到。

然后很快人们就会有“图可能是被P过的”这个意识，AI将带来相似的情况。

在场的其他参议员还指出，由少数科技公司主导是人工智能市场的另一大风险，OpenIAI与微软合作便是一例。

对于像OpenAI这样的AI公司应如何被监管，Altman准备了三条方案：

• 成立一个新的部门，负责为AI大模型颁发许可，并拥有撤销许可的权力。
• 为AI模型创建一套安全标准，对危险性做评估，包括它们是否能够“自我复制”、“逃出实验室自己行动”。
• 要求独立专家对模型的各种指标做独立审计。

华盛顿邮报认为，方案中明显缺少对训练数据的披露，而这也是一同出席的Marcus一直呼吁的。

对于OpenAI是否会进入广告业务，Altman表示不排除这种可能性。

我不能说永远不会……但我真的喜欢订阅模式。

有议员担心基于广告的商业模式会让AI重蹈社交媒体的覆辙，发展出操纵用户的产品和令人上瘾的算法。

如果不采取比对社交媒体更快、更有效的行动，AI可能会对社会经济和文化造成更大伤害。

一同作证的IBM副总裁Montgomery认为，AI发展不能像Facebook的口号那样“迅速行动、打破常规（move fast and break things）”，但也不必对创新猛踩刹车。

Altman与Montgomery都反对暂停人工智能开发。

对于AI造成的失业问题，两人观点也一致，认为AI会减少一些工作岗位，但也会创造新的。

Marcus则一如既往对“OpenAI声称为了造福全人类，但与微软形成商业联盟”、“AI生成虚假信息”、“ChatGPT的训练数据不透明”等问题做出批评。

他形容AI为“像一只在瓷器店的公牛一样，强大、鲁莽且难以控制”。

Marcus提议成立一个像欧洲核子研究中心CERN一样的国际合作组织，专门研究AI安全问题。

AI完成任务，而不是整个工作

这不是Altman第一次因AI问题来到华盛顿。

本月初他与其他科技公司CEO参加了白宫关于AI发展的一场讨论，本周一他还与60名议员共进晚餐并展示了ChatGPT的各种用法。

据在场的众议员Ro Khanna透露，Altman在晚宴上强调“AI是一种工具，而不是一种生物”，“能帮人完成具体任务，而不是整个工作”。

这次公开听证会结束后，Altman继续与议会AI核心小组举行闭门会议。

美国司法委员会知识产权部门也表示计划在未来两个月内举行多场听证会，讨论AI对版权和专利法带来的影响。

完整视频回放：
https://www.youtube.com/watch?v=TO0J2Yw7usM

参考链接：
[1]https://www.washingtonpost.com/technology/2023/05/16/ai-congressional-hearing-chatgpt-sam-altman/
[2]https://www.bizjournals.com/sanjose/news/2023/05/16/mr-altman-goes-to-washington.html