不准机器人假扮人类？这是哪门子法律？

作者：栗子
量子位（ID：QbitAI）

“机器人不得伪装成人类。”

7月1日，加州的一项新法生效了。

从此，任何用作商业 (或正攵氵台) 用途的聊天机器人，都必须说明自己是机器人。不论是打电话、发短信、还是在社交网络上发言。

违法的机器人主人可能面临罚款。

纽约客写到：

这个规定就好比，制药公司必须声明，广告里说自己吃了药就好了的人，是花钱请的演员。

在美国，这样的法律还是第一次生效。

于是，网友又开启了热烈的讨论。不到一天Hacker News热度便超过了600。

反欺诈，也有人不同意

这条法规，是加州一位名叫Robert Hertzberg的参议员提出的。

他说，这就是把高端的科技概念融入到基本的法律原则里来。不能以经济为目的去欺骗，也不能在竞选过程中欺骗。

当初之所以发表这样的提案，很重要的一个缘由，就是2016年美国大选。

那时，川川和希希都有竞选机器人，但川川的机器人以五倍数量压倒对手，且其中大部分机器人都来自俄罗斯。

推特曾经像参议院的一个委员会透露，2016年大选前，有5000只机器人 (来自俄罗斯) 转推川川的竞选推特，一共接近500万次。相当于希希机器人转发的10倍。

另外，还有一次电视辩论的网上投票，川川大胜也是依靠机器人的支持。

竞选只是一个栗子，人类因为机器人/AI的存在而大呼上当的情形并不少见。尤其是在Deepfakes出现之后：

△小电影女主，变成神奇女侠

Facebook还曾经因为没有及时发现一条南希·佩洛希 (美国众议院议长) 的假视频，受到了墙裂的指责。

不过相比整治伪造视频，聊天机器人的规范化可能来得更加简单一些。

但即便是这样，要变成法律实施，并没有那么容易。

法案早期的版本，要求平台把没说是机器人的机器人全都下架，不限于商业/选举造势用途，所有聊天机器人都包括。

于是，一提出便遭遇了迅猛的反弹，反对意见主要来自互联网协会 (Internet Association) ，以及电子前线基金会 (Electronic Frontier Foundation) 。这一条很快便从草案里删除了。

不断修改过后，才有了今天看到的版本，并在去年10月通过。

但在已经生效的今天，依然有不少人担心，这条法律的打击范围过大。

华盛顿大学技术政策实验室的Madeline Lamo教授说，机器人也会做好事的：

不止是画画，机器人还会通过假扮人类和去聊天，来学习人机关系该怎样处理。

教授还提到，机器人的代码也是人写的，并不能因为一句话是机器人说的，就否定它也是人类创造力的产物。

电子前线基金会的态度也是这样：许多人都把机器人当做一种有破坏性的工具，不会觉得它们也是一种表达的媒介。

你怎么看

不过，常常接到AI骚扰电话的人类们，可能会支持这样的法律。

毕竟，如果必须要说“您好，我是来自某某公司的机器人”，这个电话可能就不会打了。

Hacker News的顶楼，大概也是AI客服/AI推销的受害者之一。ta说：

我们是有机器人，这个不是问题。问题在于，我们已经把欺骗当成了商业活动的日常，允许机器人假扮人类。

- 加入社群吧 -