加州签署针对深伪政治广告、虚假信息的立法

加利福尼亚州州长加文·纽森(Gavin Newsom)本星期签署了三项立法，限制人工智能特别是深度伪造音频和视频记录在竞选活动中的作用，这可能会对美国未来的选举产生广泛影响。

其中一项立即生效的法律规定，在选举前120天内和选举后60天内分发“候选人的具有重大欺骗性的音频或视频媒体”是非法的。

另一项法律要求使用人工智能操纵内容的选举相关广告提供披露，提醒观众或听众注意这一事实。

第三项法律要求大型在线平台采取措施阻止发布“与加州选举相关的重大欺骗性内容”，并在收到通知后72小时内删除任何此类材料。

纽瑟姆在一份声明中说：“维护选举的公正性对民主至关重要，我们必须确保人工智能不会被部署来通过虚假信息破坏公众的信任--尤其是在当今令人担忧的政治气候中。”

“这些措施将有助于打击在政治广告和其他内容中对深度伪造的有害使用，这是加州积极促进透明和值得信赖的人工智能的几个领域之一。”

虽然加利福尼亚州并不是唯一一个有法律规范在政治广告中使用深伪的州，但该禁令在选举后60天内的适用是独一无二的，其他州可能会效仿。多年来，加州经常成为未来州法律的风向标。

科技巨头的反对

社交媒体平台和言论自由倡导者预计将挑战这些法律，声称它们侵犯了第一修正案对言论自由的保护。

这些措施的一个备受瞩目的反对者是社交媒体平台X的亿万富翁所有者埃隆·马斯克(Elon Musk)，他一直在积极利用他的平台来表达他对共和党总统候选人唐纳德·特朗普(Donald Trump)的支持。

7 月，马斯克分享了一段视频，该视频使用深伪技术冒充副总统卡玛拉·哈里斯(Kamala Harris)的声音。在视频中，克隆的声音将哈里斯称为“深层政府傀儡”和“终极多元化雇员”。

星期二，在纽森签署新法律后，马斯克再次发布了这段视频，他写道：“加利福尼亚州州长刚刚将这个模仿视频定为非法，违反了美国宪法。如果它传播开来，那就太可惜了。”

考虑采取联邦行动

到目前为止，大多数监管政治人工智能的立法工作都在州一级进行。然而，本星期，国会的一个两党立法者小组提出了一项措施，授权联邦选举委员会监督政治竞选活动对人工智能的使用。

具体来说，它将允许该机构禁止竞选活动使用深伪技术，使竞争对手看起来说或做了他们没有做或说的事情。

美国司法部副部长丽莎·摩纳哥(Lisa Monaco)本周在《政客》杂志(Politico) 赞助的一次活动中表示，显然需要制定管理人工智能在政治竞选活动中使用的道路规则，她表示相信国会会采取行动。

她说，虽然人工智能带来了许多好处，但它也“降低了各种恶意行为者的进入门槛”。“我相信，随着时间的推移，法律会发生变化，”她补充说。

目前为止在竞选中的作用很小

进入2024年总统竞选，人们普遍担心失控地使用深伪技术会让选民淹没在大量误导性内容中。《政治事实》(PolitiFact)主编凯蒂·桑德斯(Katie Sanders)说，这并没有真正发生。

“结果并不像许多人担心的那样，”她告诉美国之音。“我不知道这是否完全是好消息，因为政治广告中仍然有很多错误信息被分享。它只是不是由人工智能生成的。它实际上依赖于夸大对手立场或断章取义的相同技巧。”

桑德斯说，竞选团队可能不愿意使用深伪技术，因为选民“不信任人工智能”。

“确实存在的深伪材料来自较小的账户、匿名账户，有时引起了足够的轰动，以至于被政治平台上被认为是精英的人分享，” 她说。