白宫表示,美国的领导力对于在新兴技术方面制定规范和法律以“确定我们如何既收获希望又管理风险”至关重要,这些新兴技术包括用于连接世界各地数十亿人的人工智能(AI)、数字经济和社交平台。
拜登政府就此推出了多项举措——最近一项是旨在制定新的人工智能安全标准的行政命令。拜登在此议题上的首席顾问告诉美国之音(VOA),该命令依赖于私人开发商和其他国家的合作,“因为攻击者在一组国家,基础设施在另一组国家,而受害者遍布全球”。
国家安全委员会负责网络和新兴技术的副国家安全顾问安妮·纽伯格 (Anne Neuberger) 与美国之音驻白宫记者解释了这些复杂而引人注目的技术,以及她认为它们如何体现了人类最糟糕但也是最美好的一面。
以下是这段采访的中文翻译。出于简洁清晰目的,采访文字经过编辑。
VOA:非常感谢今天接受美国之音采访。能否向我们介绍一下乔·拜登(Joe Biden)总统和中国国家主席习近平最近的会晤在网络安全、人工智能和数字经济等你负责的领域的具体成果?
安妮·纽伯格:当然可以。战略技术对我们两国的发展和国家安全都非常重要——而我们是全球舞台上的全球参与者。讨论中最重要的部分是两位领导人共同表示,虽然我们处于竞争之中,但我们致力于在可以合作的领域进行合作:例如气候变化等领域,例如讨论人工智能的规则。
VOA:你是否认为这次会议取得了任何进展,特别是在人工智能监管方面?
纽伯格:在有关各国坐下来建立人工智能工作组以制定该领域的适当护栏和指导方针方面的有非常好的讨论。
VOA:我想继续讨论人工智能和行政当局最近的举措,比如《人工智能权利法案》(AI Bill of Rights),以及最近在伦敦人工智能峰会上制定一些规范的尝试。为什么行政当局认为美国在此事上发挥领导作用如此重要?
纽伯格:有两个原因。首先,美国是一个有坚定承诺的民主国家,人工智能是一项既带来希望又带来危险的主要技术。要靠我们自己来确定我们如何既收获希望又管理风险。拜登总统在其改变游戏规则的行政命令中明确表示,作为一个国家,我们必须应对风险,才能收获希望。
VOA:说到人工智能的危险,行政当局正在采取哪些措施来防止在冲突和竞争中恶意使用生成式人工智能?我说的是以色列和乌克兰等冲突,还有刚果、台湾和美国即将举行的选举等竞争。
纽伯格:我们已经看到新的人工智能模型可以生成非常逼真的视频、非常逼真的图像。就与选举相关的生成式人工智能而言,我想提出总统谈判达成的一项自愿承诺,该承诺是关于水印的:在人工智能生成的图像或视频上有一个可见的和潜在的隐形的标记,表明这是人工智能生成,以提醒观看者。可以使用隐形标记,这样,即使有人试图删除该标记,平台本身仍然能够描绘该信息并帮助教育个人。这仍然是一个不断发展的技术领域,发展的越来越好。但公司承诺开始标记他们生成的内容。我知道许多社交媒体平台也做出承诺,给它们生成的内容标上水印,以帮助看到此类内容的消费者知道它是由人工智能生成的。
VOA:接下来谈谈网络安全和朝鲜和俄罗斯等恶意行为体,行政当局正在采取哪些措施来遏制他们在这一领域的行为?
纽伯格:我们看到朝鲜确实利用网络攻击作为获取金钱的方式,因为他们是一个受到严厉制裁的政权。朝鲜从攻击银行转向攻击......世界各地的加密货币基础设施。白宫做出了目标集中的努力,将我们拥有的所有要素来打击它,并与财政部的指定相结合。
对于从这些加密货币基础设施中窃取的资金进行洗钱的加密货币混合器将会做出进一步的指定。我们还一直与业界合作,敦促他们改善系统网络安全以及执法。美国执法部门一直在与世界各地的伙伴合作,摧毁该服务器基础设施并逮捕对部分此类活动负有责任的个人。
VOA:请告诉我们一些你正在进行的反勒索软件计划。
纽伯格:没问题。从本质上讲,犯罪集团——其中许多总部位于俄罗斯,其基础设施在世界各地运营——锁定系统......以要求系统所有者支付赎金。仅在美国,过去两年就支付了23亿美元的赎金。这从根本上来说是一场跨国斗争。......我们所做的就是召集48个国家、国际刑警组织(Interpol)和欧盟共同处理这一问题,因为我们知道攻击者位于一组国家,基础设施位于另一组国家,而受害者遍布全球。在白宫制定这一举措时,我们确保了领导层的多元化。
例如,尼日利亚和德国是世界各地能力建设努力的领导者——一个是来自非洲的国家,一个是来自欧洲的国家,这是有意而为之的,因为它们的需求不同。我们希望确保,在帮助各国建设打击这一问题的能力时,我们对尼日利亚、卢旺达、南非、印度尼西亚等国家的不同需求保持敏感。同样,我们也致力于共同运用信息、共同分享信息。
你问及了最近一次会议的主要成果。我要提及三个大的成果。首先,我们推出了一个网站和一个系统,供各国在对抗勒索软件攻击时进行协作,可以寻求帮助,或者向遭受类似攻击的其他国家学习经验。其次,我们发表了有史以来第一份联合政策声明——这是一件大事——48个国家承诺自己不会支付赎金,因为我们知道这是一个经济驱动的问题。第三,美国承诺我们将共享犯罪分子用来在世界各地转移资金的“坏钱包”,以便其他国家也可以帮助阻止这些资金的流动。这是最近的会议做出的众多承诺中的三项的一个例子。
VOA:我们来谈谈全球南方国家,它们率先开发了非常有趣的数字经济技术,例如肯尼亚的M-PESA,该技术于2007年推出。现在美国有Venmo,它就是以M-PESA为蓝本的。美国在这些项目的开发以及这些产品的风险方面如何向发展中国家学习?
纽伯格: M-PESA是数字技术的“希望”方面的一个绝佳例子。从本质上讲,肯尼亚利用了他们拥有电信基础设施的事实,并以此为基础建立了银行基础设施,因此他们跃跃欲试,使全国各地的人们都能进行在线交易。当你在俄罗斯入侵乌克兰的背景下看待乌克兰时,乌克兰迅速将其政府转移到网上,真正借鉴了爱沙尼亚的经验教训,使乌克兰人——许多人在波兰和匈牙利——能够继续与政府以数字方式进行互动。
美国国际发展署(U.S. Agency for International Development)对乌克兰的项目感到非常自豪,并将其作为我们向世界其他国家学习的典范。所以我们从创造力和创新中学到了很多东西;我们想要带来的是美国的发展、技能和援助,以及帮助美国科技公司加速在世界各国推出这些项目,因为我们仍然相信数字化的希望。但你提到了风险,这就是网络安全的用武之地。
VOA:这就恰好引出我的最后一个问题,关于希望和风险。在数字世界中,人们可以匿名隐藏,用着旨在改善世界的工具,却说着和做着可怕的事情。你如何保持对人性的信心?
纽伯格:这是一个非常重要的问题。这对我个人来说很重要。我的曾祖父母在纳粹死亡营中丧生。我幸存下来的家人——有些人在集中营的恐怖中幸存下来,有些人则设法以虚假身份躲藏起来。我常认为数字化的希望也让我们的身份变得显而易见。有时,当我在网上浏览亚马逊(Amazon)时,它推荐了一套书籍,我心里就想,假如我祖父母的遭遇发生在我身上,我怎么还能把自己隐藏起来呢?因此,我认为即使我们使用这些技术,我们也必须确保弱势群体受到保护。
因此,总统正在与人工智能公司合作,显示企业有义务保护网上的弱势群体,以确保我们使用人工智能来发现网上哪里存在霸凌行为,哪里存在需要加以处理的违反通常做法的仇恨言论,哪里存在恶意行为,哪里有人工智能生成的与儿童、妇女或其他弱势群体有关的图像,而我们则使用人工智能来找到它们并删除它们,当然也使用执法部门和世界各地执法伙伴关系的力量来阻止这种情况发生。言论自由是自由社会的一部分。免受伤害需要我们共同奋斗。
VOA:非常感谢你向我们的受众发表评论。
纽伯格:谢谢。
评论区