美国商务部长吉娜·雷蒙多(Gina Raimondo) 星期二（5月14日）发布美国有关人工智能安全的战略愿景，并宣布了与美国的盟友与伙伴的人工智能安全研究所之间进行国际合作的计划。当天，全球领先的人工智能公司在首尔举行的人工智能峰会上做出了安全开发人工智能的新承诺。
商务部发布人工智能安全研究所的战略愿景
美国商务部在人工智能首尔峰会召开之际发布的有关美国人工智能安全研究所（AISI）的战略愿景概述了该研究所计划采取的步骤，以推进人工智能安全的科学并促进安全和负责任的人工智能创新。
“人工智能领域的最新进展为我们的社会带来了令人兴奋的、改变生活的潜力，但前提是我们必须努力减少人工智能在不负责任地开发和部署的情况下所存在的真实危险，”商务部长雷蒙多在一份声明中说。
她表示，这正是美国人工智能安全研究所每一天的工作重心。该研究所的美国科学家与民间社会、学术界、产业界和公共部门进行充分接触，以便了解和降低人工智能的风险，其根本目标是利用人工智能的好处。
雷蒙多今年2月宣布了人工智能安全研究所管理团队的关键成员。这个研究所设在商务部的美国国家标准与技术研究院（NIST）。该研究院一直在展开有关人工智能的工作。
雷蒙多说，人工智能安全研究所旨在解决该领域的关键性挑战，包括前沿人工智能缺乏标准化的衡量指标、欠开发的测试和验证方法以及在人工智能安全问题上国家层面和全球协调不足等。
她说，该研究所将专注于三个关键目标：
- 推进人工智能安全的科学；
- 阐明、演示和传播人工智能安全的实践；
- 支持涉及人工智能安全的机构、社区和协调。
为了实现这些目标，人工智能安全研究所计划进行先进模型和系统的测试，以评估潜在和新兴风险；制定有关评估和风险缓解等方面的指导原则以及开展和协调技术研究。
雷蒙多明确表示，这个战略愿景突出强调了与美国的盟友通过有关人工智能安全的全球科学网络进行合作的重要性，即确保有关人工智能的道路规则由美国及其全球的伙伴来制定。
“安全促进创新，因此我们必须做对这件事，而且与我们在世界各地的合作伙伴一起这样做，以确保人工智能的规则是由维护人权、安全和信任的社会来制定的，”她说。
这份战略愿景是美国商务部在人工智能问题上采取的最新举措。今年早些时候，人工智能安全研究所宣布成立一个财团，以帮助实现拜登政府去年十月底就人工智能技术发布的行政命令中的目标。今年4月，商务部在人工智能安全研究所的领导团队中增加了五名新成员。同月，雷蒙多与英国签署了一份专注于人工智能的谅解备忘录。
人工智能首尔峰会召开
在商务部宣布这份战略愿景之际，谷歌、Meta和OpenAI等公司在人工智能首尔峰会上做出了自愿的安全承诺，包括在无法控制最极端风险的情况下停止使用他们的尖端系统。
这次为期两天的会议是去年11月在英国布莱切利公园举行的人工智能安全峰会的后续会议。由于生成式人工智能的迅猛发展引发了有关人工智能对人们的日常生活乃至人类构成潜在风险的担忧，各国政府和国际组织正在做出各种努力为这项技术制定围栏。
雷蒙多出席了在英国举行的人工智能安全峰会，但没有参加在首尔的这次峰会。
启动人工智能安全研究所的全球网络
雷蒙多同时宣布，商务部和人工智能安全研究所将通过与其他的人工智能安全研究所和那些政府支持的专注于人工智能安全并致力于国际合作的科学机构进行有意义的合作，来帮助启动一个有关人工智能安全的全球性科学网络。
美国的人工智能安全研究所此前与英国、日本、加拿大和新加坡的人工智能安全研究所以及欧洲人工智能办公室及其附属机构等建立了合作关系。
雷蒙多说，借助于韩国与参加首尔人工智能峰会的其他美国合作伙伴在《首尔关于人工智能安全科学国际合作的意向声明》中达成的基础性理解，美国启动的这个网络将加强和扩大此前的合作关系，并催生有关人工智能安全的科学和治理的国际协调的新阶段。
商务部说，为了进一步促进该网络之间的合作，人工智能安全研究所计划在今年晚些时候在旧金山地区召集国际人工智能安全研究所和其他利益相关方的会议。该研究所最近在湾区设立了办事处，并将利用这个硅谷这个地理位置来招募更多人才。
英国技术大臣最近也表示，其人工智能安全研究所将在美国的旧金山湾区开设它在海外的第一个办事处。
在加强与关键盟友在人工智能安全上的合作的同时，美中两国官员5月14日在瑞士举行了闭门会谈，就人工智能的风险和安全问题进行了讨论。
评论区