英韩共同主办第二届全球人工智能峰会 应对AI不断进步所带来的风险

韩国和英国将于本星期将在首尔共同主办第二届全球人工智能安全峰会（AI Safety Summit）。自去年11月首届人工智能峰会以来，AI的创新步伐惊人，各国政府正努力应对这日益增长的风险。

对于人工智能可能如何影响人类存在激烈分歧之下，英国首相里希·苏纳克（Rishi Sunak）和韩国总统尹锡悦将于星期二（5月21日）主持一场虚拟峰会，呼吁加强对人工智能的监管。

苏纳克和尹锡悦在英国《i（信息）报》和韩国《中央日报》发表的联合署名文章“只有全球人工智能标准才能阻止逐底竞争（race to the bottom）”中表示，“尽管在塑造全球人工智能治理方面已做出积极努力，但仍然存在显著的差距”。

去年11月的会议被称为“人工智能安全峰会”，但自那以后挑战的范围不断扩大。据峰会网站，星期二开始的会议被称为“人工智能首尔峰会”（AI Seoul Summit），并将讨论3个优先事项：人工智能安全、创新和包容性。

5月17日发布的一份来自全球30多个国家专家支持的人工智能安全报告称，“可能会出现大规模劳动力市场的影响、人工智能驱动的黑客或生物攻击，以及社会可能会失去对通用人工智能的控制等风险”，尽管这些可能性仍存在争议，这份报告称：“但是......社会和政府的决定将决定人工智能的未来。”

这份报告指出了技术的快速发展所带来的风险不断扩大的趋势，不仅仅是人类的生存风险，还包括人工智能不平等、数据稀缺、版权材料的使用以及人工智能数据中心使用大量电力对环境造成的影响。

在去年11月在英国主办的峰会上，特斯拉（Tesla）首席执行官埃隆·马斯克（Elon Musk）和OpenAI的首席执行官山姆·奥特曼（Sam Altman）与一些对他们最激烈的批评者进行了接触，而中国则与美国和其他共20多个国家共同签署了一份关于共同治理人工智能的《布莱切利宣言》（Bletchley Declaration），同意共同努力遏制人工智能快速发展所带来的潜在“灾难性”风险。

今年3月，联合国大会通过了关于人工智能的首份决议，支持国际努力确保这一强大的新技术惠及所有国家，尊重人权，并确保其“安全、可靠和值得信赖”。

本月早些时候，美国和中国在日内瓦就人工智能举行了首次高层会谈，讨论如何应对快速发展的技术风险，并制定共同的标准来管理。美国官员对中国“滥用人工智能”提出担忧，而中国代表则谴责美国对人工智能的“限制和压力”。

此次还不清楚谁将参与星期二的虚拟峰会，而星期三由英国和韩国部长主持的现场会议也尚未确定参与者。

根据活动网站的信息，星期三在韩国主办的另一场人工智能论坛，预计与会者包括AI安全和研究公司Anthropic的共同创办人杰克·克拉克（Jack Clark），以及来自OpenAI、Google DeepMind、微软（Microsoft）、元宇宙（Meta）和国际商业机器公司（IBM）等公司的高管。

（此文参考了路透社和美联社的报道。）