美国的人工智能公司Anthropic透露，他们阻断了一起利用人工智能(AI)系统发起的网络攻击行动，而他们高度确信，这次黑客行动是一个中国政府支持的组织发起的。该公司认为，这起攻击行动表明，网络安全进入了一个拐点。
Anthropic11月13日发表报告说，他们在今年9月中旬检测到可疑活动，后经调查确定这是一场高度复杂的间谍活动。攻击者以前所未有的程度利用了人工智能的“代理”能力--不仅把人工智能用作顾问，而且还利用人工智能来实施网络攻击。
“此次攻击行为者--我们有高度的信心评估是中国的一个由国家支持的组织--利用我们的Claude Code工具，试图渗透到全球约30个攻击目标的系统中，并在少数案例中取得成功，”该公司在题为《阻断首起披露的由人工智能主导的网络间谍行动》的报告中说。
总部位于旧金山的科技初创公司Anthropic是由担任过开放人工智能公司(OpenAI)首席行政官达里奥·阿莫代(Dario Amodei)等成员在2021年创办的。它开发了一系列名为Claude的大型语言模型(LLM)。
该公司说，此次行动针对的目标包括大型科技公司、金融机构、化工制造企业和政府机构。
“我们认为这是首次有记录的在无重大人工干预情况下实施大规模网络攻击的案例，”报告说。
该公司的研究人员认为，这是一个令人不安的事态发展，可能使得到人工智能助力的黑客极大扩展入侵范围。
中国外交部发言人林剑11月14日在北京举行的例行记者会上被问到Anthropic的有关说法时一方面称不了解具体情况，但他同时表示，“关于此类缺乏证据的无端指控，我们已多次表明立场。中方一贯反对并依法打击黑客活动，同时坚决反对借网络安全问题对中国污蔑抹黑。”
Anthropic认为，在人工智能“代理”时代，这次攻击行动对网络安全具有深远影响。人工智能“代理”指的是能够长时间自主运行并基本无需人工干预即可完成复杂任务的系统。这些代理对日常工作和生产力都有价值，但一旦被不当利用，它们可显著提高大规模网络攻击的可行性。
在该公司看来，这个案例说明，网络安全正处在一个拐点，即AI模型已经真正能够在网络安全行动中发挥作用--既可助益人类，亦可危害人类。
Anthropic说，公开分享这个案例是为了在帮助业界、政府部门以及更广泛的研究界加强自身的网络防御能力。
华盛顿 —
评论区