OpenAI表示，该公司已阻断两起与中国有关的网络影响力行动。这些行动利用ChatGPT生成社交媒体帖文、评论和图片，试图影响美国围绕人工智能、数据中心、关税和科技政策的辩论。
OpenAI在星期三(6月11日)发布的一份报告中说，该公司封禁了两组ChatGPT账号，并评估这些账号很可能从中国运作。OpenAI说，这些账号使用其模型支持“隐蔽影响力行动”(covert influence operations)，同时隐藏其来源和意图。
OpenAI说，这些行动似乎影响有限，没有证据显示相关内容获得大量真实互动，或在参与行动的账号之外广泛传播。但该公司表示，这些活动值得关注，因为它显示与中国有关的影响力操作者正在测试围绕人工智能基础设施的叙事，而这一领域正处于美中科技竞争的核心。
OpenAI将第一起行动命名为“数据中心跟风行动”(Data Center Bandwagon)。该行动生成英文和中文评论及图片，声称人工智能数据中心的快速扩张推高了电力需求，并导致普通美国人的电费上涨。
OpenAI说，这些操作者用简体中文向ChatGPT下达指令，要求生成看似来自不同背景美国人的内容。相关材料随后由疑似非真实账号发布到X等社交平台，并经常附上有关电网、数据中心和电力需求的真实新闻链接。
OpenAI说，这些操作者很可能属于一家中国民营科技公司下属的社交媒体运营团队，该公司为中国省级政府客户提供服务。OpenAI说，这些账号通过虚拟专用网络，也就是VPN，访问ChatGPT，因为OpenAI不允许从中国境内使用其模型。
OpenAI还说，同一组账号还搜索海外中国异议人士和评论人士的信息，其中包括居住在意大利、网名为“李老师不是你老师”的中国异议人士李颖。OpenAI说，其模型拒绝了生成煽动性人身攻击内容的请求。
第二起行动被OpenAI命名为“科技与关税”(Tech and Tariffs)。OpenAI说，该行动利用ChatGPT生成短评和政治漫画，批评美国关税和科技政策，将美国政策描绘成试图主导全球科技竞争和规则制定。
OpenAI说，该行动的用户明确要求ChatGPT不要在图片中出现中国国家主席习近平，只描绘美国总统唐纳德·特朗普。一些人工智能生成的漫画显示特朗普以破坏性的方式出现在批评美国贸易和科技政策的场景中。
该公司表示，这一行动关注的议题包括关税、稀土、人工智能、5G、新能源和产业韧性等。它还以中文、英文、意大利文、日文和繁体中文生成内容，显然试图影响包括台湾在内的国际受众。
OpenAI还说，“科技与关税”行动与一批疑似非真实X账号有关，这些账号虚假声称ChatGPT用户数据遭到泄露。OpenAI表示，这些指称“完全不实”。
除了生成帖文和图片，OpenAI表示，这些账号还使用ChatGPT撰写工作报告、管理网络人设，并协助社交媒体监测流程。其中一名用户把一组网络账号称为“水军”，这是中文里常用来形容协调性账号在网上大量发布评论或批评的说法。
OpenAI说，一些提示词包含与中国公安系统相关的术语，包括舆情风险评估、抗议、上访活动以及涉警事件。该公司说，这些迹象显示相关账号很可能在支持符合中国共产党利益的活动，尽管OpenAI无法确定操作者的具体机构归属。
中国驻华盛顿大使馆对路透社表示，不了解OpenAI的这项研究，但称中国坚决反对任何无端攻击和抹黑，并支持确保人工智能成为向善、为全体人民服务的力量。
OpenAI说，这些行动并没有制造美国围绕关税或数据中心的争论，而是试图进入已经存在的争议。数据中心已成为美国部分地区日益突出的政治议题，一些地方社区担心其带来的电力需求、水资源使用和土地开发问题。与此同时，美国科技公司和政策制定者认为，扩建数据中心对维持美国在人工智能领域的领先地位至关重要。
OpenAI情报与调查团队首席调查员本·尼莫(Ben Nimmo)在星期三的媒体简报会上说，这一行动似乎试图操纵“关于美国人工智能以及更广泛美国科技政策的正当辩论”。
这份报告发布之际，美中围绕人工智能、半导体、稀土矿产和其他战略技术的竞争正在加剧。华盛顿已对向中国出口先进芯片及相关技术实施限制，而北京则把人工智能列为国家优先事项，并努力减少对美国技术的依赖。
OpenAI说，公布这些发现是为了帮助政府、科技公司、民间社会组织和公众更好地发现并阻断外国秘密操纵民主辩论的企图。
OpenAI在报告中说，人工智能驱动的影响力行动开始把人工智能本身作为目标。该公司警告说，外国行为体今后很可能会继续在美国和全球范围内开展类似行动。
评论区