美国人工智能公司OpenAI星期五(2月21日)表示，已发现中国利用该公司的人工智能工具ChatGPT助长在海外的影响力活动，包括生成西班牙语反美假信息；中国也以AI建立监视工具，实时搜集西方国家社交媒体的反中帖子。
OpenAI星期五发布的安全威胁报告称，该公司发现有中国团队研发了在社交媒体搜集反中帖子的工具。OpenAI将该工具命名为“同行审阅”(Peer Review)，因为有研发者利用ChatGPT为其程式码除错。
此外，还有用户以ChatGPT生成营销该工具的宣传文章，宣称可将搜集的反中帖子报告送交中国安全部门。
《纽约时报》报道，OpenAI首席研究员本‧尼默(Ben Nimmo)表示，这是该公司首次发现这种AI监控工具。OpenAI已封锁相关用户帐号，因其已违反“禁止使用AI进行通讯监视或未经授权个人监控”的公司政策。
尼默及其团队相信，该监控工具是以Meta公司的开源大型语言模型Llama为基础。
用AI生成帖子攻击蔡霞、翻译反美文章
OpenAI也发现，有中国用户利用ChatGPT生成外宣内容，包括用于攻击中国异议人士蔡霞的英文帖子，以及西班牙文的反美新闻报道。多篇文章都登上了拉丁美洲的新闻网站，其中某些简短评论也出现在X平台，
OpenAI将这项AI外宣行动称为“资助煽动”(Sponsored Discontent)。尼默表示，这也是OpenAI第一次发现中国外宣活动将长篇文章翻译为西班牙语后，发布在拉美媒体。
他说：“如果我们不去了解他们使用AI的情况，就无法将那些(X平台)推文与网路新闻文章联系起来。”
已移除多个中国、朝鲜恶意活动帐号
OpenAI自去年开始定期发布威胁报告。在星期五发布的最新报告中，OpenAI表示已移除多个来自中国与朝鲜的帐号，
该公司表示，这些帐号利用ChatGPT从事恶意活动，而独裁政权可能通过这些活动对付美国或本国人民。
OpenAI也表示是利用AI工具侦测到这些恶意活动。报告并未说明移除帐号的数量，也未说明相关恶意活动的发生时间。
报告称，朝鲜的恶意活动者利用AI生成虚构求职者的履历和个人档案，通过欺诈手段向西方企业求职。
另一组ChatGPT帐号则与一桩柬埔寨的“杀猪盘”诈骗活动有关，它们利用AI翻译及生成帖子和评论，发布在X平台和Facebook等社交媒体。
美国政府已对中国涉及使用AI压迫人民、散播假信息、以及危害美国及其盟邦的国家安全表达关切。
OpenAI研发的ChatGPT是目前全球用户最多的AI聊天机器人，每星期活跃用户已超过四亿人。该公司目前正商谈以3,000亿美元的估值筹集最多400亿美元资金，可能创下私营企业单轮融资的纪录。
(本文参考了路透社的报道)
评论区