新闻 › AI业界新闻

美中拟将AI安全单列为官方对话议题:大模型风险治理能否形成竞争中的最低共识

· 来源:reuters.com

美中拟将AI安全单列为官方对话议题:大模型风险治理能否形成竞争中的最低共识

在相关原始报道页面已无法获取正文的情况下,围绕美中拟开展首次AI安全专项官方对话的消息,焦点在于双方能否将大模型风险治理转化为可执行、可持续的沟通机制。

美中拟将人工智能安全从更宽泛的科技议题中单列,筹备举行专项官方对话。这一动向若获双方正式确认并落地,意味着人工智能,尤其是大模型带来的安全风险,正被视为即使在竞争加剧背景下也需要保持沟通的领域。由于所提供的多篇原始报道链接目前均显示“文章不存在或已下线”,对话的具体时间、参与部门、议程安排及成果文件等细节,暂无法据此核实。

从议题属性看,AI安全并不等同于产业合作,也不意味着双方将在技术、市场或供应链政策上缩小分歧。对话若能举行,更现实的定位是建立风险沟通渠道:围绕模型被用于网络攻击、自动化漏洞利用、欺诈和虚假内容生成等问题交换关切,并探讨在高风险事件出现时的通报、联络与危机降温方式。对快速迭代、跨境扩散的大模型而言,缺乏沟通本身也可能放大误判风险。

网络安全料将是最具现实压力、也最难取得实质共识的领域。一方面,双方都面临生成式AI降低钓鱼攻击、恶意代码编写和社工欺诈门槛的挑战;另一方面,网络攻击溯源、军民两用技术以及国家安全边界高度敏感。因而,双方较可能先从原则性风险识别、恶意使用防范和关键基础设施保护等方向交流,而非触及具体网络能力或执法协作安排。

模型评测则可能成为技术层面相对可讨论的交集。包括如何测试模型在网络、化学、生物等高风险能力上的表现,何时应采取分级发布、访问限制或人工复核,以及如何记录和披露重大安全漏洞,均属于各国监管机构、研究组织和企业持续面对的问题。但评测标准的适用范围、数据与模型权重的可得性、审计主体的独立性,仍会直接关系商业机密和监管主权,难以一蹴而就。

更大的结构性障碍来自出口管制与技术竞争。美国对先进芯片及相关技术实施的限制,与中国推动自主算力和模型能力建设之间的矛盾,不会因安全对话自动消解。双方也可能对“安全”外延持有不同理解:一方更强调前沿模型能力、滥用风险与国家安全,另一方则可能更关注技术壁垒、数据治理、发展权及人工智能的普惠应用。将这些分歧纳入对话,至少有助于减少彼此对政策意图的误读,但不应被解读为立场趋同。

在国际规则层面,两国能否支持一些低门槛、可验证的共同原则,将检验该机制的实际价值。例如反对将AI用于造成无差别伤害的场景、重视人类监督和责任追溯、推动对严重安全事件的风险管理,以及支持在联合国等多边框架下继续讨论治理规则。真正值得追踪的,不是一次会面是否达成宏大声明,而是是否形成固定联络机制、能否明确后续工作议题,以及这些讨论能否在各自国内政策和国际多边进程中留下可观察的落实痕迹。

—— 综合整理自:上观新闻(所提供链接页面均显示文章不存在或已下线)

原文:reuters.com