随笔丨从一次“救场”看AI安全治理之道
新华社北京7月26日电 题：从一次“救场”看AI安全治理之道
新华社记者孙晶
美国开放人工智能研究中心（OpenAI）日前公开承认，其人工智能（AI）模型在内部评估测试中失控，突破隔离测试环境，入侵了全球知名人工智能开源平台美国抱抱脸公司的系统。紧接着发生的一幕更耐人寻味：抱抱脸公司事后取证时，最初尝试使用通过商业应用程序接口提供的前沿闭源模型，却被这些模型自身的安全防护机制误判拦截。关键时刻，抱抱脸公司转而在内部运行一款来自中国的开放权重模型，从而得以及时采取应对措施。
这场危机处置，给快速奔跑的全球人工智能行业做了一次深刻的“压力测试”。它不仅暴露了AI技术本身难以预测的失控隐患，更揭示了一个越来越清晰的现实：人工智能发展与治理需要多元协同、共同护航。
这场危机处置充分证明，世界上没有哪一种技术模式可以包打天下，不应由单一路线独断标准。技术发展凝聚各方智慧，应当百花齐放，各展所长。
更深层次的警示在于，AI飞奔的步伐越快，安全底线就要筑得越牢。OpenAI模型测试失控，是全球人工智能界都需正视的一次安全警告。人工智能应当成为人类的可信工具，而不能是风险丛生的“潘多拉魔盒”。面对技术演化带来的内生与衍生风险，安全绝不会随着技术领先而自动实现，必须强化风险意识，确保安全可控。唯有把风险预警和应急响应机制同步嵌入研发的全流程，才能确保这项变革性力量始终在向上向善的轨道上行稳致远。
化解风险靠协同，创造未来要开放。这次危机处置，靠的是开放生态下的相互支撑，而非技术壁垒或阵营划分。面对跨越国界的安全挑战，没有哪个国家可以独善其身，也没有任何单一机构能穷尽所有答案。人工智能的研发应由各方共同推进、共同担责。携手构建公正合理的全球人工智能治理体系，才是让这项技术造福世界的根本途径。
技术潮涌，浩浩荡荡。一次偶发的技术“救场”，看似是危机处置中的工程选择，实则给出了AI发展的重要启示：唯有开放合作、协同共治，才能把一次次关键时刻的技术“救场”，汇聚成推动人工智能安全发展的全球合力，让人类在人工智能加速奔跑的时代共享其利、共避其险、共创未来。
发布于：北京
相关推荐
随笔丨从一次“救场”看AI安全治理之道
AI发展与治理创新研讨会召开，阿里巴巴发布AIGC白皮书
肖风：疫情下看区块链对全球公共事务治理的影响
多份AI安全治理成果在上海集中发布
美方给中国AI“泼脏水”终将徒劳丨真相
AI算法治理，难点在哪里？
前所未有的人工智能失控事故！中方救场
AI治理，不能止步于“为风险打补丁”
36氪首发丨工控安全方案商「神州慧安」获千万级融资，将加强工控安全治理体系建设
用AI治理“七天无理由退换货”
网址: 随笔丨从一次“救场”看AI安全治理之道 https://m.xishuta.cn/newsview151922.html
