开创多元协同治理格局 促进人工智能安全有序发展

当前，全球科技革命与产业变革加速演进，人工智能（AI）正从“辅助工具”跃升为驱动社会变革的核心引擎。国务院近日出台《关于深入实施“人工智能+”行动的意见》（以下简称《意见》），以六大重点行动和八项基础支撑促进技术与应用“双向赋能”。《意见》推动AI深度融入科学研究、产业发展、民生改善等领域，积极规划AI在安全治理方面的应用，为智能化时代治理现代化布局“中国方案”。

从“赋能变量”到“发展增量”的战略跃升

《意见》推动AI成为高质量发展的“关键增量”，其核心价值突出体现在赋能、减负、提质、增效4个维度。

AI赋能的新领域：拓展科学研究的“认知边界”——AI正成为基础研究的“加速器”，如阿尔法折叠（AlphaFold）破解了困扰科学界半个世纪的蛋白质折叠难题。《意见》聚焦国内需求，支持科研范式转型，加速创新成果转化，推动AI+赋能产业发展，新业态、新优势、新模式走进千行百业，惠及千家万户。

工作减负的新手段：释放“效率红利”——AI通过自动化技术将人们从危险繁重的工作中解放出来，创造更多更好的智能化就业机会和工作方式。《意见》关注民生，提振消费，生动诠释了“以人民为中心”的理念——技术进步的最终目的是让人民更幸福，让生活更便捷。

提高质量的新途径：强化重点领域的“增长动能”——智能制造中，车企通过AI维护系统将设备故障率降低20%；在教育领域，AI学习系统根据学生实际定制学习路径；医疗领域，AI成为医生的“智能助手”。《意见》对产业及教育、医疗、消费等民生领域的精准支持，体现了技术应用的普惠性与实践性。

增加效益的新方式：推进治理能力的“精准提升”——社会治理领域，让AI多思考，让群众少烦恼；安全治理领域，智慧警务，动态防控，应急效率大幅提升；生态治理领域，实时监测，模拟推演，人与自然和谐共生。《意见》为国家治理体系和能力现代化加装AI新引擎。

综上，《意见》紧扣全球科技趋势，以战略性布局引领方向、科学性设计推动融合、指导性举措明确路径、及时性部署抢抓机遇，为AI高质量发展与应用提供了坚实支撑。

从“技术红利”到“安全可控”的系统考虑

《意见》将“坚持安全可控”作为四项基本原则之一，要求着力防范AI引发的安全风险。

模型的内在风险：技术局限带来的“不可控性”——当前大模型的“黑箱”特征显著：不可解释性导致决策逻辑难被理解、鲁棒性不足使其易受对抗攻击、幻觉问题会生成虚假但看似合理的内容。这些缺陷若不加约束，AI可能从工具异化为风险源。

新型的伦理挑战：价值冲突下的“认知危机”——AI的价值观本质上是数据的投射，训练数据中的偏见会被模型放大。更隐蔽的是，AI可能无意识地传播与主流价值观相悖的内容，成为社会负面情绪的“放大器”，影响社会和谐稳定。

衍生的应用风险：数字空间的“新型威胁”——深度伪造技术可生成以假乱真的音视频，源于AI对海量数据依赖的隐私泄露风险，AI驱动的网络攻击……这些风险直接威胁着个人安全与社会稳定。

需要强调的是，这些安全风险并非AI技术发展的终点，而是发展过程中的阶段性挑战。随着可解释性、安全对齐、风险测评等技术的快速发展，这些风险将得到系统性解决。

从“单点防控”到“多元协同”的治理创新

为统筹发展与安全，《意见》明确要求“构建安全治理新体系，开创多元共治新格局”，通过制度完善、技术赋能、生态协同，为AI健康发展筑牢安全保障防线。

构建“四位一体”协同治理体系。一是完善法律法规体系，探索鼓励创新与风险防控并重的政策机制，审慎包容制定促进健康发展的管理规范；二是构建多元公共安全体系，覆盖自然人、机器人、数字人等主体，确保人机交互安全稳妥，形成动态敏捷的治理格局；三是建设“人机物”融合的网络空间治理体系，细化监管规则，通过智能化平台提升内容审核与风险处置能力；四是建立人机协作的智能应急体系，利用AI辅助决策提升防灾救援效率。

提升四大领域安全治理能力。技术安全方面，融入原生能力筑牢安全根基，开发可解释AI技术让决策过程透明化；通过对抗训练与多场景测试提升模型抗攻击能力和鲁棒性；针对幻觉问题，研发内容真实性检测算法降低虚假信息风险。伦理安全方面，强化对齐技术，打造安全护栏。内在价值对齐方面，通过强化学习将中华优秀传统文化与社会主义核心价值观嵌入模型，引导生成内容传承中华血脉；外在安全护栏方面，优化内容审核与行为约束技术，确保输出文本符合主流道德。应用安全方面，指导重点领域，完善安全保障。制定涵盖数据保密、网络安全、供应链安全等环节的安全管理办法；引导安全行业加快数智转型，打造忠诚可靠的智能安全服务大军；对社会公众，通过安全意识培训和“AI安全周”等科普活动提升风险意识。国家安全方面，统筹国际国内，突破重点难点。国内层面，加快建设全维度安全测评体系，支撑技术自主可控；国际层面，参与全球治理规则和技术标准制定，推动“智能向上向善”的人类命运共同体理念走深走实。

《意见》统筹“赋能”与“安全”，是我国抢抓科技革命机遇、推动高质量发展的战略举措。我们有信心通过技术创新和治理创新，有效管控和防范风险，为建设智能、包容、安全的未来贡献力量。

（作者：吴世忠，系中国工程院院士、国家保密局科技委主任）

来源： 科技日报