上海人工智能实验室安远AICONCORDIA AI前沿人工智能风险管理框架Frontier Al Risk Management Framework2025年7月前沿人工智能风险管理框架(1.0版)CONCORDIA AI执行摘要我们对可信AGI的发展愿景当前人工智能()技术正以前所未有的速度取得突破性进展，各类系统在众多领域已达到或超越人类水平。这些突破性进展为我们解决人类面临的重大挑战提供了历史机遇一从推动科学发现、提升医疗质量和人的健康福祉，到促进经济生产力的提升。但与此同时，快速发展的技术也带来了前所未有的风险。随着先进人工智能的研发与部署速度超越了关键安全措施的发展速度，建立完善的风险管理机制已成为全球科技发展的当务之急。作为我国人工智能领域的新型科研机构，上海人工智能实验室致力于打造“突破型、引领型、平台型”一体化的大型综合性研究基地，推动人工智能技术的安全有益发展。为积极应对技术发展带来的挑战，推动全球在人工智能安全领域的良性竞争，实验室提出了AI-45°平衡律，作为实现可信AGl的发展路线图。前沿人工智能风险管理框架上海人工智能实验室联合安远，正式发布《人工智能前沿风险管理框架(1.0版)》（以下简称“框架”），旨在为通用型人工智能(General--Purpose Al)模型研发者提供全面的风险管理指导方针，主动识别、评估、缓解和治理一系列对公共安全和国家安全构成威胁的严重人工智能风险，保障个体与社会的安全。本框架旨在为通用型人工智能模型研发者管理其通用型人工智能模型可能带来的严重风险提供指导。框架充分借鉴了安全攸关型行业的风险管理标准与最佳实践，涵盖风险管理的六大核心流程：风险识别、风险阈值、风险分析、风险评价、风险缓解及风险治理。·1.风险识别：本章节聚焦通用型人工智能模型可能引发的严重风险，明确四大核心风险类型：滥用风险、失控风险、意外风险及系统性风险。我们计划通过持续更新风险分类体系，动态应对未知与新兴风险。·2.风险阈值：本章节明确了一系列不可接受的风险结果（红线）以及触发更高级别安全保障措施的早期预警指标（黄线）。我们针对可能威胁公共安全和国家安全的几个关键领域设定阈值，其中包括：网络攻击、生物威胁、大规模说服和有害操控，以及失控风险。https://arxiv.org/abs/2412.141862安远AL(Concordia Al))是一家Al安全与治理领域第三方研究和咨询机构，同时是目前该领域中国唯一的社会企业。