7月24日，中国人工智能产业发展联盟（以下简称“AIIA”）安全治理委员会成果发布会在北京召开。AIIA秘书长、中国信息通信研究院（以下简称“中国信通院”）院长余晓晖，华体官方网页版和信息化部网络安全管理局数据安全处处长雷楠，公安部信息安全等级保护评估中心原副主任、研究员毕马宁出席活动并致辞。AIIA总体组组长、中国信通院人工智能研究所所长魏凯主持会议。来自产业各方的近200名行业专家、高校学者以及企业代表参加会议。

“开展人工智能安全治理工作不仅是我国推动人工智能发展的一项非常重要的工作，也是全球和人类共同面临的重大问题。”余晓晖在致辞中表示，当前人工智能安全治理需要汇聚行业各方的智慧和力量，共同完善人工智能安全风险识别方法论，建立更为敏捷、精确的安全风险识别机制，尽早、尽快发现风险，加强人工智能安全评测技术工具的研究，通过技术来治理技术。

毕马宁在致辞中表示，过去一年，大模型发展速度之快、赋能范围之广，让我们看到了通用人工智能的实现路径与曙光，但人工智能安全问题的严重性与紧迫性不容忽视。当我们从不同层面审视人工智能安全问题时，可以发现人工智能所带来的安全挑战已经从技术本身所带来的数据、算力、系统等传统安全问题，逐渐向对个人、组织、国家社会、人类生态的衍生安全问题蔓延。为应对当前人工智能所带来的安全挑战，AIIA安全治理委员会重点围绕人工智能的治理框架、风险管理、内生安全、安全应用开展了大量的理论和技术研究工作。

AIIA安全治理委员会办公室主任、中国信通院人工智能研究所安全与元宇宙部主任石霖向与会人员汇报了委员会近期的工作成果。据悉，依托AIIA安全治理委员会，中国信通院在2024年上半年启动了大模型安全、AIGC检测、安全大模型、代码大模型安全、生物特征识别安全等联盟规范的制定和评估工作。会上，AIIA安全治理委员会评估结果正式公布，vivo、蚂蚁、中数通、齐鲁壹点、东方通、招商银行、阿里云、海康威视、中移金科、百度网讯、马上消费、科大讯飞、商汤等企业代表获得证书。会上还启动了“人工智能安全守护计划”（简称“智安计划”），打造AI Guard品牌，将共同建立AI系统情报共享机制、AIGC真实性和可信赖来源互认机制，推动设立人工智能相关保险产品，提升国内人工智能技术的服务提供方、使用方的安全防护能力。

北京大学法学院教授、北京大学人工智能研究院AI安全与治理中心主任张平，中国科学院自动化研究所研究员、国家新一代人工智能治理专业委员会委员、联合国人工智能高层顾问机构专家曾毅，360集团副总裁张向征等专家围绕人工智能安全治理的中国实践及国际共识、大模型安全等内容进行了主旨演讲，深入剖析人工智能的关键技术、内容，探讨国内外人工智能安全治理的现状以及实践经验。专家一致认为，人工智能治理需要多元共治，每个主体都应当参与其中，通过最大化、最优化的资源配置实现人工智能的良性发展。