近年来，随着新技术不断突破，新业态和新应用持续涌现，人工智能发展与治理成为全球面临的共同课题。如何应对人工智能发展带来的安全挑战，今年国家网络安全宣传周将集中发布一系列标志性成果。
9月2日下午，2024年国家网络安全宣传周新闻发布会在北京举行。会上，中央网信办网络安全协调局局长高林透露，计划在今年网安周高峰论坛主论坛上发布《人工智能安全治理框架》和2024年人工智能技术赋能网络安全应用测试结果等有关成果。
据记者了解，2023年7月，国家网信办等部门联合发布《生成式人工智能服务管理暂行办法》。去年10月，中国提出《全球人工智能治理倡议》，就各方普遍关切的人工智能发展与安全治理等问题，提出了建设性解决思路。2024年7月，第78届联合国大会以协商一致方式通过了中方主提的“加强人工智能能力建设国际合作”决议，143个联合国会员国参加联署。
贯彻落实有关倡议和《暂行办法》要求，高林表示：“今年以来，我们积极推动人工智能安全治理相关工作，形成了一系列标志性成果，计划在今年网安周高峰论坛主论坛上集中发布。”
会上，高林提到了两项标志性成果。其中，《人工智能安全治理框架》是贯彻《全球人工智能治理倡议》提出的分级分类、敏捷治理、共治共享等理念的细化深化，紧密结合人工智能技术特性，从内生、应用两个维度分析人工智能风险，从模型、数据、系统以及网络、现实、认知、伦理等角度，提出相应技术应对和综合治理措施，以推动政府、国际组织、企业、科研院所、民间组织和公民个人等各方，就人工智能安全治理达成共识。
另一项成果是2024年人工智能技术赋能网络安全应用测试结果。这是由中央网信办网络安全协调局、中国人民银行科技司共同指导，国家互联网应急中心联合中国网络空间安全协会、中国科学院信息工程研究所、国家信息技术安全研究中心举办，参与测试的单位覆盖网络安全企业、信息通信技术企业、金融企业、科研院所、高等院校等140余家单位。在经过一系列专项测试的基础上，将集中公布测试结果，以促进人工智能技术在网络安全领域的赋能应用。
“集中发布这些成果，目的就是为了促进人工智能技术健康发展和规范应用，希望全社会都参与进来，共同让人工智能技术更好地造福人民。”高林说。