2021年8月4日，全国信息安全标准化技术委员会发布“关于征求《信息安全技术机器学习算法安全评估规范》国家标准（征求意见稿）意见的通知”。该《规范》规定了机器学习算法在设计开发、验证测试、部署运行、维护升级、退役下线等阶段的安全要求和证实方法，以及机器学习算法的安全评估实施。

标准编制原则和确定主要内容的论据及解决的主要问题

近年来，人工智能逐渐成为新一轮产业变革的核心驱动力，2017 年 7 月我国出台《新一代人工智能发展规划》（国发[2017]35 号），标志着我国人工智能发展进入新阶段。然而，机器学习作为人工智能的重要组成部分，仍面临多方面的安全风险和挑战，业界仍缺少人机器学习算法安全评估规范，一定程度上影响了机器学习技术的广泛应用与发展。本标准制定了机器学习算法安全评估规范，旨在提升机器学习算法实践应用的安全保障能力。

本文件通过借鉴国外政策法规、标准和技术的研究，尤其是《新一代人工智能发展规划》、《国家新一代人工智能标准体系建设指南》、《人工智能标准化白皮书（2018）》、《人工智能安全标准化白皮书（2019）》、ISO WG3 组研究项目及在研标准等，结合国内应用实践和标准编制组的研究成果，提出与国际标准接轨、适合我国国情，并具有一定创新性的标准。适用于对机器学习算法进行安全评估，也适用于机器学习应用开发者和运营管理者在保障机器学习安全时参考。

*来源：全国信息安全标准化技术委员会