人工智能安全官（CCRC-AISO）三色笔记

人工智能安全是一个系统工程，贯穿需求分析、数据采集、模型训练、部署运行到退役的全生命周期，涵盖数据安全、算法安全、模型安全、应用安全等多个层面，目标是确保人工智能系统可靠、可控、可信。仅强调某一方面均不全面。

数据、算法、算力是支撑人工智能发展的三大核心要素，分别对应人工智能的“燃料”“引擎”和“基础设施”。

对抗样本攻击是在推理阶段对输入样本添加精心设计的微小扰动，导致模型误判。其特点是扰动小、人眼难以察觉，但能显著改变模型输出。

《数据安全法》第二十一条规定，国家建立数据分类分级保护制度，根据数据在经济社会发展中的重要程度，以及一旦遭到篡改、破坏、泄露或者非法获取、非法利用，对国家安全、公共利益或者个人、组织合法权益造成的危害程度，对数据实行分类分级保护；各地区、各部门应当按照该制度确定本地区、本部门以及相关行业、领域的重点数据目录。分类分级并非只看数据量，也不限于政务数据。

《个人信息保护法》第七十三条明确，匿名化是指个人信息经过处理无法识别特定自然人且不能复原的过程；去标识化是指个人信息经过处理，使其在不借助额外信息的情况下无法识别特定自然人的过程。去标识化后的信息仍属于个人信息，匿名化后的信息不属于个人信息。数据备份与加密不改变信息的可识别性。

隐私预算ε用于衡量隐私保护强度。ε越小，表示隐私保护要求越严格，需要加入的噪声越大，数据可用性相应降低；ε越大，噪声越小，数据可用性提高但隐私保护程度减弱。ε是可调参数，并非固定为1。

风险管理遵循“识别—分析—处置—监控与再评估”的闭环。先识别风险源，再分析可能性和影响，随后选择处置措施，并通过持续监控和再评估确认效果。选项顺序必须正确。

风险分析是在风险识别基础上，对风险的可能性和影响进行定性或定量评估并确定等级。风险识别侧重发现风险源，风险处置侧重选择应对措施，风险监控侧重持续跟踪。

通过合同、保险等方式将风险可能造成的损失及部分责任转由第三方承担，属于风险转移。风险降低是采取控制措施减小风险，风险规避是停止相关活动，风险接受是自行承担风险。