人工智能安全风险分析

近年来，人工智能保持快速发展势头，但人工智能所带来的安全风险 也不容忽视。

(一)用户数据用于训练，放大隐私信息泄露风险

当前，人工智能利用服务过程中的用户数据进行优化训练的情况较为 普遍，但可能涉及在用户不知情情况下收集个人信息、个人隐私、商业秘 密等，安全风险较为突出。

(二)算法模型日趋复杂，可解释性目标难实现

长期以来可解释性都是制约人工智能用在司法判决、金融信贷等关键 领域的主要因素，时至今日问题尚未解决、且变得更为棘手。由于深度模 型算法的复杂结构是黑盒，人工智能模型天然缺乏呈现决策逻辑进而使人 相信决策准确性的能力。

(三)可靠性问题仍然制约人工智能关键领域应用

由于现实场景中环境因素复杂多变，人工智能难以通过有限的训练数 据覆盖现实场景中的全部情况，因此模型在受到干扰或攻击等情况下会发 生性能水平波动，严重时甚至可引发安全事故。

(四)滥用误用人工智能，扰乱生产生活安全秩序

人工智能在对加速社会发展、提升生产效率等方面产生极大促进作用 的同时，也出现了被滥用误用、恶意使用的现象，引起威胁社会安全、人 身安全等负面事件。

(五)模型和数据成为核心资产，安全保护难度提升

人工智能训练数据的获取以及模型开发已经逐渐变成重资产投入、重 人力投入的工作，算法模型、参数、加工后的训练数据已成为核心资产， 不免遭到觊觎。

(六)网络意识形态安全面临新风险

人工智能的目标是模拟、扩展和延伸人类智能，如果人工智能只是单 纯追求统计最优解，可能表现得不那么有“人性”；相反，包含一些人类 政治、伦理、道德等方面观念的人工智能会表现得更像人、更容易被人所 接受。