实验七 人工智能安全

Posted 2023-03-31 weixin_57848728

1．实验目的

（1）了解人工智能安全

（2）学习如何保障人工智能安全

（3）学习如何用人工智能保障安全

2．实验内容

（1）在网上查询如何保障人工智能安全并归纳整理。

人工智能安全分为三个子方向：

人工智能助力安全（AI for Security）

人工智能内生安全（AI Security）

人工智能衍生安全（AI Safety）

其中，助力安全体现的是人工智能技术的赋能效应；内生安全和衍生安全体现的是人工智能技术的伴生效应。

人工智能安全性的保障包括四个方面：1、AI技术不成熟所导致的安全隐患，这将随技术的成熟而得到弥补；2、政府监管；3、加强人工智能范畴的法令管理；4、建立标准化的多安全等级电子认证可信系统。

1、AI技术不成熟所导致的安全隐患，这将随技术的成熟而得到弥补

例如，人脸识别非常方便，但2D人脸识别容易被照片、视频、蜡像、3D打印模型等破解，考虑到它们很容易被复制，用在手机、门锁、门禁系统上，安全性可能还不如指纹、密码。但3D人脸识别技术则可解决这个问题，而指纹、密码也可能被泄露，因此3D人脸识别与指纹识别、密码识别更安全。

2、政府监管

信息泄露的风险始终存在，而AI化的设备采集和存储了更多信息，使信息泄露的后果更加严重。这就需要安全软件、企业安全服务，乃至政府监管来解决了。

3、加强人工智能范畴的法令管理

在推进人工智能技能和使用开展的过程中，咱们要披荆斩棘，在面对人工智能基础技能、人工智能使用技术、人工智能技能滥用、人工智能竞赛、数据和隐秘信息泄露增大扩展等带来的危险时，更应该居安思危，积极应对。以人工智能防范人工智能安全，使用反人工智能防范安全危险，加强人工智能范畴的法令管理。只有深刻认识到人工智能技能的双面性，找到人工智能导致安全问题产生的本源，才能妥善解决人工智能带来的安全问题。

4、建立标准化的多安全等级电子认证可信系统

全球数字化的时代刚刚开始，新时代的数据安全也刚刚开始。提出要建立标准化的多安全等级电子认证可信系统。今日，数据安全技能面对新的应战。为了更好地应对这些应战，必须以数据安全技能作为最有力的工具，完成协同智能处理，建立标准化的多安全等级电子认证可信系统，这样才能更有效地维护数据财物，系统集成资质查询。

（2）在网上查询如何用人工智能保障安全并归纳整理

人工智能确保安全（以数据安全为例）有5种方式：1、前期检测；2、预测技术；3、系统加密；4、添加密码；5、多重身份验证。

1、前期检测：人工智能可以在黑客进入系统时侦测到网络攻击，它能做到多任务处理，能够立即发现恶意威胁，并向运维人员发出警报或直接将攻击者拒之门外。 　　

2、预测技术：通过人工智能进行威胁预测，系统可以在攻击发生前创建特定的防御。

3、系统加密：可以通过人工智能建立防御墙，例如完全隐藏数据。加密主要是用于数据传输过程中，以防在传输中被盗窃。

4、添加密码：应用人工智能可以使密码更加安全，人工智能使密码不再只是一个单词或短语，可以是动作、模式或生物识别技术。　　

5、多重身份验证：可以利用人工智能建立许多密码。多重身份验证不只是建立多重安全壁垒，还可以利用人工智能决定谁能够进入。

3．分析与讨论

（1）人工智能给信息安全带来了什么样的挑战和机遇？

人工智能带来的技术方面的机遇主要是带来新一轮科技革命，引领21世纪技术的战略性突破与发展，挑战主要在于，第一，对中国来说，在基础科学、关键技术研发上一旦受制于人，面临生产力重新落后的危险；第二，对全球来说，机器智能一旦在某些方面超过人类，带来不可测、不可控的风险。

技术产业方面，人工智能的机遇在于，第一，把握好机遇可以占据信息技术产业等高新科技产业的战略制高点，进而掌握产业革命的战略主动权；第二，对中国来说，由技术产业可直接发育形成产值接近半个欧洲的高科技产业，特别是超大型“商业-技术”结合型平台企业。挑战主要在于，一旦在基础设施、基础软硬件技术（如操作系统、技术平台）、材料工艺和国际合作等方面受到封锁（或与先进国家发生科技“脱勾”），就会形成来自知识与市场的发展障碍。

在宏观经济方面看，人工智能带来的总的影响，在于生产力变革引发分工进一步出现大发展，方向是从分工专业化，向分工多样化深化，引发新的产业革命，并进而造成制度变革压力。

在增长方面，机遇主要是可能为增长带来新动能，第一，数据资本替代物质投入将成为长期趋势，第二，将加速经济从速度增长向质量提高的转变，以高附加值为标志的产业结构高度化趋势明显。挑战在于，农业基础薄弱、制造业服务化滞后、第三产业比重显著低于平均水平国家，将在全球化体系中受到来自价值链高端的巨大压力。

在货币方面，人工智能长期内可能推动形成“金融-信息”双中心的“新金融秩序”（希勒观点），其中主要机遇在于，金融服务与信息服务进一步融合，推动信息对称透明机制的形成，为金融服务实体经济创造更好条件；主要挑战在于，由分布式计算、区块链机制引起的金融创新，对央行货币主权造成潜在的挑战，一旦信息服务滞后，可能放大金融风险中的不确定性。

在就业方面，人工智能的机遇主要在于，可能为零工经济、在家办公创造低门槛工作条件；挑战在于机器一旦替代人，不仅会造成对人类体力劳动的替代，而且会部分造成对人类脑力劳动的替代，短期对制造业就业，甚至二产、三产中部分复杂劳动构成冲击，长期既不会增加就业，也不会减少就业，而是推动人类就业转向多样化与灵活化。

企业方面，人工智能的机遇在于，通过在计划、领导、组织、控制各个环节智能化，产消两端进一步透明化，为克服企业官僚主义，提供新的解决模式，企业做优成为世界一流企业新标准；挑战主要是，企业仅仅靠做大做强，难以面对高度复杂、不确定化的市场需求变化的挑战，需要将人工智能转化为适应低成本高附加值差异化战略的业务能力。

此外，人工智能在机器人、基因技术、医疗技术方面的运用，将带来伦理方面新的问题；在个人信息和数据资产开发与保护方面，带来法律和制度方面的考验。