网络空间安全是国家安全的重要组成部分。人工智能技术不仅可以赋能网络空间安全治理，还可以给其带来诸多挑战，如不确定性和不稳定性。首先，从利弊两个方面分析了人工智能技术对我国网络空间安全的影响；最后，从顶层设计、主要职责、人才培训、话语权四个角度提出了促进我国网络空间人工智能安全管理的措施。引言
要统筹推进各领域安全，统筹应对传统安全和非传统安全。网络空间作为关系国计民生的新空间，是国家安全不可分割的重要组成部分，是域和新蓝海。近年来，随着人工智能技术与互联网、大数据和实体经济的深度融合和不断渗透，人工智能本身的安全以及对政治、经济、和社会安全的重大影响越来越受到社会各界的关注。人工智能技术为网络空间安全注入了新的活力，也带来了诸多挑战。我国必须高度重视和积极应对网络空间安全背景下的人工智能安全风险，确保网络空间的和谐、稳定和安全。
本文的研究思路如图1所示。首先，分析网络空间安全的定义和内涵，分析人工智能技术对网络空间安全的影响，然后从技术、、政治三个方面详细分析网络空间人工智能安全管理的重点方向，最后从战略、生态、人才、标准四个角度提出了促进网络空间人工智能安全管理的措施。
人工智能技术对网络空间安全的影响分析
人工智能技术是网络空间安全的双刃剑[1]。它不仅提高了网络情况感知和防御的实时性、准确性和灵敏度，而且大大提高了网络攻击的自动化程度和效率，而且给网络空间安全带来了极大的复杂性和不确定性。
1.1 网络空间安全应追求软件、硬件和信息的全面安全
网络空间安全是网络空间中所有元素和活动免受各种威胁的状态[2]。网络空间安全可分为三个领域：
1)物理层面的物理系统安全。这一层次的安全是网络空间安全的物质基础和基本保障，包括计算机硬件、互联网、物联网设施设备等，需要能够抵御物理世界的各种随机或人为破坏、破坏、断网等威胁；
2)网络系统在软件层面的安全性。这一级别的安全是保证网络环境和计算机系统稳定运行、用户信息和数据安全的基础，包括计算机系统、信息基础设施、计算机软件、用户数据等，需要能够抵御各种恶意网络监控、入侵、探测、渗透、降级和破坏；
3)信息层面的网络信息安全。这一层次的安全是网络空间安全的核心追求和重要保障，包括保密性、可用性、完整性、可控性和网络环境中流通信息的不可靠性。其目标是追求网络信息在数据采集、传输、存储、管理、分析和处理中的安全，避免对政治、、经济和社会的不利影响和危害。
物理系统安全、网络系统安全和网络信息安全相互影响和交织。由于网络空间的复杂性和级联效应，任何安全威胁都可能对网络空间的整体安全产生重大影响，这将在人工智能时代更加突出。
1.2 人工智能技术将是网络空间安全管理的强大使能器
近年来，国内外行业正在探索网络空间安全领域与人工智能相结合的可能性和应用场景，试图利用机器学习、深度学习等技术分析处理网络空间趋势大数据，利用强化学习、知识图谱等技术自动生成网络防御策略。人工智能技术将成为网络空间安全治理的强大赋能器，有助于改进完善网络安全防御体系，高效、快速应对各类随机或蓄意威胁。人工智能技术将成为网络空间安全管理的强大赋能器，有助于完善网络安全防御体系，高效快速地应对各种随机或故意威胁。
一是有助于更高效、自主、准确地识别和应对网络空间安全威胁。人工智能技术通过深入挖掘和分析网络空间信息、行为、情况等大数据中包含的网络空间安全要素和安全风险，有助于构建动态、准确、高效的网络空间安全威胁感知预警系统，促进网络空间安全威胁自适应、分布式协作和演变优化的积极防御系统。
二是有助于推动网络安全管理新业态弯道超车、变道超车。无论是战略创新还是深度学习框架，人工智能（Artificial Intelligence，AI）人工智能赋能的芯片等战术应用网络安全新业态备受关注。面对国外封锁和技术壁垒，中国不仅有针对性地对专项技术进行定点爆破AI核心竞争力，推动我国网络安全管理弯道超车、变道超车。
第三，有助于克服网络安全管理专业人员人力资源的严重短缺。根据McAfee公司调查显示，公司普遍认为，为了有效应对网络威胁，需要增加24%的安全人员。尤其是面对突如其来的新冠，网络安全人员的全球化协同办公与威胁处置将面临诸多挑战[3]。利用人工智能技术结合网络安全人员的经验，可以更好、更快地促进网络空间安全感知和防御系统的自主化和自动化，大大降低安全风险分析和威胁响应的技术难度和心理压力，提高网络安全管理的效率[4]。
1.3 人工智能技术将给网络空间安全管理带来重大挑战
人工智能技术的自主化和智能化程度越高，其双刃剑特征就越明显。目前，国内外在竞相推动人工智能技术发展的同时，也在高度重视其可能蕴含的各种安全风险，积极应对人工智能技术为网络空间安全治理带来复杂性与不确定性等诸多挑战[5]。
首先，人工智能技术可能会扩大中国和强国之间的信息技术差异。基础研究水平，如人工智能理论和关键算法，将直接决定人工智能技术的发展上限。目前，我国人工智能技术在基础研究领域与国外先进水平仍存在一定差距，严重制约了我国人工智能的可持续发展。根据2019年《自然》杂志文章《到2030年，中国能在吗？AI成功领导世界？》[6]统计，全球领先AI68%的专家分布在美国，中国只占6%；在论文影响力方面，代表人工智能发展前沿的高被引论文数量仅为美国的18.9%，居世界第六；93%的中国研究人员使用它Tensorflow、Caffee等待美国公司开发的人工智能开源框架。中国人工智能核心技术的自主性、安全性、可靠性，将是信息安全与网络空间安全的根本保证。
二是人工智能技术可以加快网络空间武器化战场化。人工智能技术将进一步扩大网络空间安全在攻防中的作用，使强者越强，强者越强，促进网络空间攻防设备的研发和应用。也非常重视人工智能技术对网络空间作战能力的使用[3]。近年来，陆续推出了自适应雷达对抗（ARC）、“自适应电子战行为学习”（BLADE）、破坏者智能网电对抗装备（SRx）等认知网电对抗项目[7-8]，通过深度感知网电空间形势、独立优化网电对抗策略、网电对抗效率在线评价等人工智能与网电对抗技术的深度整合，争夺网电空间制权。中国必须高度重视和警惕人工智能驱动的网络空间武器化和战场化趋势。
第三，人工智能本体的安全风险可能导致网络空间的重大灾害。算法与数据是人工智能发展的核心关键，掌控的越多，供人工智能学习的资源就越多，就能取得突破性的进展，也就越有可能产生一些风险后果。随着人工智能技术与网络空间的深度融合，随着网络空间的普及，特别是物联网，人工智能的本体风险可能会扩大，导致网络空间的重大灾难，具体体现在[9]：一是物理世界风险。智能物联网系统的安全风险，如机械、化工、核工业等，可能会破坏大气、海洋、植被等地球环境。二是人身财产风险。无人智能系统的安全风险，如无人机、无人驾驶汽车、医疗机器人等，可能直接危害人类自身的生命财产安全。三是国家社会风险。智能社会网络的安全风险，如伪造新闻、虚假视频、金融欺诈等，可能导致社会骚乱，危害国家安全。
网络空间人工智能安全管理的重点是方向
网络空间人工智能安全管理是对网络空间创建、运行、维护中使用的各种人工智能技术进行合理、合法、适度的管理和控制，确保人工智能本体技术的安全，为网络空间安全管理服务。目前，世界各国关注网络空间领域的人工智能安全治理，重点关注技术、和政治。
2.1 技术方面
关注基于深度学习的人工智能赋能技术。
随着2006年深度学习模式的提出，人工智能引入了层次学习的概念，促进了人工智能技术的井喷式和跨越式发展。随着当前信息化和网络社会积累的大量大数据，以及并行图形处理器（Graphics Processing Unit，GPU）深度学习可以从大数据中提取、发现甚至洞察前所未有的知识，具有较强的学习能力、推理能力和灵活性。特别是Google公司人工智能围棋程序AlphaGo、IBM公司专家辅助系统Watson、以及Boston Dynamics公司的人形机器人等产品反映了特殊人工智能的突破进展和深度学习的巨大潜力，也反映了深度学习技术在网络空间安全领域广泛应用的可能性和必要性。
2.1.1 深度学习技术可以提高网络空间的威胁感知能力
基于网络空间大数据提供的数据资源，深度学习技术提高了网络空间感知和防御手段对各种不确定环境的动态适应性，可以自动分类、聚合和分析大量模糊、非线性和异构数据，全面感知网络安全威胁，独立学习和认知网络空间情况；能够积极生成和快速调整网络威胁防御策略，不断学习和演变自主智能网络空间攻击手段的攻击和防御游戏，逐步形成适应性强、反应迅速、敏感的网络空间安全防御智慧。我国必须高度重视网络空间安全管理领域深度学习技术的最新进展，包括基于迁移学习的高效威胁识别技术、基于聚类分析的准确威胁分析技术、基于深度强化学习的独立防御技术等。
2.1.2 注意算法和数据在深度学习技术中的安全性和可靠性
人工智能本体安全多维依赖网络安全。
2.1.2 注意算法和数据在深度学习技术中的安全性和可靠性
人工智能的本体安全对网络安全有多维依赖。目前，人工智能算法如深度学习仍缺乏鲁棒性、解释性差、易受干扰和欺骗。例如，卷积神经网络（Convolutional Neural Networks,CNN）、人工神经网络（Artificial Neural Network，ANN）关键算法存在安全隐患，可以通过伪造数据、污染样本等方式干扰甚至操纵深度学习模型的运行结果。同时，深度学习的数据隐私性和可靠性较差，缺乏密码保护，容易被盗、破坏、伪造，甚至重大泄露。中国必须建立人工智能本体的安全防线，提高深度学习等关键技术的可信度和解释性，加强软硬件的脆弱性分析和保护，开发大数据个人生物特征加密技术，确定深度学习算法和数据等关键基础设施的安全性和强度。
2.1.3 大力加强基础理论和核心算法深度学习的储备攻关
人工智能等人工智能基础理论和核心算法是促进网络空间人工智能安全管理的核心竞争力和内部驱动力，也是确保网络空间人工智能安全的最终屏障。目前，深度学习算法基础研发平台几乎是美国Google大公司垄断。许多公司和研究人员需要通过国际互联网将培训样本数据和人工智能算法上传到海外网站，以进行深入研究的研究、开发和应用，人工智能安全管理带来了重大挑战。建议大力加强建议大力加强Cyber AI理论研究和技术储备，充分发挥我国在网络空间大数据、人工智能商业模式创新等方面的优势，大力推进国内 深度学习平台的大规模普及与应用。
{n}{n}
2.2 方面
{n}{n}
方面重点关注基于自主网络攻
免费领取快手播放量的网址,快手一元100个双击 - 名片赞网站免费0元
郑重声明：本文版权归原作者所有，转载文章仅为传播更多信息之目的，如作者信息标记有误，请第一时候联系我们修改或删除，多谢。
标签：
评论