疫情下电子政务的职能，人工智能安全综述

关于大家都想知道人工智能安全综述和疫情下电子政务的职能的题是怎么回事吗？听小编为各位来讲解一下。

文本|华北电力大学李建斌乔婷秦淑梅李志勇

近年来，人工智能技术取得了长足进步，在多个领域得到了广泛应用。尤其以ChatGPT为代表的生成式人工智能技术开启了人工智能应用的新时代。随着人工智能技术和应用的快速发展，也带来了许多由人工智能引发的新的安全题。与传统网络安全相比，人工智能将面临更多新的安全形势和挑战，需要依托顶层设计和标准规范。安全策略、技术手段、管理措施等进行有效应对和防范。上述题和情况值得我们深入思考和研究。

1.人工智能概述

人工智能的历史和发展

人工智能是研究、开发模拟和扩展人的智能的理论、方法、技术和应用系统的技术科学。人工智能研究的目的是通过探索智慧的本质来扩展人类智能，使智能主体具备听、看、说、思考、学习和行动的能力。1951年，马文明斯基（MarvinMinsky）与他的同学迪恩埃德蒙（DeanEdmond）一起构建了世界上第一个“随机神经网络模拟强化计算器”。1956年，约翰麦卡锡首次提出人工智能的概念，当时的定义是“制造智能机器的科学和工程”。

人工智能自诞生以来经历了多个发展阶段。第一阶段是人工智能的初级阶段。人工智能概念被提出，神经网络、机器定理证明、人机对话等得到发展。第二阶段是人工智能工程应用阶段，利用专家系统模拟人类专家的知识和经验来解决特定领域的题，实现人工智能从理论研究到实际应用的重大突破。第三阶段是人工智能的深入发展阶段。互联网技术的快速发展加速了人工智能的创新研究，推动了人工智能技术的进一步实用化。第四阶段是人工智能数据挖掘阶段。新型数据和图形处理器推动人工智能技术快速发展，在图像分类、语音识别、知识、人机、无人驾驶等方面实现重大技术突破。第五阶段是人工智能蓬勃发展阶段。生成式人工智能作为一种新型人工智能技术，在自然语言处理、图像生成、音频合成等领域取得了令人瞩目的成果。

人工智能技术与应用

1人工智能技术

人工智能的核心技术主要包括深度学习、计算机视觉、自然语言处理和数据挖掘等。

深度学习是实现人工智能的重要方法，起源于早期的人工智能研究。深度机器学习可以从数据中学习并自动总结模型，最终利用模型进行推理或预测。

计算机视觉是指计算机从图像中识别物体、场景和活动的能力。例如，一些技术可以检测图像中对象的边缘和纹理，并且分类技术可以用于确定所识别的特征是否代表系统已知的一类对象。

自然语言处理是一个涉及计算机科学、人工智能和语言学的领域，研究计算机与自然语言之间的交互。自然语言处理面临许多挑战，包括自然语言理解，因此它涉及人机交互的各个方面。

数据挖掘是通过算法从大量数据中寻找隐藏信息的过程。数据挖掘通常与计算机科学联系在一起，通过统计、在线分析处理、情报检索、机器学习、专家系统和模式识别等多种方法来实现其目标。

近年来，人工智能技术正在向更多分支发展，包括无人驾驶技术、人脸识别技术、神经机器翻译技术、声纹识别技术、智能客服机器人、智能外呼机器人、智能音箱以及个性化推荐等。

2人工智能领域的应用

AIGC和AGI是人工智能领域的两个重要概念，而LLM大语言模型是推动生成式人工智能聊天机器人快速发展的核心技术。

AGI是指具有与人类相当或更强的认知能力，能够理解、学习、规划和解决题的智能系统。通用人工智能的概念可以追溯到人工智能的诞生。图灵在1950年提出了著名的图灵测试。AGI的技术需要更多的支持，比如自然语言处理、计算机视觉、机器学习。AGI应用范围广泛，可应用于医疗保健、金融服务、交通运输等领域。

AIGC是一种利用人工智能技术自动生成内容的新制作方式。其优势在于效率和自动化生产。随着人工智能的发展，越来越多的内容不再需要人工编辑，而是由机器自动生成。2021年之前，AIGC主要用于生成文本。自2022年以来，AIGC以惊人的速度发展，新一代模型能够处理多种格式的内容，达到专业水平。AIGC技术主要应用于新闻报道、广告创意、视频制作等行业。

LLM是一种基于深度学习的自然语言处理模型，可以学习自然语言的语法和语义并生成人类可读的文本。2017年，DeepMind提出了RLHF概念，同年6月，Google发布了Transformer，成为所有LLM的基础设施。2020年，OpenAI发布了GPT-3，LLM的受欢迎程度稳步增长。ChatGPT、BingChat和GoogleBard等聊天机器人的迅速崛起证明了该领域正在汇集大量资源。

3人工智能行业应用

人工智能在金融科技领域的应用。机器学习、知识图谱、生物识别、服务机器人等人工智能技术广泛应用于金融预测、反欺诈、信贷决策、智能投顾等领域。人工智能是未来金融科技创新发展的主要驱动力。

人工智能在能源领域的应用。将人工智能和机器学习与能源相结合将有助于加速可再生能源的采用，并成为应对气候变化的有效工具，符合可持续发展目标。

人工智能在卫星通信中的应用。美国卫星通信创新集团认为，卫星是整个通信网络所依赖的基础。人工智能可以管理虚拟通信网络，帮助卫星提供可靠的通信服务，实现通信任务自动化。

人工智能在农业中的应用。人工智能越来越多地应用于农业生产中。它可以监测作物，了解作物的生长情况，及时补充所需的养分或农药，确保剂量更加准确。

人工智能在城市公共安全中的应用人工智能在提升城市公共安全能力方面优势明显。随着人工智能发展所依赖的数据规模的不断扩大、计算能力的不断提升以及算法的优化和突破，人工智能技术的应用成本将显着降低。

生成式人工智能

生成式人工智能是指利用机器学习技术让计算机自动生成不同模态的高质量数据的方法。生成式人工智能涉及的技术非常全面和广泛，但就其核心功能文本生成而言，主要依赖生成式预训练和线索学习两大功能。

从算力的角度来看，生成计算是继云计算之后的又一种新的算力形态。它将像电力、网络、云计算一样，成为人们生活中不可或缺的基础能力。从应用生态来看，以ChatGPT为代表的生成式人工智能产品将成为互联网的新入口。从人机交互的角度来看，以ChatGPT为代表的产品将成为人脑的延伸，提供更加智能、高效、自然的人与人交互方式。

人工智能产业与市场发展

近年来，人工智能产业进入快速发展阶段。智能场景融合能力不断提升。人工智能的应用场景已从硬件扩展到软件、服务和系统。金融、工业、农业、医疗等领域的行业应用不断深化。商业应用成为人工智能科技公司布局的重点，欧美等发达国家和地区人工智能产业商业化已落地。

我国政府高度重视人工智能发展，通过出台政策、实施重大工程，积极推动人工智能技术和产业创新发展，将人工智能纳入国家整体创新体系，不断增强产业竞争力。“十四五”数字经济发展规划等政策围绕“加快部署高性能、智能计算中心”和“打造智能算力、通用算法、开发于一体的智能新型基础设施”做出了具体部署。

随着我国新基建、新经济不断推进，人工智能技术在各领域的应用不断深化，人工智能产业市场规模不断增长。人工智能产业链主要包括算法、芯片、算力、数据、场景等几大环节。各个行业细分领域都有领先企业。未来，在5G+物联网的支持下，各行各业都将进入智能化阶段。

2.人工智能安全现状及风险分析

人工智能安全态势分析

在5G、大数据、云计算、深度学习等新技术的推动下，人工智能作为新基建的重要战略技术正在加速发展，并与各行各业创新融合。人工智能的发展呈现出以下特点一是人工智能执行的关键业务对实时安全防护提出了更高的要求；其次，人工智能的个性化服务需求对敏感信息的保护提出了更高的要求；第三，人工智能的跨组织融合对数据安全共享提出了更高的要求；第四，基于机器学习的安全算法和软件漏洞日益突出。

人工智能技术的本质使其与安全体系内的多个环节密切相关，并产生多层次的影响。这使得人工智能技术具有明显的国家安全属性，从而会带来国家主权、意识形态、社会关系等方面的题。影响。当前，主要发达国家把发展人工智能技术和应用作为增强国家竞争力、维护国家安全的重大战略，力争在新一轮技术竞争中占据主导地位。美国国防部人工智能战略提出，美国及其盟国和伙伴国必须利用人工智能来维持战略地位，在未来战场上建立优势，捍卫自由开放的秩序。美国中央情报局甚至宣布将ChatGPT和类似的生成式AI技术用于情报工作。

人工智能安全风险分析

1人工智能技术的安全风险

目前人工智能技术主要采用深度学习方法，侧重于数据智能。智能化程度与数据量呈正相关。然而，这种人工智能缺乏基础知识储备。所有知识都来自输入数据，包括训练数据和与环境的交互数据。原则上，深度学习算法只能反映数据的统计特征或学习数据之间的相关性，而无法解释数据的本质特征或因果关系。该技术的风险主要体现在三个方面。

数据风险攻击者可以利用人工智能的特性，在模型训练阶段混合恶意样本数据来指导模型训练过程。常见的攻击方式包括数据投、对抗样本和成员推理攻击。ChatGPT和BingAL等生成式AI很容易窃取机密数据以进行迭代训练。

算法风险算法是人工智能的核心。目前，算法风险主要表现在四个方面。首先，算法设计可能存在漏洞，导致训练数据不均匀、中或泄露等安全题。其次，算法后门攻击允许攻击者操纵模型预测。第三，算法的“黑匣子”题和莫名其妙导致行业人工智能算法转型过程中存在安全隐患。最后，算法偏见和歧视可能导致人工智能在决策中偏向某些群体或个人，造成社会不公正。

模型风险人工智能模型面临各种攻击风险，包括模型逆向攻击、逃逸攻击、模型盗窃攻击等。对于ChatGPT这样的大型模型，窃取其完整功能可能不切实际，但功能窃取可以针对某个区域。

2人工智能应用的安全风险

随着ChatGPT等人工智能生成内容的新突破，内容的制作方式发生了革命性的变化。这种变化让西方意识形态和价值观的隐性传播对中国产生影响，增加了治理难度，并产生多重安全风险。

政治风险人工智能技术分散了政治权力，扩大了非国家行为体的权力，增加了政治安全风险。利用变脸、变声等技术，可以制造具有欺骗性的假新闻，从而影响政治事件的进展。人工智能对公众行为的潜移默化影响，干扰了国内政治行为，挑战了选举制度。

经济风险人工智能技术将提升资本和技术在经济中的地位，削弱劳动力价值，引发制度性失业、财富分化和不平等。此外，人工智能技术带来的全经济结构调整将导致全资本和人才进一步向技术领先者流动，发展中国家实现现代化的机会。与此同时，随着经济生活数字化水平的快速提升，在给用户带来便利的同时，也带来了重大的安全隐患。

社会风险人工智能技术的滥用带来社会风险，如人脸识别滥用、智能查杀、推荐算法题、隐私和数据泄露、过度收集个人数据等，扰乱市场和社会秩序。滥用人工智能技术深度挖掘、分析和处理个人数据和社会信息，增加了社会治理和国家安全的挑战。

军事风险人工智能技术在军事领域的应用会带来安全风险，改变战争机制，增加不确定性。例如，人工智能武器背后的逻辑和意图难以理解，导致战略判断和不确定性风险。此外，人工智能武器本身也存在安全风险，如智能情报系统的误判、辅助决策系统的安全风险、自主武器系统的演化风险等。

隐私和数据泄露风险随着数据信息的电子化、网络化，数据的获取和传播变得更加便捷，但同时

如果诸位网友还想知道更多的人工智能安全综述和疫情下电子政务的职能相关的详细内容，记得订阅收藏本站。