人工智能是人类发展新领域.当前,全球人工智能技术快速发展,对经济社会发展和人类文明进步产生深远影响,给世界带来巨大机遇.与此同时,人工智能技术也带来难以预知的各种风险和复杂挑战.人工智能治理攸关全人类命运,是世界各国面临的共同课题.
随着ChatGPT的发布及相关应用的落地,人工智能技术给全球各个行业带来了一波又一波冲击.GPT-4多模态大型语言模型更是将人工智能的能力提升到新的高度,无论从技术先进性还是应用实践能力来看,此模型均可被称为当前人工智能发展的集大成者,人工智能正以一种肉眼可见却难以预料的速度迅速扩展其能力边界.在人工智能的加持下,网络攻防、开源情报、军事对抗等国家安全相关领域均出现前所未有的科技创新和突破,或将对国家安全产生较大影响.
2022年年底,以ChatGPT为代表的对话式语言大模型,被广泛认为是一场颠覆性的技术革命.全球科技巨头纷纷开展应用布局,微软凭借其与OpenAI的关系,迅速将ChatGPT技术集成至其搜索引擎Bing及一系列的企业应用中.
人工智能(AI)作为新一轮科技革命的重要驱动力量,正在有效推动着数字化转型,其带来巨大机遇的同时,也伴随着新的风险和挑战.当前,人工智能仍处于快速发展阶段,其技术自身固有的脆弱性和管理体系落后于技术发展等诸多问题是客观存在的,人工智能的安全及治理是现阶段的重要课题.
每一次重大技术突破都会给社会发展带来变革与冲击,近年来,人工智能技术飞速发展,技术应用广泛落地,特别是以ChatGPT为代表的生成式人工智能技术开启发展的新纪元,引发全球关注.然而,人工智能在为经济发展和社会进步带来重大机遇的同时,也带来了不可忽视的安全新问题,我们必须高度重视并积极应对.
近年来,人工智能技术对社会的发展产生了深刻的影响和推动作用.然而,这为网络空间内容安全治理带来了诸多挑战.以电信网络诈骗为代表的新型诈骗方式已经逐步呈现出跨地域、跨行业、跨网络等明显特点,而且诈骗手法也逐渐变得"智能化".
漏洞工作成为维护国家安全的重要手段 安恒信息:漏洞事件一般指的是漏洞被黑客非法利用,造成了信息系统、网络基础设施等发生信息泄露、系统瘫痪、资金损失等恶劣影响的事件.从行业观察和产业发展的角度看,漏洞事件是不可避免的,各种软件或系统都可能存在安全漏洞.
近年来,人工智能技术发展取得了长足的进步,在多个领域广泛应用,特别是以ChatGPT为代表的生成式人工智能技术开启了人工智能应用的新纪元.随着人工智能技术及应用的迅猛发展,也带来了诸多由于人工智能引发的新安全问题,人工智能相比传统网络安全将面临更多新的安全形势和挑战,需要依托顶层设计、标准规范、安全策略、技术手段、管理措施等方面进行有效的应对与防范,上述问题和情况都值得我们深入的思考和研究.
近年来,联合国信息安全开放式工作组(OEWG)已经成为以联合国为主渠道推动网络空间国际治理的重要机制进程之一.其中,"建立信任措施"是OEWG重要议题,且日渐成为核心关键之一.本文从OEWG"建立信任措施"议题中的前置性话题联络点名录(PoC)机制为切入点,立足OEWG各成员(国)在PoC机制构建方面的合作共识,重点分析各方在"不干涉他国内政原则"、PoC机制主要参与主体、"自愿原则"具体细化程序、PoC数据存储和共享方式、达成会议成果的机制方式和资金来源等六方面的差异,基于各成员(国)在PoC机制构建方面的合作共识,为我国更好地参与包括PoC机制在内的OEWG进程提供建议.
2023年,一些西方国家颁布的一系列禁令使社交媒体平台TikTok的发展蒙上阴影.从网络安全的视角分析,针对TikTok的禁令是基于风险防范而非事实的网络安全想象.实际上,针对TikTok的禁令是西方国家试图在网络空间与精神世界进行"断链脱钩"的"隐制裁".在此基础上,可以归纳提出"隐制裁"的概念内涵与特征,并从国家与企业两个层面提出应对隐制裁的社交媒体平台未来发展之路,以便为未来社交媒体平台的全球化发展提供参考.
2022年11月,美国研究机构OpenAI发布对话式大规模语言训练模型ChatGPT,在全球引发了前所未有的热度.然而在其发布后不久,意大利数据保护局就以数据安全问题为由,禁止了 ChatGPT在意大利境内的使用,并限制开发者OpenAI处理意大利用户的信息.与此同时,世界多地出现了对生成式人工智能进行规制的提议.在这场关于人工智能安全风险的讨论中,有一部分属于伦理的范畴,不能仅从网络安全的角度去审视.但人工智能伦理与传统的人体和动物伦理有很大不同,相关理论尚未形成.例如,如何界定人工智能伦理的范围?人工智能伦理审查的内容是什么?我国应当采取何种措施对人工智能伦理进行监管?上述问题值得深入研究.
国际法如何适用于网络空间一直是联合国信息安全开放式工作组(OEWG)谈判的核心问题和各国争议焦点.战略选择和国家之间缺乏团结,直接影响OEWG的谈判进程.OEWG成员(国)在国际法适用、建立新的国际网络法律体系的必要性等问题上存在分歧,这与他们的战略选择以及地缘政治联盟等因素有关.达成国际法网络空间适用问题的国际共识需要全球合作治理,责任共担,所有国家不受歧视地平等参与全球决策.团结是达成民主和公平的国际秩序的基础,也是决定非约束性国际规范或标准能否有效实施的前提条件.
在历史战争不断以及现实地缘环境影响下,以色列将"军民融合"理念纳入国家安全战略,持续进行高额的军事投入,推行"全民皆兵"的兵役制度,实施军民"两用"技术的市场化运用,"以军带民""军民互促"成为以色列最为突出的国家安全理念.
企业数字化转型浪潮的来临促使人工智能技术得到了企业的普遍关注和重视.人工智能技术发展至今已经广泛应用到图像识别、自然语言处理等领域,并取得了重大的突破.随着网络空间逐渐成为数字经济发展的基石,网络空间的攻击面也不断地延伸和拓展,网络空间攻防双方信息的不对称性现象愈发明显.
人工智能(AI)是引领新一轮科技革命和产业变革的关键技术.人工智能赋能网络安全的同时,也会带来前所未有的安全风险.本文在介绍人工智能技术赋能网络安全关键场景的基础上,分析人工智能因潜在技术滥用、新技术应用等带来的安全风险,并提出相应的安全建议与应对策略.
本文尝试分析域名系统(DNS)滥用的政策发展并总结主要争议点,并且引用互联网基础技术架构边界网关协议(BGP)的"自治为点、关系为线"原则剖析如何缓解争议并提升互联网治理的效能.业界应该在DNS滥用议题上更多考虑如何鼓励各参与者通过自治弹性处理各种类型的滥用问题,而无需纠结DNS滥用的定义是否只涉及技术性滥用或应该包含内容滥用.同时,业界也应重视商业关系和利益在互联网治理中的作用,鼓励互联网中介更有效地处理DNS滥用问题.
网络恐怖主义已成为全球公害,金砖国家亦是受害者.根据《全球恐怖主义指数(2022)》(Global Terrorism Index)对全球 163 个国家的统计,基于事件数、死亡数、受伤数和人质数四项指标的综合衡量,金砖国家(BRICS)的印度、俄罗斯、南非、巴西、中国分别位列第13、45、79、85、93位.这显示出金砖国家面临不同程度的恐怖主义威胁,印度最高,俄罗斯、南非、巴西次之,中国最低.随着网络技术的应用和恐怖主义的网络化发展,金砖国家亟需加强互联互通,在网络恐怖主义治理机制等方面加强合作.
建设数字中国是数字时代推进中国式现代化的重要引擎,是构筑国家竞争新优势的有力支撑.2023年两会政府工作报告指出,我国数字经济不断壮大,新产业、新业态、新模式增加值占国内生产总值的比重超过17％.新技术广泛应用、数字经济高速增长令网络安全风险高企,当前数据泄露、勒索软件、供应链攻击、业务欺诈、关键基础设施攻击、地缘政治相关黑客攻击等网络威胁持续上升,网络安全从后台走向前台,成为数字中国的底板工程.因此,筑牢与数字中国相适应的安全底板,不仅关系个人安全、企业安全,更关乎国家安全.当前需统筹推进数字中国建设,将安全技术覆盖数字应用全场景,将安全能力嵌入数据生命全周期,打造安全、可靠、绿色的新型数字基础安全体系.
文化多样性是人类社会的基本特征,其本质是不同群体在价值观上的差异.这种差异既为人类社会的发展带来了诸多的机遇,也为文明与文化的冲突带来了无限的挑战.互联网改变了传统社会非主流思想容易被忽视、埋没的现象,为外来文化、各种小众群体的聚集和多样性文化的兴起提供了技术支撑,现代社会也越来越多地呈现出多元价值的交融与冲突.在这种复杂现象下的网络治理,既要尊重文化的多样性,为文化发展留出足够的空间;也要注重网络主权,通过核心价值观的引导和注入,保障内容安全,推动文化的交流和文明的互鉴,构建和谐可持续发展的网络空间命运共同体.
中国信息安全测评中心是经中央批准成立的国家信息安全权威测评机构,主要职能包括:为信息技术安全性提供测评服务;信息安全漏洞分析和信息安全风险评估;信息技术产品、信息系统和工程安全测试与评估;信息安全服务和信息安全人员资质测评;信息安全技术咨询、工程监理与开发服务等.
