<rt id="k6smo"><center id="k6smo"></center></rt>
首页 >要闻 >正文

专家:人工智能对国家政治安全带来5大挑战

来源:光明日报2022年06月26日

人工智能技术的蓬勃发展和广泛应用,给人类生产生活带来了极大便利,同时,也对国家主权、意识形态、执政环境、社会关系、治国理念等带来冲击,深度影响国家政治安全。充分认清人工智能对国家政治安全的挑战,研究应对之策,对于有效维护国家政治安全,意义重大。

人工智能影响政治安全的机理

作为一种颠覆性技术,人工智能进入政治领域后,既具有技术影响政治安全的一般规律,又体现出其不同于以往技术的鲜明特点。

从技术影响政治安全的一般机理来看,主要体现在三个方面。第一,技术进步不可避免地直接或间接服务于政治安全。政治安全是国家安全的根本,经济、社会、网络、军事等领域安全的维系,最终都需要以政治安全为前提条件。因此,包括技术在内的一切社会条件,首要的任务是为政治安全提供服务和保证。综观人类历史上的技术进步,往往被首先考虑用于维护国家安全特别是政治安全,尽管这些技术研发的初衷并非如此。人工智能亦然。第二,政治安全与技术进步相生相克、相生相长。马克思认为,先进技术进入政治领域后,有效提高了“社会控制和权力再生产”。同时,政治安全对技术进步的需求,反过来成为技术不断进步的推动力。但技术并非完美的政治工具。一旦技术利用不当、发生技术失控,或者技术自身缺陷所蕴含的风险爆发,政治安全可能被技术进步反噬。第三,技术进步倒逼政治发展转型,给政治安全带来新课题新挑战。从历史上看,技术进步对社会结构、社会关系、社会文化等带来的变化和冲击,从来不以人的意志为转移。当火枪火炮成为主战兵器时,继续用木盾藤牌来保卫政权的行为无疑是愚蠢的,迫切需要当政者转变思想观念,寻求能够有效维护政治安全的新模式新方法。当计算机网络技术逐渐普及时,西方国家政党纷纷利用互联网进行政治宣传和选举拉票。人工智能较之以往的技术,拥有前所未有的机器“主观能动性”优势,必将对政治安全理念、安全机制、安全路径等带来更大的改变。

从人工智能影响政治安全的独特机理来看,主要体现在两个方面。第一,算法和大数据将左右智能机器“认知”“判断”,继而影响政治行为体的抉择。人工智能的核心“三大件”是算法、算力和大数据。一方面,算法是否公正不偏袒、大数据是否真实完整未被删减篡改伪造污染,直接决定机器的研判结果,并影响人的判断和行为。另一方面,与传统的人口学变量的定量分析不同,大数据、云计算、机器学习等可以将数以亿计的政治行为体抽象成社会的“节点”,人工智能通过分析信息中节点的度数、介数和接近度,来揭示权力集聚规律、赢得政治威望的秘诀,这为执政安全提供了新的技术支撑和智慧渠道。第二,人工智能技术对经济、军事、社会、网络、信息等领域的影响向政治领域传导,间接冲击政治安全。作为一项赋能性技术,人工智能正在逐渐“改写”各领域的秩序规则,给各领域带来机遇和挑战。尽管以往的技术进步也是如此,但其影响的深度和广度远远不及人工智能。而且,以往各领域安全问题“错综复杂、交织并存”的程度,也远远不及人工智能时代高。其他领域的安全问题一旦发酵,极有可能冲击政治安全。

人工智能给政治安全带来新挑战

技术变革具有两面性,人工智能既是维护政治安全的新机遇,也是新挑战。

挑战之一:人工智能技术的普及应用,导致政治权力呈现出“去中心化”趋势。在人工智能时代,数据即代表着权力。掌握数据的主体既有国家权力机构,也有个人、企业团体、社会组织等非国家行为体。“互联网数据”结构的“多节点、无中心”设计,决定着处于线上社会任何位置的主体,均不可能比其他位置的主体位势高。人人都有“麦克风”“摄像机”,处处都是“舆论中心”“事发现场”,这一显著特征,弱化了传统的线下科层制国家管理结构和单向治理模式,政治话语权由政府这个传统的权力中心逐渐向社会层面弥散,国家治理难度大大增加,政治安全风险也大大增加。目前,这种风险已初露端倪。2019年9月,因有人线上传播“老师辱骂原住民学生是‘猴子’”的种族歧视谣言,印尼巴布亚省爆发严重骚乱,导致26人死亡、70余人受伤。

挑战之二:随着人工智能技术和数据垄断持续扩张,资本权力的扩张将危及国家权力边界。生产力的发展变化必将带来生产关系包括政治权力结构的调整。作为“第一生产力”的科学技术,其发展进步势必引起国家权力结构的调整。当人工智能技术广泛应用于经济社会各领域并引起变革时,将会推动国家治理结构与权力分配模式做出相应调整。从当前种种迹象来看,资本的权力依托技术和数据垄断持续扩张,将成为新时代国家治理结构调整的重大课题。一方面,人工智能技术研发门槛很高,依赖于大量的、长期的资本投入和技术积累,这导致社会各产业、各阶层、各人才群体间的技术研发能力、资源占有程度、社会影响力等方面极不平衡,以互联网商业巨头为代表的技术资本将占据明显优势。另一方面,人工智能技术强大的赋能作用,以及良好的经济社会应用前景,导致资本趋之若鹜。商业巨头实际上掌握了目前人工智能领域的大部分话语权,并正在逐步形成行业垄断。人工智能时代,巨头企业以强大资本为后盾,逐步垄断技术、控制数据,或将不可避免地在一定程度上逐渐分享传统意义上由国家所掌控的金融、信息等重要权力,进而可能插手政治事务。因此,国家是否有能力为资本权力的扩张设定合理的边界,是未来政治安全面临的重大挑战。

挑战之三:人工智能技术及其背后的数据和算法潜移默化引导公众舆论,进而影响人的政治判断和政治选择,间接把控政治走向。在人工智能时代,数据和算法就是新的权力。近年来围绕国家大选而展开的种种政治运作显示:拥有数据和技术能够从一定程度上影响政治议程。据有关媒体报道,2020年美国总统大选期间,有人利用网络社交平台的大量机器人账号,发布海量虚假信息,力图影响选民的认知、判断与选择。类似的情况,也曾出现在2016年的美国大选、2017年的英国大选和法国大选中。这些案例非常清晰地显示:只要拥有足够丰富的数据和准确的算法,技术企业就能够为竞争性选举施加针对性影响。当某种特定政治结果发生时,人们很难判断这是民众正常的利益诉求,还是被有目的地引导的结果。

挑战之四:人工智能技术可能被政治敌对势力用于实施渗透、颠覆、破坏、分裂活动。利用先进技术威胁他国政治安全,这样的例子屡见不鲜。计算机网络技术出现后,被西方国家用来进行网络窃密、网络攻击、网络勾联、传播政治谣言、意识形态渗透和进攻。人工智能时代,攻击一国人工智能系统或利用人工智能实施渗透、颠覆、破坏、分裂活动,带来的后果将比以往更为严重。

挑战之五:人工智能技术进步对主权国家参与国际竞争带来严峻挑战。人工智能是当前最尖端最前沿的技术之一,其核心技术多被美欧等发达国家所掌握。这些国家利用它提升生产自动化水平,提高劳动生产率,加快制造业回迁,将冲击发展中国家的传统比较优势,使后者在国际政治经济竞争格局和全球分工中处于更加不利的地位。通过发展军事智能化,进一步扩大对发展中国家的军事优势。国家之间一旦形成技术“代差”,综合实力差距将被进一步拉大。在这种情况下,技术强国对发展中国家实施政治讹诈和技术突袭的可能性增大。

多措并举,维护我国政治安全

政治安全事关我党生死存亡和国家长治久安,我们必须高度重视人工智能带来的政治安全挑战,多措并举,综合施策。

人工智能技术具有高度专业性和复杂性,企业、科研机构常常处于技术创新前沿,而国家政府则往往远离技术前沿,对技术的感知相对滞后,对技术的安全风险准备不足。为此,要强化风险意识,密切跟踪人工智能技术和应用的发展,运用系统思维,定期研判人工智能可能带来的政治风险,提高风险识别、防范和处置能力。要创新技术治理模式,构建政府主导,企业、研究机构、技术专家、公众等多方参与的人工智能治理体系。“治理”不同于“管理”,管理是政府单向的行为过程,治理则是一种开放的、多个利益攸关方参与的互动过程。通过多方互动,政府既可以跟踪掌握技术和应用的前沿动态、发展趋势,掌控治理主动权,又有助于企业、研究机构、专家、民众更好地了解政府关切,共商制定风险管控机制,推进治理工作的科学化民主化。

当前,我国在人工智能技术领域面临的最重大的安全威胁,是关键核心技术受制于人。从现在起到2030年,是我国抢抓机遇的关键期。要举全国之力,集全民之智,打造一批国家级人工智能研发平台,加强基础性、原创性、前瞻性技术研发,从智能芯片、基础算法、关键部件、高精度传感器等入手,加快核心技术突破。

没有规矩,不成方圆。针对技术应用风险,严格人工智能标准制定和行业监管,确保人工智能良性发展。紧跟技术发展变化,动态修订完善相关技术标准。加紧完善人工智能相关法律法规和伦理道德框架,对相关的民事与刑事责任确认、隐私和产权保护、机器伦理等问题予以明确,理顺设计者、使用者、监管者之间的权责关系。要建立健全人工智能监管体系,形成设计问责和应用监督并重的双层监管结构,实现对算法设计、产品开发、成果应用的全过程监管。积极促进行业自律,加大对数据滥用、算法陷阱、侵犯隐私、违背道德伦理、擅越权力边界等不良行为的惩戒力度。要积极主动参与人工智能国际议题设置,共同应对安全、伦理、法律等诸多挑战。抓住人工智能国际准则和配套法规刚刚起步之机,积极参与规则制定,及时宣示我国主张,努力掌握规则制定话语权和国际交往主动权。

针对外部安全风险,加强军事能力建设,为维护国家政治安全提供力量保证。要积极研究探索智能化战争理论,加快推进现代武器装备体系和人才队伍建设,强化智能化条件下部队训练演练,不断提升我军新时代军事斗争准备水平。

(作者:许春雷,系军事科学院博士研究生,现任河北省石家庄市鹿泉区人武部副部长)



【新闻链接】

计算力决定战斗力

战争是一门科学,也是一门艺术。战争中斗智斗勇,“算”起着举足轻重的作用。被兵家奉为经典的《孙子兵法》,其制胜要诀就是庙算。“夫未战而庙算胜者,得算多也;未战而庙算不胜者,得算少也。多算胜,少算不胜,而况于无算乎!”“知彼知己者,百战不殆。”“出其不意,攻其不备。”所有这些,都离不开“算”。

“算”与战争须臾也不曾分开。传统的中军帐、参谋部、指挥所都是“中心计算模式”。制导武器出现以来,算法的关键性赋能作用越发明显。从坦克装甲车辆的主动防护系统到军用飞机的自主控制系统,再到“爱国者”防空导弹的防空反导系统,算法已成为主战装备的标配。

人工智能的本质在于计算,决定计算效率的是算法。数据、计算能力、算法是人工智能的三大要素。数据是基础,算力是保障,算法才是人工智能的“大脑”。算法的先进程度,决定了人工智能的“聪明”程度。缺乏先进算法支撑,人工智能只能是“机器”;有了智能算法,机器就可能具有智慧、“灵魂”,就具备了自主能力。人工智能时代的“科技原力”是算法突破,算法是人工智能领域中的超尖端核心技术。从本质上讲,机器学习就是人工智能的一类核心算法。

从物理和数学角度看,战争本身就是一种运动,也可以用数学方法进行描述与分析。以往,受技术限制,计算多是粗略概算并服务于指挥员谋略,计算力一直是战斗力的配角。大数据技术的开发应用,是继云计算之后又一次颇具“颠覆性”意义的技术革命,这为应用数学工具对战争进行定量分析提供了动力。万物互联的智能化时代,“数字参谋”等人工智能军事化应用可以加速战场数据的信息融合,加快数据产生的速度,运用大数据方法挖掘信息宝藏成为适应时代的必然选择,也是世界新军事变革发展的必然趋势。

对于科幻电影《星球大战》迷来说,一定会对电影中那个名叫R2-D2的机智、勇敢而又憨态可掬的宇航技工机器人留下深刻印象。它是影片男主人公卢克·天行者飞行、战斗的重要助手。它虽然只有0.96米高,却有一个塞满了各种工具的附加臂,使它成为一名了不起的太空船技工和电脑接口专家。

如今,科幻电影中的场景,正在被美军变为现实。2020年12月15日,在加州比尔空军基地进行的一次训练中,美军首次实现了AI自主控制一套军用系统。美空军让AI副驾驶ARTU和人类飞行员共同驾驶一架U-2侦察机,模拟在导弹打击中执行侦察任务。ARTU是任务的指挥官,全权操控机载传感器应用和战术导航系统,并与人类飞行员共享雷达,掌握着人机团队的最终决定权。具体分工上,人类飞行员专注于寻找敌机,ARTU通过控制雷达和传感器等系统搜寻敌方导弹发射器。最终,在没有人类飞行员操控的情况下,ARTU自主作出决定,将雷达专门用于导弹搜寻与自我保护。对于这次训练,美国空军助理部长威尔·罗珀博士评价道:“算法战的时代已经开启。”

“算法战”概念源于一篇文章——2013年4月,美国智库“大西洋理事会”发表了一篇题为《“震网”事件预示“算法战”时代来临》的署名文章,指出“震网”病毒是首个用算法取代人手来扣动扳机的自主武器,这预示着“算法战”的时代或将来临。2016年9月,哈佛大学法学院发布题为《战争算法问责》的研究报告,将“战争算法”定义为“通过电脑代码表达、利用构建系统实现以及能在战争行动中运作的算法”。2017年4月,美国时任国防部常务副部长、“第三次抵消战略”设计者罗伯特·沃克正式提出算法战,并由其督建成立美国防部“算法战跨职能小组”,标志着美军智能化建设进入“快进”模式。

关于创建“算法战”的初衷,美国防部的表述为应对军事行动中的海量数据处理压力,首要任务是用于“情报战”,即运用大数据、计算机视觉及模式识别技术,提升“处理、分析与传送”战术无人机获取视频数据的自动化水平。严格地讲,算法本身的使用价值有限,只有与超算能力和大数据技术相结合才能产生魔力。“算法战”的实质是“智能+”战争,“外壳”是软件系统,“核心”是对数据资源的运用。智能化战场,取得智能优势是关键。而智能优势实质是信息优势、认知优势、决策优势和行动优势的高度统一。算法作为用系统的方法描述解决问题的策略机制,算法优势主导信息优势、认知优势、决策优势、行动优势。掌握算法优势的一方,能够快速准确预测战场态势,创新作战方法,实现“未战而先胜”。

在未来智能化战场,计算力决定战斗力,“算法战”蕴藏着改写战争游戏规则的巨大潜力。

【责任编辑:侯歆钰】

武警部队发布网络宣传片《呼点》

中国青年报客户端2022-06-19 14:38:09

敦煌研究院将携手腾讯建造全真数字藏经洞

中国青年报客户端2022-06-15 14:59:32

钟南山2020年赴武汉车票等170余件展品亮相国博大展

中国青年报客户端2022-06-16 13:00:00

【温暖一平方】一间温暖的美术教室

中国青年报客户端2022-06-14 20:53:13
坑爹男技师