关注我们
拜登政府于当地时间10月24日发布了首份专注于人工智能的国家安全备忘录,旨在确保美国在人工智能技术开发与应用方面继续保持全球领先地位,同时兼顾创新与隐私、公民自由的平衡。这份备受期待的备忘录强调了加强人工智能关键组件的供应链,并在推动AI创新的同时注重人权保护。国家安全顾问杰克·沙利文指出,美国应采取负责任的措施,确保人工智能系统在公平竞争、隐私保护和安全性方面达到高标准。
此次备忘录的核心条款包括扩大国家人工智能研究资源,指导跨国合作,增强私营部门与政府间的网络安全信息共享,并将美国国家标准与技术研究所的人工智能安全研究所指定为行业与政府的主要联络点。同时,美国政府发布了《人工智能治理和国家安全风险管理框架》,明确了联邦机构在使用人工智能中的规范,如禁止在关键决策中完全移除人类操作。拜登政府期望通过这些框架,能够激发AI安全方向的研究与开发。
沙利文特别强调,“我们必须比美国竞争对手更快地部署人工智能和国家安全事业。如果我们不更快、更全面地部署人工智能来加强我们的国家安全,我们就有可能浪费来之不易的领先优势。”他指出,国内创新和国际合作对于塑造美国在人工智能领域的国际权威和领导地位至关重要。在全球人工智能竞争加剧的背景下,这些政策旨在确保美国在全球舞台上占据领先地位,同时维护其核心价值观与战略利益。
Part1 美国国家安全备忘录(NSM)要点速览
1.美国国家安全备忘录(NSM)出台背景
2.美国国家安全备忘录(NSM)内容解读
Part2 里程碑文件:迈向变革性技术的全面战略
1.美国国家安全备忘录(NSM)的关键受众
2.美国国家安全备忘录(NSM)的核心目标与实现路径
Part3 避免“浪费”领先地位:“安全的、可靠的和可信的”备忘录
1.美国各方对于国家安全备忘录 (NSM)的看法
2.美国大选对于国家安全备忘录 (NSM)的实施意味着什么?
2024 年 7 月 13 日,美国特勤局制服师 (USSS UD) 成员在美国华盛顿白宫外站岗。图片来源:路透社
近年来,技术进步以指数级速度推进,尤其是人工智能、量子计算、5G等新兴科技逐渐成为国家安全和经济竞争的核心支柱。这些技术不仅推动了社会进步,也引发了数据安全、伦理和隐私方面的全球性挑战。因此,各国逐渐将科技竞争视为国家安全的重要内容,人工智能和量子技术的研发应用更是被作为核心竞争领域。美国政府发布的《国家安全备忘录》以及《国家安全领域人工智能治理和风险管理框架》,集中体现了在当前国际科技竞争加剧的背景下,美国想要维护全球科技领导地位方面的战略意图。
这份备忘录最早由拜登总统于 2023 年 10 月发布的关于人工智能的行政命令中提出,旨在为美国政府内部制定一项战略,以迅速将人工智能部署为国家安全系统的一部分,并通过美国国家科学基金会的国家人工智能研究资源等项目协助人工智能发展。该文件同时确定了人工智能供应链中可能受到威胁的领域,并评估了该技术可能带来的放射性、核、化学和生物威胁。
在这份备忘录中,美国提出确保全球技术主导地位的明确目标。通过严格控制关键技术供应链,美国旨在防止先进技术扩散到敌对国家或被恶意利用,保障其在人工智能、量子计算等领域的技术优势。同时,文件还强调通过跨国合作和技术交流,在国际上设定清晰的科技治理标准,以减少技术滥用的风险。
此外,网络安全问题的升级也是美国政府发布该备忘录的重要原因之一。频发的网络攻击、数据泄露等事件对美国国家基础设施和社会安全构成严重威胁。为此,文件建议设立技术边界,并推动各国共同遵守规范,以实现全球科技的负责任应用。文件指出,新兴技术具有无国界的特性,不正确的使用可能带来灾难性后果,因此通过国际合作建立统一的监管标准至关重要。
在多方面因素的推动下,美国不仅渴望在国内立法和政策上加强技术安全管理,还意图在国际上主导科技治理。美国希望通过建立全球规则来捍卫自身的战略利益和价值观。通过这套国际技术规范,美国不仅意在防止技术被敌对国家利用,还希望将其对新兴科技的安全治理标准推广至全球,以巩固其技术领导地位。
美国发布的《国家安全备忘录》及其配套的《人工智能治理与风险管理框架》旨在确立全球科技治理中美国的主导地位,确保高风险技术的安全应用和透明管理。备忘录从人工智能、量子计算、5G、网络安全、先进生物技术等多个领域出发,通过系统性布局,确立了技术管理的基本框架。这份备忘录特别强调了“负责任的科技应用”的目标,试图引导这些新兴技术在国际范围内的发展和规范化。
前言部分
备忘录的前言指出,当前国际社会在技术扩散方面面临显著风险,尤其是人工智能和量子计算等具有双重应用的高风险技术。文件强调,新兴科技的“无国界”特性既推动了全球经济进步,也带来了严重的安全隐患。因此,备忘录提出了一系列目标与原则,以促进国际协作并控制技术扩散。其核心目标包括推进“负责任的”科技应用,防止这些技术被用于军事、间谍活动或其他非法用途。
主要目标与基本原则
备忘录提出三大治理原则:透明度、责任分担以及平衡发展。首先,透明度是确保技术在全球范围内受控的关键。文件指出,尤其在人工智能和网络安全等领域,透明的审查和监管措施可以减少不当使用的风险。责任分担方面,文件主张各国政府、企业和学术机构共同分担技术管理责任,以实现全面的技术治理。平衡发展则强调监管与创新共存,即要推进科技进步,同时有效控制风险。这些原则反映了美国政府在全球技术治理中的基本立场,即通过规范化的国际合作,维持科技发展与安全之间的动态平衡。
优先技术领域与重点关注
在技术优先领域方面,文件明确提出了对人工智能、量子计算、5G、网络安全和先进生物技术的重点监管。每一领域都因其高风险和广泛的社会应用而受到特别关注:
优先技术领域 | 重点关注 |
人工智能 | 人工智能的经济和自动化潜力巨大,但军事和情报应用可能带来灾难性后果,特别是自主武器系统的使用和控制。备忘录指出,在人工智能的开发和应用中,必须设立严格的国际性监管框架,以防止军事滥用。 |
量子计算 | 量子计算的突破可能重塑信息安全领域。文件指出,量子计算对传统加密技术的威胁极大,这可能对金融、军事和其他信息安全系统带来颠覆性影响。因此,量子计算的开发应受到国际性标准的严格约束,以防其被用于破坏性用途。 |
网络安全 | 网络安全领域面临日益严重的威胁,文件提出应通过加强技术防护标准来应对网络攻击、数据泄露和信息操控。人工智能和量子技术在该领域的应用既有助于防护,也可能带来新的攻击手段,网络安全标准的国际统一至关重要。 |
5G与生物技术 | 5G与生物技术在社会和基础设施中的应用使其成为国家安全的重要组成部分。5G的广泛部署虽有助于提升通信效率,但其一旦被用于监控或恐怖活动,将对公共安全构成威胁。同样,先进生物技术的潜力虽巨大,但其在生物武器等方面的应用风险也不能忽视,文件提出应通过国际规范加以控制。 |
国际合作框架的设计
备忘录倡导在全球范围内建立包容且透明的合作框架,通过协调一致的技术标准减少科技滥用风险。文件指出,单一国家难以应对复杂的技术威胁,呼吁各国政府、私营部门和学术机构共同制定并实施科技监管政策。美国政府还设想建立跨国监管机构,以监督各国在新兴技术发展中的行为并定期发布报告。美国政府希望通过在国际会议上分享技术动态和风险评估数据,确保全球在技术治理上的一致性,以此推进以“美国标准”为核心的全球科技治理体系。
尽管文件强调全球合作的重要性,但其主导倾向也引发了一些国家对技术主权的担忧。对于许多发展中国家而言,备忘录中关于透明度和合规性的高标准要求可能难以满足,从而加剧全球技术治理中的不平衡。这种高标准可能导致这些国家缺乏足够资源去实施和满足文件中的合规要求,反而可能促使它们寻求建立独立的技术规范体系,以抵制备忘录带来的技术约束。
监督与实施机制的设立
备忘录在监督与实施机制上提出了设立第三方审查机构的建议,以增强技术管理的透明度和合规性。文件指出,国际组织和各国政府将共同承担监督职责,并建议通过第三方审查机构对各国的技术应用情况进行定期评估。这种独立的监督机制意在保障技术在国际范围内的安全应用,防止技术滥用和失控。
此外,备忘录中设定了具体的制裁机制,以应对不符合规范的技术行为。文件提出,这些制裁不仅用于惩罚违规行为,更具威慑作用,确保各国在技术应用中遵守国际规则。然而,对部分技术资源匮乏的发展中国家而言,这一制裁机制可能带来较大的约束性压力,促使它们在技术规范上脱离美国主导的框架。这些国家可能因技术和资源限制而难以满足合规要求,从而探索独立的技术监管体系,减少制约并保留技术自主权。
《国家安全备忘录》(NSM)及其配套的《人工智能治理与风险管理框架》涵盖多个关键受众群体,美国政府意图对其政策方向进行有效传达和落实。正如白宫国家安全委员会的马希尔·比塔尔指出的,人工智能国家安全办公室将同时面向多个受众群体,提供相应的政策指导。这些受众包括美国联邦机构、私营企业、盟国及战略竞争对手。
美国国家安全备忘录(NSM)的
核心目标与实现路径
024 年 5 月 14 日星期二,Alphabet 首席执行官 Sundar Pichai 在加利福尼亚州山景城举行的 Google I/O 活动上发表讲话。(来源:美联社照片/Jeff Chiu)
《国家安全备忘录》(NSM)与《国家安全人工智能治理框架》共同构成了美国在人工智能领域最新的核心战略。这两份文件确立了三大核心目标:确保美国在全球先进人工智能系统开发中的领导地位,推动国家安全机构广泛采用前沿AI系统,并制定一套系统性的治理框架,确保AI技术的安全、负责任使用。通过这些举措,美国希望巩固其在AI技术和国家安全领域的优势,并确保AI技术的使用符合道德和国家利益。
一、确保美国在全球先进人工智能系统开发中的领导地位
备忘录的首要目标是保持美国在先进AI系统开发中的全球领导地位。文件提出了一系列举措,旨在从人才引进、基础设施建设、反间谍等方面实现这一目标。首先,美国人工智能国家战略办公室提出,吸引和留住顶尖的AI人才是保持竞争优势的基础。该办公室呼吁联邦机构利用一切合法手段,吸引拥有AI和半导体设计等技术专长的全球顶尖人才,并明确将这一举措视为国家安全的优先事项。
此外,文件提出,随着AI技术的快速发展,能源和基础设施的扩展已变得至关重要。AI技术对能源的需求正在不断攀升,如果无法扩展清洁能源和电网能力,美国的AI优势可能会受到制约。对此,白宫国家安全事务助理杰克·沙利文指出,美国需要在未来几年内迅速提升电力和数据中心的基础设施,以支持AI技术的发展。文件要求能源部、白宫办公厅和相关机构协调简化清洁能源和高容量光纤网络的建设流程。这一倡议尽管面临预算局限,但美国政府意在强调行政手段在推动该项目中的重要性。
为了保护美国的技术优势,文件还特别关注反间谍问题。文件指出,如果AI关键技术被对手窃取,美国数十亿美元的研发投资将面临严重威胁。为此,NSM将反间谍任务扩展到AI行业的关键企业,要求保护AI技术和知识产权不受外部威胁。文件还强调,通过增加资源和专门人力,美国国家安全部门将加大力度防范中国和其他对手国家的间谍活动,确保AI关键技术不被窃取。
二、推动国家安全机构广泛采用前沿AI系统
NSM的第二个目标是推动国家安全机构广泛采用前沿AI技术,提升国家安全任务的执行效率。文件指出,虽然美国在AI技术上拥有领先优势,但其潜力尚未完全转化为国家安全效益。为实现这一目标,NSM提出了三方面的政策变革。首先,调整人力资源政策,通过改革招聘和留用流程,使国家安全机构更具吸引力,能够招聘到具备AI技术的专业人才。其次,文件提出简化AI技术的采购与合作流程,使私营AI公司能够快速为国家安全任务提供支持。这一举措不仅提升了政府与私营企业的合作效率,也确保国家安全任务中的AI应用及时且合规。
此外,文件要求国防部和情报部门研究如何在现行隐私和公民自由的框架下,负责任地部署AI技术。AI应用的扩展使得隐私问题更为敏感,文件特别提出,相关部门在确保隐私合规的同时,应采取措施规避AI技术可能带来的风险。同时,文件还敦促联邦机构优化网络安全政策,以降低在采用AI技术时可能面临的新型网络威胁。
三、制定一套系统性的治理框架
《国家安全人工智能治理框架》作为NSM的补充文件,旨在从治理层面确保AI技术的安全和责任使用。该文件提出了四大支柱,即AI使用限制、高影响应用的风险管理、AI使用的清单与监控以及培训和问责。通过这四大支柱,文件为联邦机构提供了全面的AI治理指引。
首先,框架中概述了AI使用限制,明确哪些应用被禁止,哪些为“高影响”用途。特别是在自主和半自主武器系统上,文件参考了国防部指令,以保障AI使用的安全性和合规性。其次,对于高影响应用,框架规定了最低的风险管理要求,要求各联邦机构在框架发布后180天内落实相关风险管理措施。框架第三部分则规定了AI使用的清单与监控,要求各联邦机构设立首席AI官员,负责全面管理AI技术的应用和合规性。最后,框架提出了标准化的培训和问责要求,旨在确保所有与AI技术相关的工作人员具备必要的技能,并保障其在政策执行中的权利。
美国国家安全备忘录(NSM)发布后,在美国社会各界引起了广泛讨论。国家安全顾问杰克·沙利文在国防大学的讲话中肯定了人工智能(AI)在国家安全方面的巨大潜力,同时强调了迅速采取行动的重要性。沙利文指出,如果美国不在AI领域加快部署并发挥其已有的技术优势,可能会在竞争中失去宝贵的领先地位,尤其是在面对中国等战略对手时。
国家安全备忘录深化了拜登政府在人工智能方面的许多现有努力。来源:本·柯蒂斯/美联社
备忘录强调AI技术在国家安全方面的多种应用,包括网络安全、反间谍、后勤支持和军事行动。相关政府官员在NSM简报会中进一步指出,美国当前的AI创新主要由私营部门驱动,因此保持私营企业的技术优势尤为关键。信息技术产业委员会(ITI)总裁Jason Oxman称赞备忘录在增强国家安全和科技行业协作上的努力。他认为,备忘录明确了人工智能安全研究所和国家人工智能研究资源的作用,并呼吁政府在政策执行中继续依赖科技行业的专业知识,以确保科技与安全的相互支撑。
在国会方面,参议院情报委员会主席马克·R·沃纳对备忘录表示支持。他认为,备忘录展示了美国政府对人工智能在经济、国家安全和民主上的广泛影响力的深刻理解合作,制定更具针对性的战略措施,尤其在保护AI供应链安全方面。沙利文也呼吁国会采取进一步行动支持备忘录中的举措,包括为STEM毕业生提供更多签证便利,帮助推动美国的AI人才引进。此外,他还提到国会有责任确保《芯片与科学法案》的资金分配到位,以帮助国内技术行业应对来自中国的激烈竞争 。
然而,备忘录也引起了批评。美国公民自由联盟(ACLU)指出,政府在自我监管方面存在隐患。ACLU国家安全项目副主任帕特里克·图米认为,在涉及公众时,透明度和独立监督应当优先于政府内部的自我管理。他表示,对人工智能的监督机制若缺乏透明性,可能会让美国民众暴露在强大的技术风险之下。图米的言论反映出一些民权团体对于AI监管透明度的疑虑,认为独立的监督机制是平衡安全与隐私的关键。同时,Beacon Global Strategies副总裁Divyansh Kaushik认为,该备忘录从更广泛的国家安全角度出发,反映了美国国家安全概念在过去十年中的发展。他指出,备忘录涵盖了从国家科学基金会到国防部及情报部门的整个国家安全生态系统,充分显示出拜登政府对AI技术带来的机遇与风险的深刻认识。
美国大选对于国家安全备忘录 (NSM)
的实施意味着什么?
即将到来的2024年美国总统大选将对《国家安全备忘录》(NSM)的实施产生深远影响。NSM在拜登政府推动下出台,旨在强化AI技术在国家安全中的应用,提升美国在全球AI技术领域的领导地位。然而,选举结果可能将对政策的延续性和实施方向造成决定性的影响。
来源:Chip Somodevilla/Getty Images
如果民主党候选人、现任副总统卡马拉·哈里斯当选,预计将延续拜登政府的AI政策,确保AI政策的连续性。民主党主导下的政策框架已经推动了《芯片与科学法案》的实施,该法案提供530亿美元用于国内半导体制造、技术研发和人才培养,以增强美国在AI和高科技领域的自给自足能力。哈里斯上台后,可能会继续加大对科技领域的投资,并推动《国家安全备忘录》中规定的AI政策,以保障美国的技术主导地位。由于中国在AI领域的迅速崛起和全球竞争的激烈化,预计哈里斯会进一步强化AI的应用和发展,使其成为国家安全的重要组成部分。
如果共和党候选人唐纳德·特朗普再次上任,美国人工智能相关政策可能出现重大调整。特朗普曾明确反对联邦政府的某些监管措施,这可能意味着他会废除或修改现行的AI行政命令,尤其是在AI的安全和可信应用相关的部分。共和党的政策倾向于通过减少管制来激励私营企业的自主创新,可能会在AI发展上采取更宽松的管理策略。然而,特朗普在能源及基础设施上的立场可能为备忘录提供某些支持。他曾公开表示,希望在未来几年内迅速增加美国的电力容量,以支持AI和其他高耗能技术的发展。
NSM的全面实施不仅依赖于总统政策的延续,还需要国会和私营部门的协作。备忘录中明确了政府与私营企业的协作重要性,特别是AI创新主要由私营企业驱动的背景下。美国国家安全顾问杰克·沙利文在发布备忘录时特别强调,政府应加强与OpenAI、谷歌等公司的合作,以确保技术应用符合美国价值观和安全需求。此外,备忘录还鼓励国会加速科技立法的资金分配,以确保《芯片与科学法案》等相关法案为AI产业提供支持。如果国会继续在资金、资源和立法上支持AI发展,NSM有望保持其战略方向,帮助美国在AI领域保持全球领先地位。
(从左到右)众议院少数党领袖哈基姆·杰弗里斯、参议院少数党领袖米奇·麦康奈尔、参议院多数党领袖查克·舒默和众议院议长迈克·约翰逊。来源:Francis Chung/POLITICO
拜登政府在NSM中明确提出,AI的国家安全战略不仅仅关乎国内事务,还涉及与国际伙伴的合作。备忘录呼吁与盟国合作建立系统系的AI治理框架,以确保美国在AI安全应用和全球治理中的主导地位。如果哈里斯当选,她可能会继续推动与国际伙伴尤其是盟友的合作,将AI安全治理纳入多边机制。然而,若特朗普成为新的总统,人工智能治理层面的国际合作进程可能会放缓或发生较大的转变。特朗普政府在其首个任期内采取“美国优先”政策,这可能预示着他将在推动AI国际治理方面采取更为单边的方式。
[1]https://www.reuters.com/world/us/white-house-presses-govt-ai-use-with-eye-security-guardrails-2024-10-24/?utm_source.com
[2]https://www.techrepublic.com/article/ey-survey-election-2024/
[3]https://executivegov.com/2024/10/white-house-releases-national-security-memorandum-ai/
[4]https://fedscoop.com/ai-national-security-memo-avoid-squandering-lead/
[5]https://ny1.com/nyc/all-boroughs/technology/2024/10/24/white-house-issues-first-national-security-memorandum-on-ai
[6]https://www.csis.org/analysis/biden-administrations-national-security-memorandum-ai-explained
[7]https://www.politico.com/news/2024/10/24/biden-ai-policy-national-security-00185407
审核丨梁正 鲁俊群