导言
近期，随着 Mythos 模型的震撼亮相，Anthropic 已毫无争议地跻身美国乃至全球最顶尖的 AI 企业之列。然而，就是这样一家在技术上如日中天、并且为美国打击委内瑞拉和伊朗的军事行动提供了服务的本土科技巨头，在 3 月初却被五角大楼贴上通常只针对敌对势力的 “供应链风险”（supply chain risk）标签。当人工智能的强大能力与国家安全相交时，谁有权为这项充满不确定性的新技术划定红线？当算法足以突破传统法律的保护伞时，普通民众的隐私和安全又将面临怎样的威胁？
在本期 “罗汉严选” 中，我们希望通过最近的一档访谈节目来审视这些被美伊战争的头条新闻所淹没的 AI 治理问题。在节目中，主持人、《纽约时报》专栏作家埃兹拉・克莱因（Ezra Klein）与美国创新基金会（Foundation for American Innovation）高级研究员、前特朗普政府 AI 政策顾问迪恩・鲍尔（Dean Ball）就这些紧迫议题展开了深度对话。
在访谈对话的第一部分中，他们梳理了 AI 巨头 Anthropic 与美国国防部合作破裂的始末。冲突表面的导火索在于，Anthropic 坚持要求军方在使用其模型时必须遵守严格的限制条件，而五角大楼则认为私营企业无权干涉美国的军事决策。然而，在 Anthropic 特有的企业文化与特朗普政府的强硬立场背后，实则隐藏着更为深刻的社会隐忧。
克莱因和鲍尔在对谈中指出，现代国家的治理与其所处时代的技术条件息息相关，而 AI 的快速发展正在消解原有的技术与制度结合。就很多美国人所担心的隐私和监控问题来说，今天的 AI 已经可以帮助美国政府突破以往的人力瓶颈，通过对大规模商业数据的分析，合法地实现民众监控。这意味着，在不触碰现有法律的前提下，美国政府对内的权力触角已大为延伸。
面对 AI 技术的狂飙，美国国会的立法节奏和美国政府的 AI 部署进展，与硅谷的研发速度之间存在着巨大的时差。Anthropic 之所以陷入进退维谷的境地，很大程度上是因为他们试图用一纸商业合同，去弥合国家层面的法律和治理体系缺位。因此，这场顶尖 AI 企业与美国国防部的争端，不仅是一场军事承包纠纷，更是对全社会发出的警钟：面对即将被改写的技术条件，现有的制度亟待一场真正的系统性升级。
01
双方冲突的背景
埃兹拉·克莱因
当所有人的注意力都集中在伊朗时，在这场冲突的周围还发生了一个我们不应忽视的故事。这不仅关乎我们正在如何打这场战争，也关乎我们未来将如何打所有的战争。3 月 5 日，美国国防部长皮特・海格塞斯（Pete Hegseth）宣布，将终止联邦政府与人工智能公司 Anthropic 的合同，并将其列为 “供应链风险”（supply chain risk）。
“供应链风险” 通常针对那些极其危险、绝不能存在于美国军事供应链任何环节 —— 承包商或分包商 —— 的技术。这项认定此前曾被用于华为，但它从未被用来对付任何一家美国公司，更不要说是一家正在为美国军方提供服务的美国公司。Anthropic 的 Claude 系统曾被美军用于针对委内瑞拉前总统尼古拉斯・马杜罗（Nicolás Maduro）的突袭行动，并且据悉也正被用于美伊战争。
鲍尔，请带我们梳理一下时间线：美国国防部将 Anthropic 这样一家领先的美国 AI 公司贴上 “供应链风险” 的标签，是如何走到这一步的？
迪恩·鲍尔
实际上，时间线要追溯到拜登政府时期。2024 年夏天，当时的美国国防部与 Anthropic 达成了一项在机密环境（classified settings）中使用 Claude 的协议。AI 模型通常会被政府机构（包括国防部）用于非机密环境中，处理诸如审查合同、采购规范等繁琐的日常事务；但也有用于机密用途的时候，比如情报分析和实时支持军事行动。
Anthropic 是对这些国家安全用途最热衷的一家 AI 公司。他们与拜登政府达成协议，同意在附带一定使用限制（usage restrictions）的前提下开展合作。这些限制包括：禁止用于全自动致命武器（fully autonomous lethal weapons）、禁止用于国内的大规模监控（mass surveillance）。
到了 2025 年夏天，特朗普政府决定延续并扩大该合同，并保留了相同的限制条款。但从 2025 年秋天起，国防部的态度发生了变化。他们反对并不是这些限制条款的具体内容，而是存在使用限制本身。我怀疑这与埃米尔・迈克尔（Emil Michael）出任主管研究与工程的国防部副部长有关。
据我了解，在对委内瑞拉的马杜罗等采取突袭行动之前，国防部与 Anthropic 的这些争议就已经存在。由于那次突袭中使用了 Anthropic 的模型，这可能进一步加剧了双方的矛盾。然后就到了今天这个地步：合同破裂，国防部与 Anthropic 均认为无法再与对方继续合作。
埃兹拉·克莱因
我认为这里的核心问题在于惩罚措施。你能解释一下 Anthropic 现在面临的惩罚吗？
迪恩·鲍尔
国防部现在认为，原则上不应该存在这类限制，一家私营企业不应该拥有与战争相关的决定权，Anthropic 的 CEO 达里奥・阿莫迪（Dario Amodei）无权决定何时何地才能大规模使用自动化致命武器。这是国防部的事，是美国政府才能做出的决定。在这一点上，我同意特朗普政府的立场，他们拒绝接受这些限制是完全合理的。
如果双方无法就商业条款达成一致，通常的做法就是取消合同，终止交易和商业关系。但是，国防部却宣布将 Anthropic 列为供应链风险，这通常只用于外国敌对势力。在海格塞斯看来，所有的军事承包商都要禁止与 Anthropic 发生任何商业关系。如果真的这么做，那将对 Anthropic 的生存构成威胁。
我不认为国防部有这种法定权力。我认为他们能做的极限，就是规定任何国防部承包商在履行军事合同时都不得使用 Claude，但没有权力要求他们完全切断与 Anthropic 的商业往来。
02
AI 对政府能力的提升及其潜在后果
埃兹拉·克莱因
这里的信息量很大，让我们先从其中一点展开。我们大多数人平常使用聊天机器人的体验是，AI 在某些方面已经做得不错，但在另一些方面则还不太行。而在 2024 年 6 月拜登政府与 Anthropic 达成这项协议时，AI 的表现还远没有达到今天的水平。在这种情况下， Claude 已经开始被全面整合进美国的国家安全基础设施中去，甚至以某种方式参与了对马杜罗的突袭。那么，当开发 AI 的工程师都无法完全理解这些系统时，公众在多大程度上可以相信联邦政府会妥善使用 AI 呢？
迪恩·鲍尔
我们必须边做边学（learning by doing）。没有人确切地知道如何将先进的 AI 系统整合到组织中去，或者融入到现有的复杂工作流程中去，所以在这方面我们只能边做边学。
对于 AI 在国家安全领域所能发挥的作用，我是这样看的。首先，情报界长期存在一个问题，就是他们收集的数据量远远超出了实际的分析能力。我看过某一家情报机构的材料，说它每年收集的数据需要 800 万名情报分析师才能处理。那只是一家机构而已，它需要的人员就远比整个美国联邦政府的员工总数还要多。
那么 AI 能做什么呢？AI 可以将很多情报分析工作自动化 —— 比如转录文本并对其进行分析，或者处理信号情报（signals intelligence），有时为了正在进行的军事行动，这些工作需要实时完成等。这是一种应用场景。
由于 AI 模型在软件工程方面已经相当出色，另一类应用领域是在网络防御和网络攻击行动中，它们可以发挥巨大的作用。
埃兹拉·克莱因
另一个重要的问题是大规模监控。据我了解，在最后的关键时刻，这份合同是因为大规模监控问题而破裂的。国防部副部长迈克尔对 Anthropic CEO 阿莫迪说：我们可以同意这份合同，但你必须删除那些禁止我们使用 Claude 来分析批量收集的商业数据（bulk-collected commercial data）的条款。你能不能解释一下这是怎么回事？
迪恩·鲍尔
的确是这样。我想说，美国法律里充斥着各种法律专业术语（legal terms of art），并且包含了不少条文陷阱（gotchas），这在国家安全法规中尤为明显。虽然我们在日常语言中也经常使用这些词，但它们在法律法规中的定义往往与日常用法大相径庭。比如 “私人的”（private）、“机密的”（confidential）、“监控”（surveillance）等等，这些词汇在法律条文中的含义就不同于它们在自然语言（natural language）中的含义。
比如，“监控” 指的是对私人信息的收集或获取，但这并不包括可通过商业途径获取的信息。因此，如果政府购买了某一数据集然后对其进行分析，在法律层面这不一定构成监控。
埃兹拉·克莱因
所以，如果他们通过黑客方式进入我的电脑或手机，看我在互联网上做什么，那就是监控。如果他们到处安装摄像头，那也是监控。但如果他们是购买了这些摄像头的数据，然后再对这些数据进行分析，就不一定是监控了。或者，如果他们购买了关于我在网上所做一切的信息（比如从广告商那里），然后用这些信息拼凑出我的画像，这也不一定构成监控。
迪恩·鲍尔
是的。退一步讲，现在有海量的个人数据，你在谷歌上的搜索记录、你的智能手机定位数据，诸如此类。美国政府里之所以没有人真正去分析这些数据，并不是他们无法获取和处理，而是因为他们没有足够的人手，没有数百万分析人员去弄清楚普通大众都在干什么。
而 AI 为美国政府提供了一支具有无限扩展可能的劳动力大军。因此，每一条法律都可以被字斟句酌地严格执行，并且能对一切事物进行近乎完美的监控。这将是一个可怕的未来。
埃兹拉·克莱因
一般的美国民众会以为，在自己与暴政或无所不在的监控之间，存在着一个由法律保护所构筑的安全地带。但现在的一大恐惧就在于，这一安全地带不仅取决于法律保护，也是由于政府在过去缺乏能力去消化海量的公众信息。如果突然之间，在不改变任何法律的前提下，政府的能力发生了根本的改变，那么这些法律所允许的边界也就变了。
你刚才提到 “大规模监控”，或者任何形式的 “监控”，这是一个法律术语。但对于普通人而言，它指的是你是否处于一种被监视的生存状态。按我的理解，人们害怕的是，无论是现有的还是即将问世的 AI 系统，都将使得利用批量商业数据来描绘民众画像、追踪民众行为成为可能。这将使得美国政府在了解任何人、定位任何人方面的能力远超我们过去的认知和想象。由此引发一系列美国法律在过去并不需要考虑的隐私问题。现有的法律将无法承载当初制定它们时的初衷。
03
为什么偏偏是 Anthropic？
埃兹拉·克莱因
我认为这还反映了双方在文化上的一个重大差异。对于特朗普政府中的大多数人来说，AI 是一种常规意义上的能力扩张（normal expansion of capabilities）。
而 Anthropic 这家公司对 AI 技术将走向何方以及将变得多么强大，有自己非常明确的看法。他们相信自己正在构建一种前所未有的非常强大的技术，它的能力是现有法律所无法约束的。同时，他们对这种技术尚无法可靠地完成哪些任务也有清醒的认识。因此，Anthropic 担忧的是，目前还不能信任他们的系统去执行像全自动致命武器这样的任务，在当前的技术条件下不应该这么做，他们也不想对可能出现的灾难性后果负责。
我可以理解这种立场。如果我制造了一种强大、危险且充满不确定性的东西，而政府兴奋地买下它，想要将它用于可能深刻影响人们生活的用途时，我也会要求自己非常谨慎，以免卖给他们最终导致可怕错误的东西。因为到了那时，公众和政府都会把责任归咎于我。这似乎是一个被大家忽视的解释。
迪恩·鲍尔
你说的没错。在美国，有相当一部分人对国家权力深表怀疑。就我个人而言，如果我站在达里奥的位子上，我会觉得合同保护（contractual protections）可能毫无用处。如果我是个现实主义者，我会明白只要我把技术给了他们，他们很可能会随心所欲地使用它。所以，也许在法律保护到位之前，我根本不会向他们出售这项技术，而且我会大声地宣布这一点。我会呼吁美国国会就这方面的情况制定一部法律。这是我会采取的应对方式。
埃兹拉·克莱因
或许美国军方会和另一家公司合作。我一直很好奇，为什么 Anthropic 会如此早地匆忙进入这个领域，之前并没有其他公司愿意这么做。有一点很奇怪：他们是一群非常担心 “超级智能”（superintelligence）后果的人，同时他们又是正在拼命竞争、想最快把它造出来的人。在他们的实验室里，经常存在一种有意思的文化。一方面，他们对自己正在创造构建的东西感到有些恐惧。另一方面，他们又说服自己，必须成为创造和掌控这种新技术的人，因为他们才是那个真正担心安全问题、真正担心 AI 对齐问题的实验室。我想知道，在多大程度上是这种心理驱使他们最初介入这项业务的。
迪恩·鲍尔
他们原本不需要这么做，这是我的观点。Anthropic 经常被问到这个问题：“那你们为什么还要做这些？” 他们的回答基本上是：“既然这是不可避免的，那么我不入地狱，谁入地狱”。这是为什么我有点怀疑，他们是不是自找的这场麻烦。
埃兹拉·克莱因
这也是我对 Anthropic 的主要批评。我觉得，由于他们如此仓促地将 AI 技术投入国家安全用途，结果过早地惹祸上身了。毕竟在 2024 年他们最初与国防部签合同的时候，Claude 还没有能力做那么多有意思的事情。
04
技术进步与制度演变之间的时差
迪恩·鲍尔
如果我们把视野再放宽一点，可以说现代西方的整个技术官僚民族国家（technocratic nation-state）体系，是一个依赖于一定技术条件的制度复合体（technologically contingent institutional complex）。比如，如果当初没有印刷技术，没有以极低成本复制任何文字的能力，民族国家可能就不会出现。如果没有电信基础设施，它可能也不是我们今天看到这个样子。民族国家是建立在它所处时代的重大发明基础之上的。对于所有其他的机构来说，也同样如此。所有的机构和制度都依赖于一定的技术条件。
AI 以一种极其深刻的方式改变了我们原有的技术条件。这意味着以往的整个制度复合体将会以我们无法预测的方式被拆解和重建。今天我们谈论的问题只是这样一类更广泛更深刻的问题的一个缩影。在未来的几十年里，我们都将置身于这一类问题中。
我认为今天所谓的 AI 政策，过于关注要对 AI 系统和开发它们的公司采取何种针对具体对象（object level）的监管，而没有去思考更宏大的问题：“我们曾经的众多假设都被打破了，我们将如何应对？”
埃兹拉·克莱因
请举例说明什么是针对具体对象的监管，以及什么是你所说的那种更系统更宏大的法律法规？
迪恩·鲍尔
一项针对具体对象的监管，可以是要求 AI 公司进行算法影响评估、模型偏见评估、灾难性风险测试等等。这的确是我们需要考虑的一个重要层面，但这只是一部分问题。
美国法律体系的更大问题在于法律执行中的不完美（imperfect enforcement of the law）。我们拥有数量庞大的法规，在许多领域广泛得令人难以置信。而这一整个庞杂的法律体系之所以能够运作，一个重要的原因就在于政府并没有技术能力去整齐划一地执行这些法律。AI 带来的问题正在于，它使得法律的严格统一执行成为了可能。
埃兹拉·克莱因
我想播放一段达里奥的录音，他谈到了现有法律与 AI 监管的问题。
达里奥·阿莫迪（录音）
我其实赞同我们需要进行一次民主层面的对话（democratic conversation）。从长远来看，我认为这是国会的工作。如果美国政府购买关于美国人的位置、个人信息、政治面貌的批量数据来建立用户画像，并且现在有可能利用 AI 来对其进行分析，所有这些对国内进行大规模的监控行为，按照现有的法律居然都可能是合法的。这一事实似乎表明，司法机构对美国宪法第四修正案（即人身、住宅、文件和财产不受无理搜查和扣押的权利不得侵犯）的解释没有跟上时代，或者说是国会通过的法律没有跟上时代。所以，从长远来看，我们认为国会应该跟上技术发展的脚步。
埃兹拉·克莱因
你认为他在这点上是对的吗？或许这件事的积极结果是让国会意识到自己需要采取行动了？因为五角大楼以及整个国防安全系统在这方面推进的速度，已经远远快于国会。
迪恩·鲍尔
我首先想指出的是，当像达里奥・阿莫迪这样的人说 “从长远来看” 时，他的意思是大约一年之后。而在美国首都华盛顿，当政客们说 “从长远来看” 时，他们的意思大概是 10 到 15 年之后。所以，达里奥所谓的 “长远” 实际上指的是未来 6 到 12 个月，或者两到三年大概就算是极限了。
如果我们讨论的是很快就会发生的政策行动，那么我会觉得这将非常棒。如果这能引发一场真正的有意的对话，并在美国年度性的国防政策更新法案 —— 即《国防授权法案》（National Defense Authorization Act）—— 中有所体现，那我将感到非常高兴。如果在年底国会打算通过一项法律，将对 AI 技术实施一些合理且周全的限制措施，并让我们来准备一些法案文本草案 —— 我会非常乐意看到这一幕，我太期盼了。
但有一点我必须说，除了前面提到国家安全法规里到处都是文字陷阱外，这类立法在政治上面临的挑战，将远远超出任何人的想象。
在本场访谈的第二部分中，克莱因和鲍尔将更进一层，探讨今天的 AI 大模型是否已在训练中习得了一定的道德准则，从而能对包括政府在内的 AI 使用方行为做出自己的道德判断，并拒绝执行自己认为不道德的任务。欢迎关注后续内容发布。