News Hacker|极客洞察

1234 45 天前 twitter.com
😡美“Department of War”将Anthropic列为供应链风险,因其拒绝为军事解禁大规模监控与全自动杀伤
签了合同就能被总统一句话废掉?

🎯 讨论背景

争议起因于 Anthropic(一个训练与部署大型模型的 AI 实验室,Claude 为其对话模型)对与美国军方合作时的两条红线:禁止对美国公民的大规模国内监控与禁止在致命决策中移除“人类在回路”。公司声明称这两类用例未曾包含在它与国防部门的合同条款中,但国防高层在社交媒体上公开施压、宣布将其列为“供应链风险”。讨论还涉及 Palantir(数据情报与国防承包商)据称在一次委内瑞拉行动中使用 Claude 的报道、云托管平台(如 AWS Bedrock、Azure/Google Cloud)与 FedRAMP(联邦云安全合规)对供应链传染性的影响,以及法律工具如 10 USC 3252、Defense Production Act(DPA)与 NDAA 在此类争端中的作用。舆论把事件放在更大的政治与法治背景下,质疑行政权力、合同稳定性与军用 AI 的伦理边界。

📌 讨论焦点

合同与谈判争议

讨论集中在双方到底签了什么合同以及谁在违背原约定。许多评论指出 Anthropic 声称两类敏感用例“从未包含在与军方的合同中”,而国防方被指试图单方面修改已签合同条款或迫使重签。评论里有技术与法律细节争论:关键是原合同是否把 Anthropic 的 ToS 并入条款、ToS 是否在签约后被修改,以及 DoD 是否有权在不走立法程序下扩大制裁。多数人把这场冲突解读为政府在已签约基础上施压、并借公开舆论与行政权力逼迫让步。

[来源1] [来源2] [来源3] [来源4] [来源5]

Anthropic 的道德红线与技术立场

Anthropic 对两项红线表态明确:禁止对美国公民的大规模国内监控,以及在致命决策中取消“人类在回路(human‑in‑the‑loop)”的自动化。评论普遍认为这两条对内看似非常温和;公司并未完全拒绝国防合作,但拒绝被强制取消这些保护措施。也有评论指出第二条有“yet/尚不”语义——公司把技术可靠性作为时限,暗含未来若技术成熟可能会改变立场,这一点引发信任与算计的怀疑。部分讨论还提到相关新闻里 Palantir/委内瑞拉行动触发了这轮争议。

[来源1] [来源2] [来源3] [来源4]

政府权力滥用与威权化担忧

大量评论把此次举动解读为行政权力的恣意扩张或政治报复,而非纯粹的国家安全决策。批评者把将本国公司列入“供应链风险”并对其合作伙伴施压看作前所未有、近乎“黑帮式”的强制手段,且这是以前仅用于对外对手的标签。许多人把此案放到更广泛的政治图景里,认为这是该政府惯用的“改变规则以达目的”操作,并担忧法治与契约稳定性被长期侵蚀。支持方的国家主义话语与社交媒体威胁也被多处引用为证据。

[来源1] [来源2] [来源3] [来源4]

供应链与云服务的连锁经济影响

评论讨论了如果行政命令实施,对云托管商与国防承包链的级联冲击。许多人警告若 AWS、Microsoft Azure、Google Cloud 必须停止售卖或托管 Claude,相关 FedRAMP/政府部署会受挫,企业与高校的大量项目将被迫重构或重新竞标;有声音认为这种“病毒式”的禁用会把整个联邦承包生态推入混乱。另一方面也有观点认为超大云商在 Anthropic 上有巨额投资,短期内会寻求内部斡旋或法律对冲,不太可能自断前途。整体讨论既包含对短期现金流与合约风险的估算,也有关于长期市场格局与重构的忧虑。

[来源1] [来源2] [来源3] [来源4]

法律框架、先例与可诉性争议

评论细看了可适用的法律工具与前例:包括 10 USC 3252/DFARS 的“供应链风险”条款、Defense Production Act(DPA)、以及将来是否可能通过 NDAA 把禁令写入法律。有人指出按法律文本现有解释,供应链风险指定理论上只影响 DoD 合同相关用例,而不是立即禁止公司对所有客户提供服务,但行政宣称与实际效果可能更为广泛。多数评论预期此事会进入法庭程序并出现紧急禁制令(TRO),同时讨论了救济(损害赔偿、禁令)与行政滥用的司法检验路径。

[来源1] [来源2] [来源3] [来源4]

军事AI的技术与伦理风险

技术层面有大量讨论:LLM 的不确定性与可解释性使其直接用于致命决策存在明显风险,很多人认为真正的危险在于取消“人类在回路”的责任机制。讨论列举了实际战场趋势(如 FPV/自杀式无人机、loitering munitions 以及图像识别用于目标识别)并警告这些技术一旦用于终端致命行动就不可逆。另有评论追溯争端导火索到某次委内瑞拉突袭报道,称 Palantir 与 Claude 在行动中的关联促使 Anthropic 发问并引发冲突,凸显军民合作中对“离线/空洞化”控制权的敏感性。

[来源1] [来源2] [来源3] [来源4]

公众舆论、PR 与用户反应

许多个人与企业用户在社交讨论中表达对 Anthropic 坚持立场的支持,出现付费订阅与迁移厂商的即时意向。评论既有对 Anthropic 的称赞(把它当成“有骨气”的公司),也有批评认为这可能只是谈判策略与公关手段;有人提醒道公司在政治对抗中也在计算长期品牌与招聘成本。总体而言,公众舆论短期内对 Anthropic 有明显同情与经济支持倾向,但评论同时警告商业后果可能更复杂。

[来源1] [来源2] [来源3] [来源4]

📚 术语解释

Supply chain risk designation(供应链风险指定 / 10 USC 3252、DFARS): 国防采购与供应链审查中的行政标签,用来认定某公司或其产品可能被敌对方用于破坏、间谍或妨害国防的情形。法律文本与采购实现(如 DFARS)通常把影响限定在与 DoD 合同相关的用途,但实际行政与市场反应可能更广泛。

Defense Production Act (DPA)(国防生产法): 美国法授予行政部门在国家安全或紧急情况下动员、指令制造与资源分配的权力,评论里被提及为可能用于强制企业协作或重配置生产与服务的工具。

FedRAMP(联邦风险与授权管理计划): 联邦云服务安全合规框架,FedRAMP 认证(尤其 FedRAMP High)是云服务提供商向美国联邦机构交付云服务的前提条件,关系到云端模型是否能合法用于政府工作。

Human‑in‑the‑loop (HITL)(人类在回路): 一种安全与责任机制,要求在自动化系统做出致命或关键决策前必须有合格的人类确认或干预;Anthropic 在合同中对全自动杀伤的限制即以 HITL 为核心。

NDAA(National Defense Authorization Act,国防授权法案): 国会每年通过的立法工具,用于授权和规范国防预算与政策;将某公司或技术列入强制性禁令通常需要在此类国会立法中明确,而非仅靠行政指令。