美国军方正与OpenAI和Anthropic等领先的人工智能开发者合作，寻求在不危害人类的情况下提升效率。他们希望人工智能能够帮助美国国防部更高效地识别、追踪和评估威胁。
美国国防部首席数字与人工智能官员德拉·普兰布博士在接受TechCrunch电话采访时表示，人工智能正在为国防部提供“显著优势”，特别是在识别、跟踪和评估威胁方面。
普兰布博士说：“我们显然在加快杀伤链执行的速度，以便指挥官能够在正确的时间保护我们的部队。”这里的“杀伤链”是指军事识别、追踪和消除威胁的过程，涉及复杂的传感器、平台和武器系统。普兰布博士指出，生成式人工智能在杀伤链的规划和策略制定阶段非常有用。
国防部与人工智能开发者的合作关系相对新。OpenAI、Anthropic和Meta在2024年调整了使用政策，允许美国情报和国防机构使用他们的AI系统，但仍然禁止这些AI系统伤害人类。
普兰布博士表示：“我们非常明确地说明了我们将如何以及不会如何使用这些技术。”
这导致了人工智能公司与国防承包商之间的“速配”过程。Meta于11月与洛克希德·马丁公司和博思艾伦咨询公司合作，将其Llama AI模型引入国防机构。同一月份，Anthropic与Palantir合作。12月，OpenAI与Anduril达成类似协议。Cohere也悄悄地将其模型部署到Palantir。
随着生成式人工智能在国防部中的应用证明其有用性，这可能会促使硅谷放松其AI使用政策，并允许更多的军事应用。
普兰布博士说：“生成式人工智能可以帮助我们模拟不同的场景。它允许你利用指挥官可用的全部工具集，并创造性地思考不同的应对方案和潜在权衡，在存在潜在威胁或一系列需要追捕的威胁的环境中。”
目前尚不清楚国防部使用的是哪种技术；即使是在杀伤链的早期规划阶段使用生成式人工智能似乎也违反了几家领先模型开发者的使用政策。例如，Anthropic的政策禁止使用其模型来生成或修改“旨在造成伤害或导致人类生命损失的系统”。
针对我们的问题，Anthropic将TechCrunch引向了其CEO达里奥·阿莫迪最近接受《金融时报》采访时的声明，他在声明中为自己在军事工作中的行为进行了辩护：
我认为，在防御和情报设置中不使用AI的想法是不合情理的。认为我们应该全力以赴地利用它来制造任何东西——包括末日武器——这种想法显然是同样疯狂的。我们正试图寻求一个中间地带，在负责任的情况下行事。
OpenAI、Meta和Cohere没有回应TechCrunch的要求评论。
生命与死亡：人工智能武器
近期，在国防科技领域爆发了一场关于是否应允许人工智能武器做出生死决策的辩论。有人认为美国军事已经拥有此类武器。
Anduril首席执行官帕尔默·卢克伊最近在X平台上指出，美国军事有很长的历史记录购买并使用自主武器系统如CIWS炮塔。
卢克伊说：“国防部已经购买并使用自主武器系统数十年了。它们的使用（以及出口！）是被充分理解、严格定义并由规则明确规定的，并且这些规则并非自愿性的。”
但当TechCrunch询问五角大楼是否购买并操作完全自主的武器——即没有人类参与——时，普兰布博士从原则角度拒绝了这一观点。
“不。”她说，“从可靠性和伦理的角度来看，我们将始终有人类参与决定动用武力，并且这包括我们的武器系统。”
“自主”这个词含义模糊，在科技行业引发了关于何时自动化系统——如AI编码代理、自动驾驶汽车或自动射击武器——真正独立的问题。
普兰布博士认为，“自主”系统独立做出生死决策的说法过于绝对化，并且现实情况远非科幻小说中的那样。“相反，她建议五角大楼使用的人工智能系统实际上是人机协作的结果，在整个过程中高级领导人都会做出积极决策。”
Pentagon中的人工智能安全
军方合作伙伴关系并没有得到硅谷员工的一致好评。去年，数十名亚马逊和谷歌员工因抗议其公司的以色列军事情报合同而被解雇并被捕，“项目尼莫斯”就是这些合同代号之一。
相比之下，人工智能社区对此反应较为平静。一些人工智能研究人员如Anthropic的埃van·胡宾格认为，在军队中使用人工智能是不可避免的，并强调直接与军队合作以确保他们正确行事的重要性。
胡宾格在11月发布的一篇LessWrong论坛帖子中表示：“如果你认真对待来自AI的重大风险，美国政府是一个极其重要的参与者需要与其互动；试图完全阻止美国政府利用AI并不是一个可行的战略。仅仅关注重大风险是不够的；你还需要防止政府以任何方式滥用你的模型。”
总结：本文探讨了美国国防部如何通过与领先的人工智能开发者合作来提升效率而不危害人类的问题。尽管存在争议和技术挑战，但这种合作关系正在逐步发展，并引发了关于自主性定义及安全性的广泛讨论。
