战争比和平更有利可图,AI开发者们正急于通过向美国国防部提供多种未来战场所需的生成式AI工具来获利。
这一趋势的最新证据出现在上周,Claude AI的开发者Anthropic宣布,它将与军事承包商Palantir和亚马逊网络服务(AWS)合作,为美国情报机构和五角大楼提供Claude 3和3.5版本。
Anthropic表示,Claude将为美国国防和情报机构提供强大的快速数据处理和分析工具,从而使军方能够执行更快的行动。
专家们说,这些合作使国防部能够迅速采用先进的AI技术,而无需内部开发。
“与许多其他技术一样,商业市场总是比政府行动更快,集成速度也更快,”美国海军退役少将Chris Becker在接受Decrypt采访时说。“如果你看看SpaceX是如何从一个想法发展到实现海上助推器的发射和回收的,政府在同一时期可能还在进行初步设计审查。”
Developers Wrangle With the Role of AI On the Battlefield
The use of artificial intelligence in combat was debated on multiple fronts this week, with OpenAI on the hot seat at the World Economic Forum in Davos and Kratos Defense expanding its anti-drone and air defense technologies. During the international gathering of public and private sector leaders, OpenAI clarified its stance on the military use of its AI models after the company quietly changed its terms of service last week. These terms previously prohibited the use of ChatGPT for military purp...
Becker,前海军信息战系统司令部指挥官指出,将最初为政府和军事目的设计的先进技术整合到公共用途中并非新鲜事。
“互联网最初是作为国防研究计划而诞生的,之后才向公众开放,现在它已成为一种基本需求,”Becker说。
Anthropic只是最新一家向美国政府提供技术的AI开发商。
继拜登政府在10月发布关于推进美国在AI领域领导地位的备忘录后,ChatGPT的开发者OpenAI表示支持美国和盟国发展符合“民主价值观”的AI。最近,Meta也宣布将向国防部和其他美国机构开放其开源的Llama AI,以支持国家安全。
在7月的Axios国防未来活动上,退役陆军上Mark Milley指出,人工智能和机器人技术的进步将使AI驱动的机器人成为未来军事行动的重要组成部分。
“从现在起的10到15年内,我猜想美国军队中将有三分之一,也许是25%到三分之一是机器人,”Milley说。
鉴于AI在未来冲突中的关键作用,国防部在2025年的预算中请求拨款1432亿美元用于研究、开发、测试和评估,其中包括专门分配给AI和机器学习项目的18亿美元。
US and UK Spy Chiefs Enlist Generative AI in Intelligence Operations
As part of a declaration about how their two agencies collaborate, CIA Director Bill Burns and MI6 Chief Richard Moore outlined how their agencies are using AI to combat modern threats. The duo disclosed that both organizations are actively leveraging generative AI to enhance intelligence activities, especially to process huge amounts of intel, in a joint op-ed published by the Financial Times. "We are now using AI, including generative AI, to enable and improve intelligence activities—from summ...
保护美国和其盟友是首要任务。然而,AI Squared的首席执行官Benjamin Harvey指出,政府合作也为AI公司提供了稳定的收入、早期问题解决的机会,以及在塑造未来法规方面的作用。
“AI开发者希望利用联邦政府的用例作为学习机会,以了解这个领域特有的现实世界挑战,”Harvey告诉Decrypt。“这种经验使他们在预测未来5到10年私营部门可能出现的问题方面占据优势。
他继续说道:“这也使他们能够积极主动地塑造治理、合规政策和程序,帮助他们在政策制定和法规对齐方面保持领先。”
Harvey此前曾担任美国国家安全局首席运营数据科学家,他还说,开发者寻求与政府实体达成交易的另一个原因是为了确立自己在政府日益增长的AI需求中的核心地位。
随着数十亿美元被指定用于AI和机器学习,五角大楼正在大力投资以推进美国的军事能力,旨在利用AI技术的快速发展来占据优势。
虽然公众可能会想象AI在军事上的角色涉及自主、武装的机器人穿越未来战场,但专家们表示,现实情况远没有那么戏剧化,而是更加侧重于数据。
“在军事领域,我们主要看到的是高度先进的自主性和经典机器学习的元素,其中机器辅助决策,但这通常不涉及释放武器的决策,”Kratos Defense无人机系统部门总裁Steve Finley告诉Decrypt。“AI大大加速了数据收集和分析,以形成决策和结论。”
成立于1994年的圣地亚哥Kratos Defense与美国军方,特别是空军和海军陆战队进行了广泛的合作,以开发先进的无人系统,如Valkyrie战斗机。据Finley说,保持人类在决策循环中的关键作用是防止人们担心的“终结者”场景发生。
“如果涉及武器或机动有可能危及人类生命,人类决策者总是在循环中,”Finley说。“总是有一个安全保障——‘停止’或‘暂停’——用于任何武器释放或关键机动。”
Microsoft and Palantir to Upgrade AI in Defense and National Security
Microsoft and Palantir on Thursday announced a partnership to enhance the national security capabilities of U.S. defense and intelligence agencies with AI, which the company says is a first within classified systems. Palantir is a data analytics company known for providing software platforms that help organizations integrate and analyze large, complex datasets. Through this new collaboration, Palantir's technologies will be integrated with Microsoft's Azure cloud computing services, including ad...
尽管自ChatGPT推出以来生成式AI取得了长足的进步,但包括作家和科学家Gary Marcus在内的专家表示,当前AI模型的局限性使人们对该技术的实际有效性产生怀疑。
“企业发现,大型语言模型并不是特别可靠,”Marcus告诉Decrypt。“它们会产生幻觉,犯愚蠢的错误,这限制了它们的实际适用性。你不会希望一个会产生幻觉的系统来制定你的军事战略。”
Marcus以批评过度炒作的AI声明而闻名,他是一位认知科学家、AI研究人员,并撰写了六本关于人工智能的书籍。关于令人畏惧的“终结者”场景,Marcus也强调,完全由AI驱动的自主机器人将是一个错误,他回应了Kratos Defense高管的观点。
“在没有人类参与的情况下将它们用于战争将是愚蠢的,尤其是考虑到它们目前明显缺乏可靠性,”Marcus说。“我担心的是,许多人被这类AI系统所迷惑,而没有正视它们可靠性的现实。”
正如Marcus所解释的,AI领域的许多人认为,仅仅向AI系统提供更多数据和计算能力就会不断增强其功能——他认为这是一种“幻想”。
“在最近几周,有多家公司传言所谓的扩展定律已经失效,而且出现了收益递减的时期,”Marcus补充道。“所以我认为军方不应该不切实际地期望所有这些问题都能得到解决。这些系统可能并不可靠,而你不希望在战争中使用不可靠的系统。”
编辑:乔希·奎特纳和塞巴斯蒂安·辛克莱尔"