五角大楼于周四宣布启动一项名为“智能体网络”的新工具,旨在利用智能体人工智能持续扫描国防情报与作战系统,在数秒内向美军指挥官提供目标选择方案。该系统通过智能体——即代表用户执行任务的软件实体——不间断地分析情报数据,并将结果转化为清晰呈现的选项。官方声明强调,智能体网络不会自主选定或打击目标,确保指挥官始终掌握每一项决策的最终决定权。
该项目是五角大楼今年1月公布的人工智能战略中七项优先推进项目之一。主要承包商包括Lumbra和Palantir,其中Palantir已通过其“Maven智能系统”合同承担了大量目标分析工作。智能体网络的推出,反映出美军正试图将人工智能从辅助分析工具升级为能够主动提供决策选项的作战支持系统。
然而,对智能体当前能力的期望可能已超出技术现实。前SAP首席执行官维沙尔·西卡曾撰文指出,当前大型语言模型架构在处理复杂任务时存在根本性局限。他引用计算理论中的“时间层级定理”解释称,Transformer模型以相同的机械公式处理难易程度不同的任务,每个令牌所能执行的操作次数有限。当任务复杂度超出模型可调用的令牌处理能力时,模型便无法避免产生“幻觉”,即生成看似合理但实际错误的结果。西卡警告,在需要高精度或解决非平凡复杂性的场景中,必须极度谨慎地应用大型语言模型。
与此同时,SINT实验室创始人兼《智能体时报》编辑伊利亚·帕什科夫则认为不应低估智能体的潜力。他表示,智能体人工智能在今年已悄然脱离演示阶段,开始编写代码、处理客服队列、承担金融和医疗领域的后台工作,如今更涉足情报分析。帕什科夫观察到,这些系统能将分析师数周的工作压缩至一个下午完成,速度并非夸大其词。但他也指出,智能体的能力带来的风险远超普通人工智能聊天工具用户的认知。他举例称,已有私营企业在匆忙部署智能体后出现问题,某公司的智能体曾清空了一个实时生产数据库。帕什科夫强调,真正的危险并非智能体愚蠢,而是一个自信的智能体在缺乏约束、日志记录或人类问责的情况下运行。
一名未直接参与智能体网络项目的国防部情报安全官员透露,国防部多个办公室和团队已开始部署智能体系统,内部氛围充满热情。该官员称,利用国防部企业级能力让人员自行构建智能体的机会非常多。但他也承认,追踪每一个智能体的表现是一项重大挑战,对所有智能体实施治理几乎不可能实现。
智能体网络的部署折射出军事人工智能应用的核心矛盾:一方面是指挥官对决策速度的极致追求,另一方面是自主系统在可靠性、可解释性与管控上的深层风险。当软件智能体开始渗透到目标选择这类高敏感作战环节时,如何在算法效率与人类控制之间划定清晰边界,将成为决定该项目成败的关键。