五角大樓於週四宣佈啟動一項名為“智能體網絡”的新工具,旨在利用智能體人工智能持續掃描國防情報與作戰系統,在數秒內向美軍指揮官提供目標選擇方案。該系統通過智能體——即代表用戶執行任務的軟件實體——不間斷地分析情報數據,並將結果轉化為清晰呈現的選項。官方聲明強調,智能體網絡不會自主選定或打擊目標,確保指揮官始終掌握每一項決策的最終決定權。
該項目是五角大樓今年1月公佈的人工智能戰略中七項優先推進項目之一。主要承包商包括Lumbra和Palantir,其中Palantir已通過其“Maven智能系統”合同承擔了大量目標分析工作。智能體網絡的推出,反映出美軍正試圖將人工智能從輔助分析工具升級為能夠主動提供決策選項的作戰支持系統。
然而,對智能體當前能力的期望可能已超出技術現實。前SAP首席執行官維沙爾·西卡曾撰文指出,當前大型語言模型架構在處理複雜任務時存在根本性侷限。他引用計算理論中的“時間層級定理”解釋稱,Transformer模型以相同的機械公式處理難易程度不同的任務,每個令牌所能執行的操作次數有限。當任務複雜度超出模型可調用的令牌處理能力時,模型便無法避免產生“幻覺”,即生成看似合理但實際錯誤的結果。西卡警告,在需要高精度或解決非平凡複雜性的場景中,必須極度謹慎地應用大型語言模型。
與此同時,SINT實驗室創始人兼《智能體時報》編輯伊利亞·帕什科夫則認為不應低估智能體的潛力。他表示,智能體人工智能在今年已悄然脫離演示階段,開始編寫代碼、處理客服隊列、承擔金融和醫療領域的後臺工作,如今更涉足情報分析。帕什科夫觀察到,這些系統能將分析師數週的工作壓縮至一個下午完成,速度並非誇大其詞。但他也指出,智能體的能力帶來的風險遠超普通人工智能聊天工具用戶的認知。他舉例稱,已有私營企業在匆忙部署智能體後出現問題,某公司的智能體曾清空了一個實時生產數據庫。帕什科夫強調,真正的危險並非智能體愚蠢,而是一個自信的智能體在缺乏約束、日誌記錄或人類問責的情況下運行。
一名未直接參與智能體網絡項目的國防部情報安全官員透露,國防部多個辦公室和團隊已開始部署智能體系統,內部氛圍充滿熱情。該官員稱,利用國防部企業級能力讓人員自行構建智能體的機會非常多。但他也承認,追蹤每一個智能體的表現是一項重大挑戰,對所有智能體實施治理幾乎不可能實現。
智能體網絡的部署折射出軍事人工智能應用的核心矛盾:一方面是指揮官對決策速度的極致追求,另一方面是自主系統在可靠性、可解釋性與管控上的深層風險。當軟件智能體開始滲透到目標選擇這類高敏感作戰環節時,如何在算法效率與人類控制之間劃定清晰邊界,將成為決定該項目成敗的關鍵。