在人工智能(AI)技術(shù)奔涌向前的浪潮中,AI代理(AI Agent)強(qiáng)勢(shì)崛起。AI代理,亦稱AI智能體,指能主動(dòng)調(diào)用各類工具以完成復(fù)雜任務(wù)的智能系統(tǒng)。從智能旅行助手到“數(shù)字員工”,它正深刻改變?nèi)藱C(jī)交互方式。2025年也被視為“AI代理元年”。英偉達(dá)首席執(zhí)行官黃仁勛在2025年10月于美國(guó)紐約舉辦的“全球市場(chǎng)的未來(lái)2025”活動(dòng)中,更將其喻為AI領(lǐng)域的下一場(chǎng)變革。
邁入2026年,AI代理將有怎樣的新表現(xiàn)?人類又該如何引導(dǎo)這項(xiàng)技術(shù),使其在紛繁復(fù)雜的技術(shù)時(shí)代行穩(wěn)致遠(yuǎn)?
自主執(zhí)行任務(wù)的“數(shù)字員工”
AI代理可代表用戶執(zhí)行操作,例如從郵件提取數(shù)據(jù)并生成報(bào)告、規(guī)劃行程、訂購(gòu)機(jī)票酒店等,核心目標(biāo)是承擔(dān)繁瑣耗時(shí)的日常任務(wù)。與ChatGPT等需逐步提示的生成式AI不同,AI代理能自主執(zhí)行任務(wù),猶如一位可獨(dú)立思考和行動(dòng)的“數(shù)字員工”。
據(jù)澳大利亞雜志《對(duì)話》網(wǎng)站報(bào)道,2024年底,Anthropic推出“模型上下文協(xié)議”,使開(kāi)發(fā)者能以標(biāo)準(zhǔn)化方式將大語(yǔ)言模型連接至外部工具,賦予模型超越文本生成的能力,為AI代理奠定了基礎(chǔ)。
另一轉(zhuǎn)折點(diǎn)出現(xiàn)在2025年4月:谷歌發(fā)布“Agent2Agent協(xié)議”更側(cè)重代理之間的溝通機(jī)制,最重要的是,兩者協(xié)議可協(xié)同運(yùn)作。此后,Anthropic與谷歌將協(xié)議捐贈(zèng)給開(kāi)源組織Linux基金會(huì),使其確立為開(kāi)放標(biāo)準(zhǔn),而非企業(yè)專屬使用。
AI代理迅速在消費(fèi)級(jí)市場(chǎng)落地。2025年中,涌現(xiàn)出多種“代理型瀏覽器”,將瀏覽器從被動(dòng)界面轉(zhuǎn)變?yōu)槟苤鲃?dòng)協(xié)助預(yù)訂、規(guī)劃安排的智能伙伴。
隨著各類AI代理不斷涌現(xiàn),投資市場(chǎng)也迎來(lái)爆發(fā)。據(jù)預(yù)測(cè),AI代理市場(chǎng)規(guī)模將從2024年的51億美元增長(zhǎng)至2030年的471億美元。數(shù)據(jù)顯示,AI代理已成為2025年種子輪投資的主導(dǎo)方向。
是“技術(shù)顧問(wèn)”也是“主動(dòng)操盤(pán)手”
不過(guò),伴隨能力提升,AI代理的風(fēng)險(xiǎn)也日益凸顯。2025年9月,Anthropic披露其Claude Code代理被惡意用于發(fā)起自動(dòng)化網(wǎng)絡(luò)攻擊,涉及17個(gè)組織,包括醫(yī)院與政府機(jī)構(gòu)。攻擊者獨(dú)自利用AI代理完成了偵察、編寫(xiě)惡意軟件乃至勒索文案等全流程,使一人堪比一支黑客團(tuán)隊(duì)。Anthropic在報(bào)告中指出,此次事件中AI代理已不僅是“技術(shù)顧問(wèn)”,更是“主動(dòng)操盤(pán)手”。
這一事件敲響警鐘:AI代理在提升效率的同時(shí),也可能降低惡意活動(dòng)的門(mén)檻。
《對(duì)話》雜志網(wǎng)站強(qiáng)調(diào),AI代理既拓展了個(gè)人與組織的能力邊界,也放大了現(xiàn)有系統(tǒng)漏洞。曾經(jīng)孤立的文本生成模型,正轉(zhuǎn)化為相互連接、可使用工具且缺乏人工監(jiān)督的“行動(dòng)者”。
可靠性與信任度是關(guān)鍵
展望未來(lái),若干關(guān)鍵議題將影響AI代理的演進(jìn)。
其一是評(píng)估體系的革新。傳統(tǒng)基準(zhǔn)測(cè)試如同結(jié)構(gòu)化考試,適用于單一模型,但AI代理是由模型、工具、記憶與決策邏輯構(gòu)成的復(fù)合系統(tǒng)??茖W(xué)家更加關(guān)注對(duì)其決策過(guò)程而非結(jié)果進(jìn)行評(píng)估。
另一重點(diǎn)是治理機(jī)制。2025年底,Linux基金會(huì)成立“AI代理基金會(huì)”,旨在推動(dòng)建立共享標(biāo)準(zhǔn)與最佳實(shí)踐。若取得成功,該組織有望像萬(wàn)維網(wǎng)聯(lián)盟一樣,推動(dòng)構(gòu)建開(kāi)放、互操作的AI代理生態(tài)。
模型規(guī)模的爭(zhēng)論也愈發(fā)激烈。盡管大型通用模型備受關(guān)注,但更輕量、專業(yè)的模型往往在特定任務(wù)中表現(xiàn)更優(yōu)。隨著代理通過(guò)瀏覽器或工作流軟件走向大眾,模型選擇權(quán)正逐漸從實(shí)驗(yàn)室轉(zhuǎn)向用戶手中。
面臨安全與監(jiān)管挑戰(zhàn)
盡管前景樂(lè)觀,AI代理仍面臨諸多社會(huì)技術(shù)挑戰(zhàn)。
能耗方面,數(shù)據(jù)中心擴(kuò)張對(duì)能源電網(wǎng)與社區(qū)承載能力提出考驗(yàn);職場(chǎng)中,AI代理帶來(lái)的自動(dòng)化也引發(fā)崗位替代與員工監(jiān)控問(wèn)題;在安全層面,將模型與工具相連、疊加多層代理,會(huì)放大大語(yǔ)言模型仍未解決的風(fēng)險(xiǎn),如隱藏在開(kāi)放網(wǎng)絡(luò)中、可被代理讀取的惡意提示,可能導(dǎo)致系統(tǒng)執(zhí)行有害操作。
監(jiān)管亦是懸而未決的議題。相較于歐洲與中國(guó),美國(guó)對(duì)算法系統(tǒng)的規(guī)制仍顯寬松。隨著AI代理更深融入數(shù)字生活,關(guān)于準(zhǔn)入、問(wèn)責(zé)與限制的討論也亟待推進(jìn)。
應(yīng)對(duì)這些挑戰(zhàn),不僅需要技術(shù)突破,更呼喚嚴(yán)謹(jǐn)?shù)墓こ虒?shí)踐、縝密的系統(tǒng)設(shè)計(jì),以及對(duì)社會(huì)技術(shù)屬性的深刻認(rèn)知。唯有將AI代理視為融合技術(shù)與社會(huì)影響的復(fù)合系統(tǒng),而非單純軟件工具,才能構(gòu)建既創(chuàng)新又穩(wěn)健的智能未來(lái)。
友情鏈接: 政府 高新園區(qū)合作媒體
Copyright 1999-2025 中國(guó)高新網(wǎng)chinahightech.com All Rights Reserved.京ICP備14033264號(hào)-5
電信與信息服務(wù)業(yè)務(wù)經(jīng)營(yíng)許可證060344號(hào)主辦單位:《中國(guó)高新技術(shù)產(chǎn)業(yè)導(dǎo)報(bào)》社有限責(zé)任公司