2025年被稱為“Agent 元年”,但只是把 Agent 做出來還不夠,還需要持續(xù)運營和全生命周期管理。
4月22日,在 FORCE LINK AI 創(chuàng)新巡展·深圳站,火山引擎發(fā)布 Agent Devops 體系、AI 數(shù)據(jù)湖服務(wù),幫助企業(yè)做好 Agent 開發(fā)和運維。會上,廣交數(shù)科、順豐等企業(yè),還分享了大模型在具體業(yè)務(wù)場景中的落地成果和實踐經(jīng)驗。
目前,豆包大模型已在汽車、智能終端、互聯(lián)網(wǎng)、金融、教育科研、零售消費等行業(yè)廣泛落地,覆蓋4億終端設(shè)備,如小米、OPPO、vivo、榮耀、聯(lián)想、三星等品牌;八成主流車企,如奔馳、寶馬、奧迪等;70%系統(tǒng)重要性銀行和數(shù)十家證券基金公司,如招商銀行、華泰證券等;近七成的 C9頂級高校和100多家科研院所,如中科院、北京大學(xué)等。
截至2025年3月底,豆包大模型日均 tokens 調(diào)用量已超過12.7萬億,是2024年12月的3倍,是一年前剛剛發(fā)布時的106倍。
火山引擎全棧AI服務(wù)
已落地千行百業(yè)
為了減少員工重復(fù)性工作、釋放人力潛能,廣交數(shù)科正在構(gòu)建企業(yè)數(shù)字化勞動力,打造生產(chǎn)級智能體。
通過火山引擎 HiAgent 平臺,廣交數(shù)科在合同審核、車輛維修等多個 AI 應(yīng)用場景中沉淀了實踐能力。作為技術(shù)支撐單位,廣交數(shù)科助力廣州公交集團率先制定 AI+三年行動方案、舉辦全國交通運輸行業(yè)首個 AI 智能體大賽、全國首個生產(chǎn)級 AI 員工批量“持證上崗”,分批次打造 AI 員工市場,率先探索“硅基員工”管理體系,讓 AI 真正走向?qū)嶋H生產(chǎn)環(huán)境。
未來,廣交數(shù)科還將與火山引擎持續(xù)深度合作,專注于企業(yè) Agent Store 和垂直大模型研發(fā),將企業(yè) AI 智能體中臺解決方案、通用價值型 AI 智能體、工具套件等相關(guān)成果面向銀行、證券、能源、住建、大交通等行業(yè)輸出,支撐企業(yè)快速實現(xiàn) AI 轉(zhuǎn)型、管理變革和競爭力重塑。
去年,順豐科技推出了針對物流行業(yè)的垂直領(lǐng)域大模型——豐語,在順豐的市場營銷、客服、收派、國際關(guān)務(wù)等業(yè)務(wù)板塊的二十余個場景中的落地實踐應(yīng)用。
而這背后,順豐借助火山引擎高性能訓(xùn)練框架 veTuner、火山引擎全自研的高效推理框架,進行了豐語大模型的訓(xùn)練與推理,相對開源框架性能提升30%、推理最高吞吐量提升5倍,實現(xiàn)研發(fā)提效。
此外,HiAgent 為順豐提供豐富的AI應(yīng)用工具和易用的業(yè)務(wù)定制 AI 智能體生產(chǎn)平臺,助力辦公、業(yè)務(wù)提效。例如,通過結(jié)合通用知識和順豐物流專業(yè)知識,提供 AI 助理;支持零代碼/低代碼打造大模型 AI 應(yīng)用,讓順豐每個業(yè)務(wù)同學(xué)都可以定制自己的 AI 應(yīng)用。目前已累計調(diào)用500萬次,提供智能體2,000+。
Agent Devops體系發(fā)布
HiAgent助力企業(yè)構(gòu)建生產(chǎn)可用的Agent
Agent 不是一次性搭建就完成了,而是數(shù)據(jù)、工程、模型、業(yè)務(wù)四者耦合、動態(tài)迭代的過程。
為此,火山引擎 HiAgent 平臺發(fā)布 Agent Devops 體系,為企業(yè)提供從 Agent 策略規(guī)劃、能力開發(fā)、效果評測、應(yīng)用發(fā)布、線上觀測到效果調(diào)優(yōu)的全生命周期管理,保障企業(yè) Agent 效果達(dá)到生產(chǎn)可用。
火山引擎 HiAgent 平臺 Agent Devops
例如,在策略規(guī)劃階段,火山引擎提供 AI 咨詢服務(wù),幫助企業(yè)制定體系化的 AI 路標(biāo)和商業(yè)目標(biāo)。
在應(yīng)用搭建階段,此次 HiAgent 升級應(yīng)用樣板間,支持合作伙伴發(fā)布 Agent 到應(yīng)用模板市場,并即將支持 MCP 協(xié)議;融合火山引擎最新大模型應(yīng)用防火墻能力,增強應(yīng)用安全性;通過場景聚合樣板間,將分散的場景模板串聯(lián)成端對端的流水樣板間,實現(xiàn)人與智能體、多智能體組成的場景應(yīng)用,并新增了政企類等行業(yè)應(yīng)用模板。
在應(yīng)用效果評測階段,HiAgent 提供模塊化、體系化、可靈活配置的評測工程流水線,支持多種評測對象、多模態(tài)多輪次評測集構(gòu)建,預(yù)置多種評估器,提供可視化的評測報告,為 Agent 調(diào)優(yōu)提供指導(dǎo)。
在應(yīng)用觀測階段,HiAgent 提供智能體和模型兩個層面的指標(biāo)監(jiān)控,以及提供完善的鏈路追蹤能力,將大模型調(diào)用過程從黑盒變?yōu)榘缀?真實還原用戶的使用場景和需求,讓效果可追溯、問題可歸因。
在交互使用階段,HiAgent 可以為企業(yè)提供1個智能體交互入口+N 個企業(yè)專屬智能體,讓一線員工能夠與企業(yè)內(nèi)部各類智能體實現(xiàn)高效協(xié)同。
AI數(shù)據(jù)湖服務(wù)發(fā)布
構(gòu)建智能數(shù)據(jù)新基建
數(shù)據(jù)是 Agent 落地的重要生產(chǎn)資料,傳統(tǒng)數(shù)據(jù)平臺面臨非結(jié)構(gòu)化數(shù)據(jù)處理能力不足、算力瓶頸、存儲分散等諸多挑戰(zhàn)。
火山引擎多模態(tài)數(shù)據(jù)湖解決方案是面向 AI 時代的智能數(shù)據(jù)新基建,完整覆蓋湖計算、湖存儲、湖管理、湖分析等功能場景,可幫助企業(yè)在數(shù)據(jù)建設(shè)全鏈路過程中,實現(xiàn)文本、圖像、音視頻等非結(jié)構(gòu)化數(shù)據(jù)資產(chǎn)的統(tǒng)一精細(xì)化管理,為模型預(yù)訓(xùn)練、后訓(xùn)練、 AI 應(yīng)用構(gòu)建與開發(fā)提供端到端的智能數(shù)據(jù)服務(wù)。
本次活動中,火山引擎發(fā)布了全新的火山引擎 AI 數(shù)據(jù)湖服務(wù)(Lake AI Service,簡稱 LAS)。作為多模態(tài)數(shù)據(jù)湖方案中的重要產(chǎn)品,LAS 能夠幫助客戶快速構(gòu)建新一代 AI 數(shù)據(jù)湖,高效存儲、管理和處理多模態(tài)數(shù)據(jù)(文本、圖像、音視頻等)。
在產(chǎn)品協(xié)同性上,LAS 鏈接了云上的多種基礎(chǔ)設(shè)施,同時可以和火山引擎近期發(fā)布的 veMLP 機器學(xué)習(xí)平臺、火山方舟平臺高效協(xié)同,支持?jǐn)?shù)據(jù)準(zhǔn)備、模型微調(diào)等場景,加速 AI 落地。
從實際客戶案例來看,某企業(yè)借助火山引擎 AI 數(shù)據(jù)湖服務(wù)和豆包大模型實現(xiàn)文本翻譯提效,數(shù)據(jù)處理上實現(xiàn)了零代碼操作,開發(fā)周期縮短70%,翻譯準(zhǔn)確率提升20%,資源成本降低80%以上。
隨著云計算、開源生態(tài)和模型優(yōu)化技術(shù)的發(fā)展,火山引擎攜手英特爾,以更加卓越的云計算服務(wù)性能和效率,令“算力普惠”逐漸成為現(xiàn)實。例如,火山引擎第四代通用計算型實例 g4il 搭載內(nèi)置有 AI 加速器「高級矩陣擴展」(AMX)的英特爾®至強®6性能核處理器,幫助開發(fā)者對模型進行性能優(yōu)化。雙方還基于 g4il 推出“開源大模型應(yīng)用-知識庫問答”應(yīng)用鏡像,支持快速完成大模型應(yīng)用開發(fā)環(huán)境搭建,在幾分鐘內(nèi)創(chuàng)建大模型應(yīng)用。 |