專題：第21屆中國(guó)國(guó)際金融論壇

　　第21屆中國(guó)國(guó)際金融論壇于12月19日-20日在上海召開，主題為“金融高質(zhì)量服務(wù)新質(zhì)生產(chǎn)力發(fā)展”。阿里云智能新金融行業(yè)首席架構(gòu)師兼資深總監(jiān)李佳出席并演講。

　　以下為演講實(shí)錄：

　　大家早上好，我今天分享的話題是：大模型時(shí)代AI Agent驅(qū)動(dòng)場(chǎng)景價(jià)值鏈重構(gòu)。探索 AI Agent 在金融領(lǐng)域的革新實(shí)踐，構(gòu)建開放可擴(kuò)展的 AI Agent 生態(tài)系統(tǒng)。

　　首先，讓我們一同探討大模型在未來(lái)的發(fā)展趨勢(shì)。過(guò)去一年里，業(yè)界對(duì)大模型基礎(chǔ)模型以及算力的競(jìng)爭(zhēng)尤為激烈。展望未來(lái)兩年，我們預(yù)測(cè)AI技術(shù)的滲透率將超過(guò)70%，這標(biāo)志著AI將更加深入地融入各行各業(yè)，成為推動(dòng)社會(huì)進(jìn)步和經(jīng)濟(jì)發(fā)展的核心動(dòng)力。

　　2023-2024年AI應(yīng)用下載次數(shù)超過(guò) 60億次，C端用戶滲透率基本達(dá)到80%以上。放眼全球市場(chǎng)，基于IDC報(bào)告分析，在未來(lái)3年全球生成式AI市場(chǎng)年復(fù)合增長(zhǎng)率達(dá)85.7%；到 2027 年超過(guò)45% 的企業(yè)將生成式AI來(lái)作為核心技術(shù)開發(fā)數(shù)字產(chǎn)品和服務(wù)，從而使收入增長(zhǎng)比競(jìng)爭(zhēng)對(duì)手翻一番。同時(shí)，在未來(lái)3年有將近三分之二的云端應(yīng)用將使用AI能力，升級(jí)為AI智能應(yīng)用。審視中國(guó)市場(chǎng)，在大模型方面依然是蓬勃發(fā)展的趨勢(shì)。有報(bào)告預(yù)測(cè)到2028年中國(guó)AI大模型行業(yè)的市場(chǎng)規(guī)模將突破千億元，五年行業(yè)符合增速將超過(guò)50%。

　　隨著大模型應(yīng)用和AI Agent智能體的快速發(fā)展，算力需求呈現(xiàn)出顯著的增長(zhǎng)趨勢(shì)，這與云計(jì)算的發(fā)展形成了相輔相成的關(guān)系。首先Scaling-Law大力出奇的鐵律依然有效，GPT-4訓(xùn)練使用了2.5萬(wàn)張A100 GPU算力，GPT-5將使用5萬(wàn)張H100 GPU卡，十萬(wàn)卡集群已經(jīng)出現(xiàn)。其次在AI服務(wù)器采購(gòu)方面，2022年AI服務(wù)器采購(gòu)只占整體服務(wù)器采購(gòu)15%，2024年第二季度AI服務(wù)器整體采購(gòu)率占30%，不到兩年的時(shí)間翻了一番。

　　AI Agent將會(huì)成為推動(dòng)AI技術(shù)革命的關(guān)鍵力量。隨著時(shí)間的推移，大模型的一些局限性開始顯現(xiàn)，AI Agent作為新的研究方向，開始受到越來(lái)越多關(guān)注。什么是AI Agent？比較經(jīng)典的一個(gè)定義是前OpenAI的研究主管Lilian Weng給出的定義：AI Agent包含大模型、規(guī)劃、記憶、工具使用。復(fù)旦大學(xué)的NLP團(tuán)隊(duì)給出更加簡(jiǎn)單的定義：大腦、感知、行動(dòng)，AI Agent通常被翻譯成AI智能體、AI助理、AI代理，我認(rèn)為更通俗理解是AI專家、數(shù)字專家，我們身邊將會(huì)有越來(lái)越多AI專家、數(shù)字專家出現(xiàn)在各業(yè)務(wù)場(chǎng)景中協(xié)助或替代人類的工作。Open AI 2024年七月內(nèi)部會(huì)議中，把人工智能未來(lái)發(fā)展等級(jí)定義為5級(jí)：第1級(jí)是ChatBot 聊天機(jī)器人，在智能客戶場(chǎng)景已經(jīng)廣泛應(yīng)用；第2級(jí)是具備人類水平問(wèn)題解決能力的推理者，應(yīng)用場(chǎng)景是企業(yè)智能知識(shí)庫(kù)、細(xì)分場(chǎng)景的專業(yè)小助手，企業(yè)智能知識(shí)庫(kù)是大多數(shù)金融機(jī)構(gòu)面向內(nèi)部業(yè)務(wù)人員試點(diǎn)落地的第一個(gè)大模型應(yīng)用。第3級(jí)是AI Agent智能體，將會(huì)在千行百業(yè)的不同場(chǎng)景中落地為AI投研專家、AI程序員、自動(dòng)駕駛員等智能應(yīng)用。能夠看到，2025年將是AI智能體元年。

　　2023年4月云棲大會(huì)上阿里宣布所有產(chǎn)品未來(lái)將接入“通義千問(wèn)”大模型，進(jìn)行全面改造，包括天貓、淘寶、釘釘、天貓精靈、閑魚、盒馬等產(chǎn)品。在今天回顧來(lái)看，這張就是針對(duì)阿里全面擁抱AI，阿里AI Agent智能體生態(tài)大圖，在圖中可以看到菜鳥中鄉(xiāng)村助理、站長(zhǎng)助手等AI專家應(yīng)運(yùn)而生。釘釘中更多融入大模型能力，會(huì)議助理能幫我們做會(huì)議紀(jì)要總結(jié)會(huì)議重點(diǎn)，明確會(huì)議里提到的下一步工作計(jì)劃和待跟蹤事項(xiàng)等；用釘釘智能文檔畫腦圖，AI智能創(chuàng)作功能，可以自動(dòng)完成思路節(jié)點(diǎn)擴(kuò)展，給出更多思路建議。釘釘智能文檔里的內(nèi)容，會(huì)通過(guò)大模型做訓(xùn)練，生成智能問(wèn)答助理，更好的拓展我們的知識(shí)邊界。

　　金融行業(yè)AI Agent智能體生態(tài)正在蓬勃發(fā)展，伴隨生態(tài)發(fā)展，正在驅(qū)動(dòng)應(yīng)用開發(fā)范式、模型范式、基礎(chǔ)設(shè)施架構(gòu)的深刻變革。前兩年做基礎(chǔ)設(shè)施選型時(shí)，金融行業(yè)更多關(guān)注云平臺(tái)、CPU算力的選型，隨著AI技術(shù)的引入，基礎(chǔ)設(shè)施將革新升級(jí)為“云+AI”智能算力，更多關(guān)注GPU選型、GPU異構(gòu)技術(shù)管理等。隨著大模型技術(shù)的引入，我們會(huì)發(fā)現(xiàn)在數(shù)據(jù)中臺(tái)這層變得更簡(jiǎn)潔，數(shù)據(jù)工具鏈將圍繞著大模型的預(yù)訓(xùn)練、微調(diào)、智能問(wèn)數(shù)等能力演進(jìn)，之前我們做數(shù)據(jù)中臺(tái)關(guān)注“采、建、管、用，盤、平、治、享”的能力，現(xiàn)在更關(guān)注怎么做大模型微調(diào)、怎么做prompt提示詞工程，怎么做RAG，各種新知識(shí)應(yīng)運(yùn)而生。隨著數(shù)據(jù)中臺(tái)被大模型改變，業(yè)務(wù)中臺(tái)也會(huì)越來(lái)越智能化，之前業(yè)務(wù)中臺(tái)圍繞價(jià)值鏈、流程組、流程、任務(wù)、步驟進(jìn)行構(gòu)建，這些業(yè)務(wù)服務(wù)或模塊組件，通過(guò)大模型能力將升級(jí)為多個(gè)AI Agent智能體，嵌入到業(yè)務(wù)場(chǎng)景中支撐場(chǎng)景價(jià)值鏈的重構(gòu)，在AI Agent應(yīng)用層我只是列舉了阿里云落地的20多個(gè)AI Agent，如：營(yíng)銷多智體（由營(yíng)銷活動(dòng)策劃、定價(jià)政策問(wèn)答、報(bào)價(jià)方案調(diào)整等Agent組成）、投研多智體、非金的文旅多智體等。在我們成功實(shí)施的眾多AI項(xiàng)目中，已有上百個(gè)AI Agent順利落地，并取得了顯著的業(yè)務(wù)成效。這些AI Agent不僅提升了運(yùn)營(yíng)效率，還為客戶創(chuàng)造了實(shí)實(shí)在在的價(jià)值，推動(dòng)了業(yè)務(wù)的持續(xù)增長(zhǎng)和創(chuàng)新。

　　舉個(gè)例子，AI Agent金融多智體應(yīng)用，正推動(dòng)著產(chǎn)業(yè)金融服務(wù)升級(jí)。在供應(yīng)鏈金融、產(chǎn)業(yè)金融業(yè)務(wù)過(guò)程中，往往面臨著行業(yè)差異大、專家經(jīng)驗(yàn)成本高，對(duì)行業(yè)的理解高度依賴專家經(jīng)驗(yàn)沉淀；數(shù)據(jù)碎片化，需從海量、碎片化、成分復(fù)雜的數(shù)據(jù)中挖掘可用數(shù)據(jù)，刻畫小微經(jīng)營(yíng)情況；信貸業(yè)務(wù)風(fēng)險(xiǎn)把控有一定滯后性等難題。通過(guò)大模型能力，某互聯(lián)網(wǎng)銀行創(chuàng)新構(gòu)建了多個(gè)Agent專家。通過(guò)領(lǐng)域經(jīng)驗(yàn)庫(kù)沉淀構(gòu)建了產(chǎn)業(yè)鏈構(gòu)建Agent，自動(dòng)完成產(chǎn)業(yè)鏈資產(chǎn)算法任務(wù)。通過(guò)互聯(lián)網(wǎng)搜索、文檔智能、RAG技術(shù)形成行業(yè)經(jīng)驗(yàn)沉淀，構(gòu)建了更智能的產(chǎn)研Agent專家。通過(guò)資產(chǎn)語(yǔ)義化、畫像評(píng)測(cè)、NL2范式、數(shù)據(jù)解讀能力，構(gòu)建了畫像Agent，提升企業(yè)客戶畫像生成的效率。通過(guò)智能問(wèn)數(shù)、智能解讀、分析經(jīng)驗(yàn)沉淀、構(gòu)建了業(yè)務(wù)分析Agent，生成業(yè)務(wù)分析觀點(diǎn)，助力業(yè)務(wù)策略制定，提前規(guī)避業(yè)務(wù)風(fēng)險(xiǎn)。通過(guò)大模型技術(shù)，該行構(gòu)建了產(chǎn)業(yè)鏈全鏈路的AI Agent小分隊(duì)，可秒級(jí)生成小微客戶經(jīng)營(yíng)畫像，全鏈路任務(wù)復(fù)刻率達(dá)到60%，業(yè)務(wù)效能提升10倍。

　　剛才講到應(yīng)用、平臺(tái)、模型、算力，每一層的技術(shù)架構(gòu)都在重構(gòu)。

　　應(yīng)用層，在AI時(shí)代應(yīng)用開發(fā)范式在向著AI原生應(yīng)用架構(gòu)演進(jìn)。底層算力從CPU升級(jí)到GPU芯片。數(shù)據(jù)中臺(tái)引入大模型能力，微服務(wù)演化成AI Agent，應(yīng)用開發(fā)過(guò)程中，用戶交互界面也發(fā)生轉(zhuǎn)變。用戶交互界面首先調(diào)用大模型的能力對(duì)用戶意圖進(jìn)行理解，利用像阿里云通義點(diǎn)金這樣的AI Agent平臺(tái)，進(jìn)行prompt提示詞優(yōu)化、RAG檢索增強(qiáng)、對(duì)話記憶處理等調(diào)用大模型與客戶進(jìn)行交互，完成力所能及的基本業(yè)務(wù)處理和操作，在進(jìn)一步明確意圖之后，通過(guò)算法進(jìn)行流程調(diào)度，通過(guò)API接口調(diào)度原有微服務(wù)、原有業(yè)務(wù)服務(wù)的能力實(shí)現(xiàn)業(yè)務(wù)操作處理。以手機(jī)銀行轉(zhuǎn)賬功能為例，傳統(tǒng)銀行轉(zhuǎn)賬功能普遍是打開手機(jī)銀行App，輸入賬號(hào)、金額、密碼等信息進(jìn)行轉(zhuǎn)賬操作。以AI驅(qū)動(dòng)的銀行，打開AI原生手機(jī)銀行App，與客戶進(jìn)行語(yǔ)音式交互，當(dāng)用戶需要辦理轉(zhuǎn)賬業(yè)務(wù)時(shí)，AI首先分析用戶的歷史交易習(xí)慣，快速識(shí)別常用聯(lián)系人，并提供一鍵轉(zhuǎn)賬的便捷操作。對(duì)于新聯(lián)系人，AI將協(xié)助用戶快速錄入轉(zhuǎn)賬信息，如收款人姓名、賬號(hào)和轉(zhuǎn)賬金額等，并引導(dǎo)用戶完成安全驗(yàn)證，確保轉(zhuǎn)賬交易的安全性和準(zhǔn)確性。因此，我們能夠預(yù)見未來(lái)兩三年內(nèi)，純語(yǔ)音的交互式金融App將會(huì)出現(xiàn)，打開一家金融機(jī)構(gòu)的App可能只有一個(gè)語(yǔ)音對(duì)話框，先是利用大模型能力對(duì)用戶語(yǔ)義進(jìn)行意圖理解，之后通過(guò)算法做流程智能編排，分發(fā)給各類AI數(shù)字專家（轉(zhuǎn)賬Agent、信貸Agent、財(cái)富管理Agent等）進(jìn)行金融業(yè)務(wù)操作。

　　平臺(tái)層，更多關(guān)注如何去用更短的時(shí)間、更高效率開發(fā)AI Agent智能體。大模型應(yīng)用創(chuàng)新平臺(tái)，開啟了應(yīng)用、服務(wù)新范式。阿里云通義點(diǎn)金AI Agent應(yīng)用研發(fā)平臺(tái)，可快速構(gòu)建具備金融行業(yè)場(chǎng)景化智能化的創(chuàng)新應(yīng)用，可在數(shù)分鐘之內(nèi)創(chuàng)新構(gòu)建出AI Agent應(yīng)用。加持阿里云百煉平臺(tái)的能力，模型中心可提供豐富多元的大模型供給；提供大語(yǔ)言、多模態(tài)等多元模型可選擇；同時(shí)支持三方的開源、閉源模型接入。支持更高性能的模型調(diào)用服務(wù)，高響應(yīng)、高并發(fā)的模型調(diào)用服務(wù)，提供極致調(diào)用體驗(yàn)。應(yīng)用中心可提供高效的智能體應(yīng)用開發(fā)組件；提供完整的應(yīng)用創(chuàng)建流程，支持使用開放架構(gòu)創(chuàng)建智能體應(yīng)用，集成prompt提示詞優(yōu)化工具、流程管理工作流、插件等能力。測(cè)評(píng)中心可支持對(duì)模型的有效測(cè)評(píng)等。

　　模型層，基模的選擇非常重要，我聽到剛才某證券公司分享的代碼大模型的案例中的疑問(wèn)，代碼大模型為什么業(yè)界聽說(shuō)能夠達(dá)到20%~30%以上的代碼采用率，但是自己實(shí)際測(cè)試效果僅有10%？我認(rèn)為這里面最深層次的原因在于對(duì)基模的選型，阿里云基于通義千問(wèn)基礎(chǔ)模型訓(xùn)練的代碼大模型通義靈碼，提供代碼智能生成、研發(fā)智能問(wèn)答能力，經(jīng)過(guò)對(duì)代碼庫(kù)的訓(xùn)練學(xué)習(xí)和調(diào)優(yōu)，代碼采用率可達(dá)到至少30%以上。就和建設(shè)摩天大樓一樣，基礎(chǔ)不牢地動(dòng)山搖，基模選擇不好，建設(shè)效果自然不會(huì)好，后期想通過(guò)工程化能力做提升事倍功半，基礎(chǔ)模型選型好則事半功倍。秉承著全規(guī)格、多模態(tài)、廣開源的技術(shù)發(fā)展策略，阿里云通義實(shí)驗(yàn)室自研了一系列技術(shù)領(lǐng)先的AI大模型，包括通義千問(wèn)大語(yǔ)言模型和通義萬(wàn)象多模態(tài)大模型等，同時(shí)構(gòu)建了生態(tài)繁榮的ModelScope魔搭開源社區(qū)。我們不僅擁有大尺寸和小尺寸模型，還提供了全規(guī)格、多模態(tài)的模型，兼顧場(chǎng)景、性能和成本的選擇。借助開源版大模型可進(jìn)行場(chǎng)景驗(yàn)證，使用商業(yè)版模型將擁有上線保障和商業(yè)技術(shù)支持。大小尺寸模型結(jié)合，可平衡效果與成本。復(fù)雜場(chǎng)景用大尺寸，單一特定領(lǐng)域可選用小尺寸模型。語(yǔ)言、圖片、視頻等多模態(tài)融合，可滿足跨模態(tài)場(chǎng)景需求。開源的通義千問(wèn)72B大模型已經(jīng)在眾多金融機(jī)構(gòu)被廣泛使用，歡迎大家到開源社區(qū)下載試用，探索更多的業(yè)務(wù)創(chuàng)新場(chǎng)景。

　　算力層，AI時(shí)代數(shù)字新基建已經(jīng)從“云”升級(jí)為“云+AI”智能基礎(chǔ)設(shè)施，支持國(guó)產(chǎn)化、一云多芯、一云多算力的技術(shù)能力，支撐金融機(jī)構(gòu)用大模型能力在各個(gè)業(yè)務(wù)場(chǎng)景中重塑價(jià)值鏈。AI Agent的爆發(fā)將帶來(lái)越來(lái)越多的推理計(jì)算場(chǎng)景涌現(xiàn)，隨著金融AI Agent智能體To C服務(wù)能力的不斷增強(qiáng)，在算力層將消耗更多的GPU推理算力。因此，建議金融機(jī)構(gòu)積極擁抱公共云、金融云的GPU算力資源，在監(jiān)管合規(guī)的前提下，充分發(fā)揮其靈活性、成本效益和技術(shù)優(yōu)勢(shì)，快速獲得和應(yīng)用AI創(chuàng)新技術(shù)并大幅降低GPU算力的使用成本和費(fèi)用，全面推動(dòng)智能化轉(zhuǎn)型，提升核心競(jìng)爭(zhēng)力。

　　我們期待與各界伙伴攜手合作，共同迎接AI時(shí)代的到來(lái)，共創(chuàng)智能金融的美好未來(lái)。

　　以上是我今天的分享，感謝大家的聆聽！

　　新浪聲明：所有會(huì)議實(shí)錄均為現(xiàn)場(chǎng)速記整理，未經(jīng)演講者審閱，新浪網(wǎng)登載此文出于傳遞更多信息之目的，并不意味著贊同其觀點(diǎn)或證實(shí)其描述。