張翅:百煉成金,金融大模型探索與實(shí)踐
專(zhuān)題:第六屆中國(guó)金融科技論壇
2024年服貿(mào)會(huì)專(zhuān)題活動(dòng)之一——“第六屆中國(guó)金融科技論壇”于9月12日-13日在北京舉行。阿里云智能集團(tuán)副總裁、新金融行業(yè)總經(jīng)理張翅出席并演講。
張翅表示,金融行業(yè)擁抱大模型是一個(gè)不可避免的趨勢(shì)。得益于先前的數(shù)字化積累,金融機(jī)構(gòu)在接納大模型時(shí)比以往更有優(yōu)勢(shì)?;仡欉^(guò)去,阿里云已經(jīng)與多家金融機(jī)構(gòu)在云原生架構(gòu)方面展開(kāi)了合作?,F(xiàn)在看來(lái),AI時(shí)代的命題就像我們當(dāng)年面對(duì)云計(jì)算轉(zhuǎn)型一樣。我們?cè)敢庠谶@個(gè)過(guò)程中長(zhǎng)期與金融機(jī)構(gòu)合作,明確問(wèn)題所在,并直接面對(duì),將技術(shù)能力和先進(jìn)性與實(shí)際需求相匹配。??
以下為演講實(shí)錄:
尊敬的尚福林主席、邢煒會(huì)長(zhǎng),以及各位來(lái)自各大銀行的領(lǐng)導(dǎo)、專(zhuān)家們,非常榮幸能夠來(lái)到第六屆中國(guó)金融科技論壇,并有機(jī)會(huì)在這里分享我的觀點(diǎn)。曾經(jīng),我們對(duì)于“金融科技”這個(gè)詞有所保留,但隨著國(guó)家數(shù)字金融“五篇大文章”的提出,特別是在大模型技術(shù)快速崛起的背景下,金融科技再次成為了行業(yè)的焦點(diǎn)。
云計(jì)算與金融行業(yè)的深度融合,見(jiàn)證了從最初的“云+Fintech”理念到如今銀行核心系統(tǒng)向云原生架構(gòu)轉(zhuǎn)型的過(guò)程。這不僅是技術(shù)層面的變化,更是數(shù)字金融邁向智能化新時(shí)代的重要標(biāo)志。今天我們看到數(shù)字金融智能化的要求和發(fā)展會(huì)到一個(gè)新的階段,所以我今天分享的主題借用了我們阿里云一款產(chǎn)品的名字“百煉成金”。百煉是阿里云的一款模型工具,通義點(diǎn)金是通用大模型金融板塊的一個(gè)部分,這個(gè)名稱(chēng)寓意著中國(guó)金融行業(yè)從借鑒國(guó)外經(jīng)驗(yàn)到自主研發(fā),再到今天大模型技術(shù)的應(yīng)用,經(jīng)歷了一段百煉成金的過(guò)程。
阿里云的成立與發(fā)展緊密關(guān)聯(lián)著信息技術(shù)的進(jìn)步,金融行業(yè)也是如此。從古老的算盤(pán)計(jì)算,到信息化時(shí)代的曙光,再到數(shù)字化轉(zhuǎn)型的浪潮,直至今日智能化時(shí)代的到來(lái),這是一個(gè)循序漸進(jìn)、不斷演化的歷程。每一次技術(shù)革新及其與業(yè)務(wù)系統(tǒng)的融合,都遵循著特定的周期規(guī)律,正如Gartner技術(shù)成熟度曲線所展示的那樣,技術(shù)的發(fā)展通常伴隨著起伏波動(dòng)。
然而,隨著大模型技術(shù)的興起,我們迎來(lái)了金融行業(yè)的新篇章與全新挑戰(zhàn)。在短短的一兩年間,從GPU芯片的普及到算力基礎(chǔ)設(shè)施的構(gòu)建,再到大模型訓(xùn)練的廣泛應(yīng)用,技術(shù)革新迅速。盡管去年曾上演過(guò)“百模大戰(zhàn)”甚至“千模大戰(zhàn)”的熱鬧景象,但現(xiàn)在能夠獨(dú)立完成大模型訓(xùn)練的企業(yè)卻屈指可數(shù),這主要是因?yàn)樵谟布?、軟件乃至工程化方面存在著諸多難以逾越的障礙。
盡管大模型正處于蓬勃發(fā)展的階段,但其在業(yè)務(wù)應(yīng)用領(lǐng)域的突破性產(chǎn)品仍相對(duì)稀缺。相比之下,在互聯(lián)網(wǎng)時(shí)代,諸如社交軟件、游戲、支付工具等應(yīng)用曾引領(lǐng)潮流,它們以其獨(dú)特的功能吸引了大量用戶(hù)。然而,大模型至今尚未催生出類(lèi)似的現(xiàn)象級(jí)應(yīng)用。即便如此,我們依然堅(jiān)信,大模型技術(shù)將成為推動(dòng)未來(lái)經(jīng)濟(jì)發(fā)展的全新動(dòng)力源。
對(duì)于金融行業(yè)而言,此刻我們需重新審視數(shù)字化進(jìn)程。當(dāng)數(shù)字化轉(zhuǎn)型步入中期階段時(shí),我們應(yīng)當(dāng)思考下一步的方向。過(guò)往的經(jīng)歷包括系統(tǒng)遷移至云端、數(shù)據(jù)集中存儲(chǔ)、以及云原生架構(gòu)改造等。然而,我們是否真正創(chuàng)造了預(yù)期的業(yè)務(wù)價(jià)值?在評(píng)價(jià)數(shù)字化進(jìn)展時(shí),我們通常談?wù)摰氖菙?shù)字化的滲透率和深度。以數(shù)據(jù)為例,雖然銀行已完成了數(shù)據(jù)治理,但數(shù)據(jù)所發(fā)揮的作用并未達(dá)到我們的期望值。展望未來(lái),我們有理由相信,大模型或許是解鎖數(shù)據(jù)真正價(jià)值的關(guān)鍵所在。大模型的未來(lái)發(fā)展在很大程度上取決于系統(tǒng)的靈活性和數(shù)據(jù)的質(zhì)量,這兩者之間相輔相成。
此前有觀點(diǎn)認(rèn)為,所有的應(yīng)用程序都值得用大模型重寫(xiě)一次。例如,在自動(dòng)駕駛、終端設(shè)備以及設(shè)計(jì)師輔助軟件等領(lǐng)域,采用端側(cè)模型或車(chē)載模型后,智能化水平得到了顯著提升。此外,阿里云通過(guò)大模型重構(gòu)了自身的組織文化,利用大模型助手實(shí)現(xiàn)了銷(xiāo)售、技術(shù)、人力資源及財(cái)務(wù)等業(yè)務(wù)線的一體化管理。借助大模型的智能問(wèn)答功能,我們發(fā)掘了以往未能充分利用的數(shù)據(jù)價(jià)值,進(jìn)而洞察組織和個(gè)人在經(jīng)營(yíng)活動(dòng)中的效率與質(zhì)量。這讓那些不擅長(zhǎng)信息技術(shù)的HR主管和業(yè)務(wù)主管也能通過(guò)自然語(yǔ)言表達(dá)他們所需的數(shù)據(jù)信息,而不再局限于傳統(tǒng)的報(bào)表形式。???
阿里云早在多年前就開(kāi)始布局大模型的研究與開(kāi)發(fā)。正是由于在前期投入了大量的時(shí)間和精力,我們才能夠在最近一年多的時(shí)間里,在眾多追趕GPT技術(shù)潮流的競(jìng)爭(zhēng)者中脫穎而出。我們不僅將通義模型開(kāi)源,還積極與眾多金融機(jī)構(gòu)合作,取得了顯著成果。未來(lái),我們將持續(xù)不斷地推出新的模型能力和應(yīng)用,以期進(jìn)一步推動(dòng)行業(yè)發(fā)展。
我們并不盲目追求大模型的規(guī)模,而是更注重模型的實(shí)際應(yīng)用價(jià)值。因此,我們不僅推出了大型模型,還推出了小型模型版本,以適應(yīng)不同場(chǎng)景下的具體需求。我們認(rèn)為,未來(lái)的模型架構(gòu)應(yīng)該是大模型與小模型相結(jié)合,整個(gè)模型系列將會(huì)朝著更加多元化和靈活的方向發(fā)展。阿里云將持續(xù)投入資源,不斷進(jìn)化,致力于讓更多的企業(yè)能夠平等地使用大模型,并將其與自身業(yè)務(wù)場(chǎng)景緊密結(jié)合。
在模型定位方面,我們將其分為兩大類(lèi):一類(lèi)是技術(shù)模型。技術(shù)模型又細(xì)分為兩種:一是傳統(tǒng)意義上的基礎(chǔ)大語(yǔ)言模型;二是多模態(tài)模型。在金融行業(yè)中,多模態(tài)模型尤為重要,例如在處理客服語(yǔ)音、理賠、保險(xiǎn)、理財(cái)及信貸等業(yè)務(wù)時(shí),需要強(qiáng)大的多模態(tài)語(yǔ)言理解能力來(lái)生成和交互內(nèi)容。多模態(tài)語(yǔ)言模型無(wú)疑將是未來(lái)發(fā)展的重點(diǎn)之一,也是中美兩國(guó)在該領(lǐng)域競(jìng)爭(zhēng)的關(guān)鍵點(diǎn)。
曾經(jīng),我們?cè)O(shè)想為每一個(gè)行業(yè)定制一個(gè)大模型,但實(shí)際上這是不切實(shí)際的。行業(yè)大模型在準(zhǔn)確性和嚴(yán)謹(jǐn)性上有極高的要求,而其自身的迭代過(guò)程也充滿(mǎn)了矛盾。因此,我們現(xiàn)在更傾向于開(kāi)發(fā)基于行業(yè)數(shù)據(jù)語(yǔ)料和特定主題訓(xùn)練的小模型,并通過(guò)Agent框架進(jìn)行集成。這樣,可以將金融領(lǐng)域的專(zhuān)業(yè)知識(shí)整合到Agent中,同時(shí)將專(zhuān)業(yè)文檔數(shù)據(jù)和素材納入小模型,通過(guò)Agent的方式實(shí)現(xiàn)結(jié)合,從而推動(dòng)整個(gè)通義大模型家族的全面升級(jí)與開(kāi)放。
模型的能力在不斷發(fā)展和變化,通義千問(wèn)2.5在中文環(huán)境下,不僅在文本理解、文本生成、知識(shí)問(wèn)答與生活建議、閑聊與對(duì)話等方面超越了GPT-4,而且在安全風(fēng)險(xiǎn)防控上也表現(xiàn)出色。對(duì)于大模型而言,我們尤為重視四個(gè)核心能力:理解能力、邏輯推理、指令遵循以及代碼能力。
正如前面提到的,目前中國(guó)許多企業(yè)面臨著算力不足的問(wèn)題,難以進(jìn)行大規(guī)模的預(yù)訓(xùn)練。為了降低企業(yè)和開(kāi)發(fā)者選擇及應(yīng)用大模型的門(mén)檻,阿里云將持續(xù)推進(jìn)開(kāi)源策略。我們希望通過(guò)在大模型方向上的長(zhǎng)期戰(zhàn)略投入,推動(dòng)中國(guó)大模型領(lǐng)域的全面發(fā)展和技術(shù)進(jìn)步。
模型推理是AI規(guī)模化應(yīng)用的關(guān)鍵支撐。算力的成本效益直接影響應(yīng)用的規(guī)模,而對(duì)于延時(shí)敏感的應(yīng)用,則需要依賴(lài)于就近的推理服務(wù)。此外,面對(duì)用量波動(dòng)的情況,還需要具備彈性伸縮和高可用的服務(wù)。因此,云計(jì)算憑借其卓越的算力調(diào)度能力和大規(guī)模分布式特性,成為了打造高效模型訓(xùn)練與推理的理想平臺(tái)。???
阿里云“百煉”是一個(gè)超低延時(shí)的模型推理與服務(wù)平臺(tái)。在服務(wù)了多種類(lèi)型的客戶(hù)后,該產(chǎn)品獲得了長(zhǎng)足的發(fā)展。過(guò)去是統(tǒng)一的API,現(xiàn)在底層是異構(gòu)算力底座,通過(guò)自動(dòng)擴(kuò)縮容等諸多方法,幫助客戶(hù)在業(yè)務(wù)的波峰波谷中更高效的管理集群資源,達(dá)到降本增效,自動(dòng)模型壓縮,實(shí)現(xiàn)更少資源,更低時(shí)延,推理加速,實(shí)現(xiàn)動(dòng)態(tài)打包,流水執(zhí)行。如今,“百煉”推理框架已經(jīng)在多個(gè)行業(yè)得到了廣泛的應(yīng)用。當(dāng)然,我們也意識(shí)到金融行業(yè)有著獨(dú)特的私有化架構(gòu)需求,因此我們致力于確保技術(shù)應(yīng)用符合金融行業(yè)的合規(guī)標(biāo)準(zhǔn)。??? ??
如今,阿里云已成為眾多大模型企業(yè)的AI基礎(chǔ)設(shè)施。我們希望與更多大模型應(yīng)用平臺(tái)及公司合作,不僅限于原有的業(yè)務(wù)系統(tǒng)和數(shù)據(jù)處理能力,更希望在未來(lái)與傳統(tǒng)APP、汽車(chē)行業(yè)、制造業(yè)、物流業(yè)等各行各業(yè)建立聯(lián)系,共同探索AI技術(shù)的新方向。
在金融行業(yè),我們已經(jīng)進(jìn)行了大量的實(shí)踐。金融行業(yè)的數(shù)字化挑戰(zhàn)是全方位的。正如尚福林主席所提到的,如何提升服務(wù)的廣度和深度,提高服務(wù)質(zhì)量,金融大模型同樣扮演著重要角色。無(wú)論是服務(wù)于普通消費(fèi)者還是小微企業(yè),通過(guò)大模型可以提供更為精準(zhǔn)和個(gè)性化的服務(wù)體驗(yàn)。例如,小微企業(yè)提交財(cái)務(wù)或信貸報(bào)告時(shí),大模型能夠更準(zhǔn)確地理解其需求。對(duì)于中國(guó)企業(yè)出海,跨境貿(mào)易涉及的海關(guān)、報(bào)關(guān)和財(cái)務(wù)管理等內(nèi)容,都可以通過(guò)大模型來(lái)改善服務(wù)體驗(yàn)。此外,金融大模型正在重塑交易鏈路,從客戶(hù)服務(wù)到核保、核賠等環(huán)節(jié),都將通過(guò)自動(dòng)化處理來(lái)提升效率。我們提出的“數(shù)智化勞動(dòng)力”概念,是指通過(guò)技術(shù)替代低效、重復(fù)性的工作,而非簡(jiǎn)單地裁減人力,從而大幅提升工作效率。
同時(shí),我們也看到了基于大模型的新產(chǎn)品的不斷涌現(xiàn)。許多銀行已經(jīng)開(kāi)始嘗試用大模型重構(gòu)其移動(dòng)應(yīng)用。例如,螞蟻集團(tuán)在外灘峰會(huì)上發(fā)布的“支小寶”,就是一個(gè)典型例子。這款應(yīng)用將生活助理和財(cái)富助理等功能從支付寶的傳統(tǒng)界面中剝離出來(lái),轉(zhuǎn)變?yōu)槿碌拇竽P徒换ナ绞謾C(jī)銀行APP。在這個(gè)應(yīng)用中,無(wú)論是查詢(xún)個(gè)人資產(chǎn)還是進(jìn)行交易操作,用戶(hù)都可以通過(guò)自然語(yǔ)言交互獲得個(gè)性化服務(wù),不再受限于傳統(tǒng)的點(diǎn)擊導(dǎo)航模式。
金融大模型還將重構(gòu)金融團(tuán)隊(duì)的運(yùn)作方式。利用大模型的學(xué)習(xí)和泛化能力,可以模擬頂級(jí)金融專(zhuān)家的思維方式,從而減少對(duì)資深專(zhuān)家的依賴(lài)。通過(guò)這種方式,企業(yè)的經(jīng)營(yíng)文化和管理模式也可以得以沉淀和傳承。
最終,這些變革將減少公司的事務(wù)性工作負(fù)擔(dān),提升創(chuàng)造力和效率,這正是AI技術(shù)在重塑數(shù)字化價(jià)值方面所展現(xiàn)出的強(qiáng)大潛力。
大模型在金融行業(yè)的應(yīng)用場(chǎng)景主要包括營(yíng)銷(xiāo)、風(fēng)控、客服、運(yùn)營(yíng)、辦公以及代碼開(kāi)發(fā)等,這些領(lǐng)域往往對(duì)人工操作的效率和質(zhì)量有著較高的要求。我們真正的目標(biāo)是:重新思考企業(yè)級(jí)、金融級(jí)的AI原生能力體系。過(guò)去更多的是實(shí)驗(yàn)性質(zhì),有許多AI大模型專(zhuān)家在進(jìn)行創(chuàng)新試點(diǎn),探討大模型的訓(xùn)練和應(yīng)用方法。而現(xiàn)在,我們認(rèn)識(shí)到應(yīng)該按照真正原生的企業(yè)級(jí)能力體系來(lái)進(jìn)行構(gòu)建,無(wú)論是從模型的研發(fā)、推理與運(yùn)行,還是模型應(yīng)用的開(kāi)發(fā)、測(cè)試及最終部署,都需要從這個(gè)角度出發(fā),明確所需的AI能力,并重新設(shè)計(jì)體系架構(gòu)。其中,模型安全是一個(gè)至關(guān)重要的因素。這不僅涉及到大模型本身的防護(hù),還包括使用大模型后整體管理體系的安全。由于大模型可能會(huì)面臨被滲透、數(shù)據(jù)泄露等問(wèn)題,因此需要進(jìn)行全面的安全考量。鑒于此,阿里云在推廣金融行業(yè)的大模型應(yīng)用時(shí),并非僅僅著眼于基礎(chǔ)設(shè)施的建設(shè)、算力的提供或模型的基本發(fā)展,而是更多地關(guān)注如何構(gòu)建一個(gè)完整的金融級(jí)AI原生體系。雖然我們目前仍處于起步階段,但從一開(kāi)始我們就應(yīng)該審慎規(guī)劃,明確可能面臨的挑戰(zhàn)與問(wèn)題,然后逐步擴(kuò)展應(yīng)用規(guī)模。
阿里云通義點(diǎn)金作為一站式金融AI應(yīng)用平臺(tái),跟那些APP上簡(jiǎn)單的問(wèn)答不同,它把金融的專(zhuān)業(yè)性和應(yīng)用性嵌套進(jìn)去,具有金融專(zhuān)屬、金融強(qiáng)化、開(kāi)放生態(tài)的特點(diǎn)。
阿里云的通義點(diǎn)金作為一個(gè)一站式的金融AI應(yīng)用平臺(tái),與那些簡(jiǎn)單的APP問(wèn)答功能不同,它融入了金融的專(zhuān)業(yè)性和實(shí)用性,具有金融專(zhuān)屬、金融強(qiáng)化以及開(kāi)放生態(tài)的特點(diǎn)。
成本、效果與安全構(gòu)成了大模型應(yīng)用的“不可能三角”。一方面,我們需要節(jié)約成本,避免一次性巨額投資于算力、人才和模型;另一方面,我們也需要確保投資能夠帶來(lái)實(shí)際效果,證明其業(yè)務(wù)價(jià)值。安全則是另一個(gè)重要方面,模型的應(yīng)用和運(yùn)行的安全性問(wèn)題,都是必須綜合考慮的因素。在我看來(lái),云智融合是破解大模型應(yīng)用的不可能三角的重要路徑。
今天,金融行業(yè)擁抱大模型是一個(gè)不可避免的趨勢(shì)。得益于先前的數(shù)字化積累,金融機(jī)構(gòu)在接納大模型時(shí)比以往更有優(yōu)勢(shì)。回顧過(guò)去,阿里云已經(jīng)與多家金融機(jī)構(gòu)在云原生架構(gòu)方面展開(kāi)了合作。現(xiàn)在看來(lái),AI時(shí)代的命題就像我們當(dāng)年面對(duì)云計(jì)算轉(zhuǎn)型一樣。我們?cè)敢庠谶@個(gè)過(guò)程中長(zhǎng)期與金融機(jī)構(gòu)合作,明確問(wèn)題所在,并直接面對(duì),將技術(shù)能力和先進(jìn)性與實(shí)際需求相匹配。??
我的分享就到這里,謝謝大家。
新浪聲明:所有會(huì)議實(shí)錄均為現(xiàn)場(chǎng)速記整理,未經(jīng)演講者審閱,新浪網(wǎng)登載此文出于傳遞更多信息之目的,并不意味著贊同其觀點(diǎn)或證實(shí)其描述。
相關(guān)文章
最新評(píng)論