度小滿CTO許冬亮:金融行業(yè)是大模型落地應(yīng)用的高潛場(chǎng)景
8月25日消息,在“北大光華-度小滿金融大模型技術(shù)與應(yīng)用論壇”上,度小滿CTO許冬亮表示,金融行業(yè)是高價(jià)值行業(yè),數(shù)字化基礎(chǔ)好,高度依賴數(shù)據(jù)和技術(shù),也是大模型落地應(yīng)用的高潛場(chǎng)景。
現(xiàn)階段,如何在金融領(lǐng)域發(fā)揮大模型的能力,許冬亮認(rèn)為還有三個(gè)挑戰(zhàn)需要解決:第一個(gè)挑戰(zhàn)是通用模型能力不能滿足金融場(chǎng)景需要。首先是通用大模型本身精度不夠,當(dāng)前大模型原生的幻覺問題、可控性問題和可解釋性問題都限制了生成內(nèi)容的準(zhǔn)確性和可控性,而金融又是一個(gè)對(duì)精準(zhǔn)性、可控性要求很高的行業(yè);其次是通用大模型金融知識(shí)的缺失;再次是大模型更新迭代困難,金融是高時(shí)效的,模型必須能夠?qū)崟r(shí)跟蹤金融市場(chǎng)的變化和趨勢(shì)。
圖注:度小滿CTO許冬亮
(圖源度小滿官方公眾號(hào))
第二個(gè)挑戰(zhàn)是大模型如何高效植入現(xiàn)有業(yè)務(wù)場(chǎng)景。一個(gè)團(tuán)隊(duì)既要懂業(yè)務(wù)場(chǎng)景的know-how,又要理解大模型的使用方法,而且還需要具備比較強(qiáng)的工程能力,這樣才有可能選擇出適合應(yīng)用大模型的場(chǎng)景,高效的將大模型嵌入到實(shí)際業(yè)務(wù)流程。
第三個(gè)挑戰(zhàn)是大模型應(yīng)用于金融業(yè)中產(chǎn)生的安全合規(guī)和隱私保護(hù)問題。金融本身是一個(gè)高合規(guī)要求的行業(yè),大模型又是具有顛覆性的新技術(shù),我們對(duì)它的風(fēng)險(xiǎn)還沒有完全了解,隨著大模型落地的不斷推進(jìn),如何平衡大模型落地收益和潛在合規(guī)風(fēng)險(xiǎn),會(huì)是一個(gè)越來越突出的問題。
(圖源度小滿官網(wǎng)截圖)
如何解決大模型在金融行業(yè)落地應(yīng)用的這些難題,許冬亮認(rèn)為每家機(jī)構(gòu)獨(dú)立去解決這些問題既是不現(xiàn)實(shí)的,也是不經(jīng)濟(jì)的,科技公司和金融機(jī)構(gòu)在金融大模型上的合作非常有必要。
大模型訓(xùn)練需要大數(shù)據(jù),但是金融數(shù)據(jù)非常寶貴。許冬亮具體解釋,“大模型訓(xùn)練非常依賴底層的生產(chǎn)資料,也就是數(shù)據(jù),但金融行業(yè)數(shù)據(jù)的分布實(shí)際上比較分散,通用智能化數(shù)據(jù)主要集中在科技公司手上,金融數(shù)據(jù)則分散在各個(gè)金融科技公司手上,而對(duì)于金融機(jī)構(gòu)而言數(shù)據(jù)是核心競(jìng)爭力也不太可能進(jìn)行分享,其他還有監(jiān)管、數(shù)據(jù)安全、隱私保護(hù)等因素存在,所以注定未來這個(gè)行業(yè)高質(zhì)量數(shù)據(jù)的分布也會(huì)是分散的狀態(tài)?!?/p>
許冬亮表示,未來從合作模式上來說,應(yīng)該會(huì)是科技公司提供不同類型的通用大模型,金融科技公司在通用大模型的基礎(chǔ)上提供金融行業(yè)大模型,將領(lǐng)域內(nèi)的知識(shí)、know-how進(jìn)一步整合,以私有化的形式部署到金融機(jī)構(gòu)內(nèi)部,而不是以云端API的方式提供服務(wù),科技公司和金融機(jī)構(gòu)未來會(huì)是深度合作的模式。
圖注:度小滿數(shù)據(jù)智能部總經(jīng)理?xiàng)钋?/p>
(圖源度小滿官方公眾號(hào))
度小滿數(shù)據(jù)智能部總經(jīng)理?xiàng)钋嗤嘎?,度小滿軒轅大模型2.0版本將在10月份發(fā)布。2.0版本在對(duì)話和金融理解等場(chǎng)景下的能力大幅提升。在增量預(yù)訓(xùn)練和指令微調(diào)階段,該版本加入了海量金融數(shù)據(jù),對(duì)金融問題回答更加專業(yè)、準(zhǔn)確;在對(duì)話能力上,“軒轅2.0”的上下文長度擴(kuò)充至8k,能夠處理更長的金融報(bào)告、研究和分析。
今年5月份,度小滿開源了國內(nèi)首個(gè)千億級(jí)中文金融大模型“軒轅”。
2、電商號(hào)平臺(tái)僅提供信息存儲(chǔ)服務(wù),如發(fā)現(xiàn)文章、圖片等侵權(quán)行為,侵權(quán)責(zé)任由作者本人承擔(dān)。
3、如對(duì)本稿件有異議或投訴,請(qǐng)聯(lián)系:info@dsb.cn