大模型在金融業:從熱情高漲到理性應用

robot
摘要生成中

大模型正深入金融業,從熱情高漲到理性回歸

ChatGPT問世以來,在金融業引發了不小的焦慮感。這個對技術有信仰的行業擔心被快速發展的時代潮流拋在後面。這種緊張氛圍一度蔓延到意想不到的地方。有業內人士透露,她5月在大理出差時,甚至在寺廟裏都能碰到討論大模型的金融從業者。

不過,這種焦慮情緒正逐漸平復,人們的思路也變得更加清晰和理性。一位銀行業務專家描述了今年金融業對大模型態度的幾個階段:2-3月,普遍感到焦慮,害怕落後;4-5月,紛紛組建團隊開展相關工作;之後幾個月,在尋找方向和落地過程中遇到困難,變得更加理性;現在,他們開始關注標杆企業,嘗試驗證過的應用場景。

一個新的趨勢是,許多金融機構已經開始從戰略層面重視大模型。據不完全統計,A股上市公司中,至少有11家銀行在最新半年報中明確提出正在探索大模型的應用。從近期動作來看,他們也正在從戰略和頂層設計層面進行更清晰的思考和路徑規劃。

從熱情高漲到理性回歸

年初ChatGPT剛出現時,金融行業對大模型的熱情雖高,但對其本質和應用方式的了解其實非常有限。一些大型銀行率先行動,開始做各種"蹭熱度"的宣傳。同時,一些頭部金融機構的科技部門積極與大廠討論大模型建設事宜。他們普遍希望自己建設大模型,詢問數據集制作、服務器採購和訓練方法等問題。

5月以後,情況逐漸發生變化。受制於算力資源緊缺、成本高昂等因素,很多金融機構開始從單純希望自建轉變爲更關注應用價值。現在每家金融機構都在關注其他機構使用大模型的情況及效果。

具體來看,不同規模的企業採取了不同的路徑。擁有海量金融數據和應用場景的大型金融機構,可引入領先的基礎大模型,自建企業大模型,同時採用微調方式,形成專業領域的任務大模型,快速賦能業務。中小金融機構則可綜合考慮投資回報,按需引入各類大模型的公有雲API或私有化部署服務,直接滿足業務需求。

然而,由於金融行業對數據合規性、安全性、可信性等要求較高,一些人士認爲,這一行業的大模型落地進展實際略低於年初預期。一位專家表示,他們最初預測金融行業可能會最先大規模使用大模型,但實際情況是金融行業的應用速度不如法律、招聘等行業快。

爲解決大模型落地過程中的各種限制,一些金融機構已經開始採取措施。在算力方面,業內出現了幾種解決思路:

  1. 直接自建算力,成本較高但安全性好,適用於實力雄厚、希望自建行業或企業大模型的大型金融機構。

  2. 算力混合部署,在敏感數據不出域的情況下,接受從公有雲調用大模型服務接口,同時通過私有化部署處理本地數據服務。這種方式成本較低,適用於資金相對有限、只按需進行應用的中小型金融機構。

針對中小機構面臨的GPU卡稀缺和高價問題,有關部門正在探索建立面向證券行業的大模型基礎設施,集中算力和通用大模型等資源,讓中小金融機構也能使用大模型服務,防止技術落後。

除了算力,隨着對大模型落地的探索,不少金融機構也加強了數據治理。越來越多的中等規模金融機構開始構建數據中臺和數據治理體系。有專家認爲,構建完善的數據治理體系和數據湖技術平台,將是未來金融機構IT建設的重要方向。

一些銀行正通過大模型結合MLOps的方式解決數據問題。例如,某大型銀行採用MLOps模式建立大模型數據閉環體系,實現了整個流程的自動化,以及多源異構數據的統一管理和高效處理,據悉目前已構建和積累了2.6TB的高質量訓練數據集。

從外圍場景切入

過去半年多,大模型服務商和金融機構都在積極尋找應用場景,智慧辦公、智能開發、智慧營銷、智能客服、智慧投研、智能風控、需求分析等領域都被探索。

每家金融機構對大模型都有豐富的構想。有銀行稱內部已有20多個場景投放應用,另一家銀行表示在30多個場景中進行了試點,還有證券公司正在探索將大模型與此前推出的虛擬數字人平台打通。

但在實際落地過程中,業內共識是先內部後外部。畢竟當前階段大模型技術並不成熟,存在幻覺等問題,而金融行業是一個強監管、高安全、高可信的領域。

有專家建議,金融機構應優先將大模型應用於金融文本和金融圖像分析理解創作的智力密集型場景,以助手形式,人機協同來提升業務人員工作效率。

目前,代碼助手已在不少金融機構落地。例如,某銀行構建了基於大模型的智能研發體系,編碼助手生成代碼量佔總代碼量的比值達到40%。在保險領域,有公司研發了基於大模型的輔助編程插件,直接嵌入內部開發工具。

智慧辦公領域也有不少落地案例。某金融大模型產品在一家大型銀行上線後,已經推廣到幾百個網點,答案採納率超過85%。相關解決方案也快速復制到其他銀行和金融機構。

不過,業內人士判斷,這些已經廣泛落地的場景,實際都還不是金融機構的核心應用,大模型距離深入金融行業的業務層面還有一定距離。營銷、風控、合規等場景是大模型可能帶來變革,同時也是金融客戶需求所在的部分,但目前這些工作還要取決於底層大模型廠商能力的提升。

有專家預測,到今年底之前,會有一批真正在金融機構核心業務場景中使用大模型的項目建設或招標信息出現。

與此同時,一些頂層設計層面的改變正在進行。未來的整個智能化、數字化系統,都將重新建立在大模型的基礎之上。這要求金融行業在推動大模型落地過程中,重新架構系統。同時,也不能忽視傳統小模型的價值,而應該讓大模型、小模型協同起來。

目前已經有多家頭部金融機構基於大模型,搭建了包含基礎設施層、模型層、大模型服務層、應用層等多個層級的分層系統框架。這些框架體系普遍有兩大特點:一是大模型發揮中樞能力,將傳統模型作爲技能進行調用;二是大模型層採用多模型策略,內部比較,選出最優效果。

人才缺口依然龐大

大模型的應用,已經開始對金融行業的人員結構帶來一些挑戰和變革。有金融科技公司從今年初到5月底裁掉了300多位大數據分析師。一些原本由實習生完成的信息歸納匯總工作,現在可以通過大模型完成。

不過,一些銀行並不希望大模型帶來減員。他們希望大模型能帶來新的機會,提升員工的服務質量和工作效率,同時釋放部分員工去做更多高價值的工作。

這種考慮一方面是出於人員和結構穩定的考量,另一方面也是因爲行內很多崗位還有人才缺口。大型銀行有大量工作需要完成,部分IT需求的工期甚至排到了明年年底。他們希望大模型能幫助員工提高效率和速度,而不是導致人員減少。

更重要的是,大模型的需求激增,但短時間內稀缺的人才供給難以匹配。一位銀行高管表示,他們最近招聘的新員工中,學習AI領域的比例很高,但了解大模型的人才卻很少。

有專家認爲,直接應用大模型的人才需求相對簡單,主要需要會提問題的人。但如果要自建行業或企業大模型,則需要金融機構擁有一支精幹的垂直大模型技術隊伍。

爲應對人才缺口,一些機構已經採取行動。有公司聯合銀行實驗室的人力資源團隊,設計了一系列培訓課程,如Prompt調優、微調、大模型運營等,並與多個部門合作,建立聯合項目組,推動企業人員能力提升。

在這個過程中,金融機構的人員結構也會迎來一些調整和變革。會使用大模型的開發人員,可能比不會使用的人更容易在這個環境中立足。

總的來說,大模型技術雖然給金融行業帶來了機遇和挑戰,但要真正實現範式的改變,還需要金融體系內部有一支隊伍深入融合內部需求,做出重大創新。

PROMPT1.49%
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 4
  • 分享
留言
0/400
RektRecoveryvip
· 19小時前
叫它吧......金融科技安全表演中又一个可预测的炒作周期。风险表面在3..2..1...扩展中...
查看原文回復0
Gas_FeeSobbervip
· 19小時前
这韭菜从焦虑到躺平了
回復0
Alpha不开口vip
· 19小時前
模型也救不了韭菜
回復0
Token新手指南vip
· 19小時前
温馨提示:过热投资AI项目需谨慎,根据CCID数据,87%标榜AI应用的资产存在高风险
回復0
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)