能否构建强大的底层支撑能力，决定了金融大模型布局的成败，银行破局需要找对路径
· 来源：轻金融 作者：李静瑕
AI与大模型，短时间内不断刷新高光时刻。
仅仅一年多的时间，从GPT-4，到Sora，再到GPT-4o，创新不定时爆发，如一颗颗深水炸弹，在各个行业掀起巨浪。
作为高度技术敏感性行业，金融行业拥有海量的数据、丰富的场景，使得大模型领域的创新在金融业有更大的想象空间。
但在具体应用落地过程中，银行的金融大模型布局还面临着算力、成本、安全可信等一系列挑战。尤其是，能否构建强大的底层支撑能力，决定了大模型布局的成败。这方面，银行并非孤军奋战，京东云等第三方厂商也在加速探索提升新技术、新模式对金融大模型的能力支撑。
01
金融大模型，快与慢
技术进步的速度，是以指数方式的而非线性，“加速回报定律”在AI领域的表现更为显著。
MarketsandMarkets发布的报告显示，全球生成式人工智能市场规模预计将从2024年的209亿美元增长到2030年的1367亿美元，复合年增长率将达到36.7%。
作为数字化、智能化先行者，金融业有望成为大模型技术落地的最佳领域之一。一方面，金融行业沉淀了相当规模的金融数据，数据量足够大；另一方面，金融行业应用场景贯穿前中后台各个环节，可以快速提升效率、降低成本。
正是看到了大模型的潜在应用潜力，2023年，各大银行开始快速布局构建金融大模型。
其中，工行建成千亿级 AI大模型技术体系并实现应用；建行启动“方舟计划”，推进金融大模型建设工程；农行早在2023年初就发布了ChatABC大模型1.0版本；邮储银行推进“邮储大脑”融合大模型技术，构建新型生成式AI能力；招行启动了大模型生态建设，引入千亿参数大模型；兴业银行发布百亿级大模型ChatCIB，等等。
不过，虽然头部银行对金融大模型构建、对AI新技术的布局是迅速的，然而焦虑也是存在的。
金融大模型前期投入较大，而价值产出却存在不确定性。银行等金融机构，自身IT资产非常庞大，面对新技术变革，未来投入与产出比究竟会是怎样的？大模型究竟要如何落地场景，落地哪些场景才能对银行业务带来真实的增长价值？
可以说，AI、大模型为银行业带来了前所未有的机遇和相应的挑战。中国银行业协会发布的《中国银行家调查报告（2023）》显示，当前银行面临的主要挑战包括“数据隐私与科技伦理问题”（43.0%），以及“生成内容的精确性”（39.3%），此外，“生成内容的可信度”（32.5%）、“模型训练所需数据不足”（32.3%）、以及“AIGC人才稀缺”（30.9%）也是银行在实施AIGC技术时必须克服的瓶颈。
同时，金融行业在AI算力资源上的痛点涉及到算力的需求增长、资源管理、成本控制、存力挑战、隐私安全、生态封闭性、国产化资源不足以及技术门槛等方面。解决这些问题，离不开金融机构、技术提供商和监管部门紧密合作。
价值不明，技术却向前，这需要银行在“摸着石头过河”时，对金融大模型进行慢思考。
02
找对IT系统升级路径是破局关键
大模型布局，牵一发而动全身。
BCG就指出，生成式AI在银行业规模化应用的落地是一个体系化的工程，其成功与否，一看模型，二看IT能力升级，三看业务与组织的转型。
因而，破解大模型面临的重重挑战需要形成合力，需要更细分完善的产业分工。在探索落地场景之外，金融大模型需要新的底层技术架构变革，同样值得银行关注。
“大数据、大算力、大算法”，金融大模型的构建的关键在于“大”，这也意味着更高的资源消耗。
以工行、建行为例，工行打造业内首个国产千亿级大模型算力底座，以高效的算法、可靠的算力以及全面的数据三大技术能力支撑金融大模型；建行则建设新型的智算集群，匹配异构的高性能算力设备、高速度存储和云形态网络。
对于更多银行来说，金融大模型需要怎样的基础底座能力支撑？
首先，高性能的存储系统和GPU的资源布局是金融大模型进行训练和推理的基础技术能力，更优的系统能够帮助金融机构降低成本的同时，提高效率。其次，传统的云网络要升级到IB网络或者LT网络。第三，AI与云原生结合，通过大的底座平台，将大模型基础设施与云的基础设施统一在一个体系之下。此外，AI国产化也是基础底座能力规划的一个重要方向。
银行无法完全摒弃已有的IT系统，面对金融大模型的更高要求，银行需要通过一些前沿的技术对IT架构进行迭代。在技术方面探索较快的银行，已在提前应对金融大模型IT架构的变革。
某大型银行为适配金融大模型对高性能数据存储的需求，引入了京东云高性能并行文件存储系统。在大模型场景下，传统的集中式、分布式、跨对象文件等存储模式难以满足大模型对高性能并行文件存储的要求，这是其算力、存储的核心诉求。引入并行文件存储，通过并行处理数据、提供高性能存储服务，提升工作效率。效果是明显的，其存储可靠性达到11个9，同时综合成本降低30%。
金融大模型训练、推理，往往会带来高昂GPU算力成本。一般情况下，银行传统的GPU算力资源利用率在10%～15%，提升资源利用率就意味着成本消耗的下降。某股份行为了降低GPU算力成本，通过引入了京东云离在线混部等功能，降低金融大模型的应用成本。
金融大模型发展的当前，开放性与安全性共生，银行寻求有强大能力的第三方厂商的合作，能够提高布局效率。
在存储和GPU算力资源上，京东云分别推出了云海和云舰vGPU。云海以超高性能支撑上层应用，实现存算分离，在不影响大数据分析效率的同时，实现存储与计算解耦，存储资源与计算资源可按需灵活扩容，大幅提升资源利用效率。通过实施案例效果，能够助力金融大数据分析系统存储成本降低60%。同时冷热数据自动分层技术，也能让海量数据存储成本更低，可靠性更优。
云舰vGPU，则以支持同型号的卡管理、丰富的配额管理，以及多样的算力调度策略，能满足训练任务高性能以及推理高可靠等多样需求。离在线混部系统，实现离线业务和在线业务共享一个集群，最大程度利用现有资源，同时还可以有效提高系统的可用性和稳定性，从而减少故障和停机时间。据实际案例的测算，云舰vGPU优化之后，让金融机构大模型GPU利用率提升到60%～70%。
这些银行为什么合作的是京东云？
在AI大模型的互联网厂商激战中，京东云有自身的优势。坐拥京东商城、京东金融等业务场景，其基础底座能力的技术正是在这些场景中不断打磨而来。
金融大模型的基础技术能力并不仅限于存储和GPU资源布局，在数据库、大模型应用等方面，也需要新的架构和模式变革。京东云凭借行业领先的自研技术产品和解决方案，逐步构建起能够支撑金融大模型的全栈技术能力。在云海和云舰以外，京东云还提供数据中台、“运营增长”解决方案等，助力金融大模型构建到场景落地技术支撑全覆盖。
京东云言犀大模型更是一个重量级产品。这段时间，以言犀大模型为技术基础的“刘强东”数字人带货成为行业热点，这不仅让市场看到了AI的场景使用价值，更看到了京东云的能力。
同时，京东云还在大力布局智能体体系，一方面构建智能体框架，包括企业智能体、自助式智能体等；另一方面打造与场景融合的智能体，如营销、研发等场景智能体。从产品创新、流程融合，对于大模型本身可解释性、可信性等问题，通过智能体的方式解决整个金融机构使用金融大模型的痛点。
03
场景，场景，还是场景！
“AI is everywhere.”
这是市场对AI未来发展的普遍预测。
回到金融大模型的核心问题，就是找到落地场景，这也是未来“AI”会在哪里之问。
一边加速金融大模型技术布局，一边探索场景落地，这是当前银行探索大模型的普遍方式。工行将金融大模型聚焦远程银行、对公信贷、运营管理、金融市场等八大业务领域，建行则应用范围覆盖了智能客服工单生成、对公客户客调报告等36项业务场景，邮储银行在研发测试、运营管理、客户营销、智能风控等领域推进大模型的金融应用。
当然，金融大模型无论是技术发展还是应用都属于初级阶段，当前行业内更多的呼声是“向内”。即将金融大模型应用到银行内部，以提升与员工人机协同的服务效率，包括数据分析、代码生成、流程管理、智能风控等领域。
例如，流程管理对于银行而言是一个非常重要的环节。大模型能够将任何系统流程的交互，人和数据的交互进行简化，即对AI提出一个问题，能够自动生成报表或内容，以减少人和系统、数据的交互。这项具有“颠覆性”的流程管理大模型应用，正是京东云在积极探索的领域。
在金融业务上的应用，营销运营被认为是较容易落地的场景，而金融大模型也被认为是银行零售新变革的关键力量。
为实现长尾客群对个性化运营，某股份行搭建了线上数智化运营体系，通过智能化能力进行分层经营，可以覆盖大量的长尾客户，其出客量可达亿级。京东云帮助该行搭建运营策略中台，助力银行手机银行精准营销。这套智能营销运营系统也改变了银行传统触客模式，实现直客经营，将理财经理、客户经理难以触达到的这部分客群，通过数字化运营线上体系直接服务客户。
借助营销大模型，京东云还打造了“AI增长营销平台”，旨在用一个平台，简单对话，一站式完成营销方案的理解、构建、分发。在大模型的加持下，解决了动态适应性、用户体验等问题，优化营销运营流程、降低运营人员的学习成本与操作成本，促使生产效率提高上百倍。该平台还将过去涉及5类以上职能才能完成的流程，压缩至1人。而一站式与对话融合的全新交互模式，让营销流程中的人机交互次数从2000次降低至少于50次，将操作效率提升了超过40倍。
金融大模型用于产业金融也被认为有非常大的空间。大模型叠加大数据，再叠加产业能力，银行有能力去构建一个产业金融的体系。金融大模型或能够从产业金融的“催化剂”成为“助推力”。
无论是金融大模型在银行的应用是向内，还是对外，从核心目标出发，不会偏离方向。金融大模型解决的核心问题是“体验、效率和成本”。
迎战金融大模型，给银行带来无限的想象空间。打好基础跟随新技术去拓展，方到达“AI is everywhere”的彼岸。我们也期待，金融大模型快速发展，能够萌发更多不一样的、有特色发展的银行，去实现“弯道超车”。
