科技世界的日新月异和风云变幻，是大家有目共睹的。2022年底大语言模型横空出世，拉开AIGC时代的序幕。各行各业都在塑造核心竞争力的过程中，不断加码数字化能力，以及对前沿科技的关注，金融行业自然不例外。

在此背景下，9 月 21 日，在南洋商业银行开展的《2023 年度金融科技及信息安全专项培训》系列活动中，「DaoCloud 道客」受邀分享金融科技相关内容。活动内容聚焦大语言模型和云原生，带领现场 50 位学员近距离了解和体验新兴热门的技术，打开数字新世界，探寻数字新脉络，碰撞金融科技新火花。下面，让我们走进培训现场，一起感受科技的脉动。

01

大语言模型原理及交互体验

培训会上，「DaoCloud 道客」联合创始人兼首席技术官--郭峰带来了《大语言模型原理及交互体验》主题分享，从行业趋势、使用场景、时代特点、技术演进、模型调优、底层架构，自上而下、由浅入深地为学员们一一讲解，并结合 Demo 体验，让学员们从纵向深入，全链路了解大语言模型。


(资料图)

郭峰老师先从 Open AI 的故事讲起，介绍了风靡全球的 ChatGPT，也描述了从 PGC 到 UGC 到 AIGC 时代的技术进程，为了让学员更加身临其境的感受到生成式内容的强大，郭峰老师演示了文本、图片、视频甚至代码的自动生成。在这个演示过程中，郭峰老师引导大家发现了提示词的重要性，从格式要求、控制回复量、假装和限定角色获得场景、限定内容、组合流水线、突破个人限制这 7 个原则娓娓道来，来让学员在后续的工作使用中能够获得更准确的信息。

在基础的应用场景的呈现后，郭峰老师就大语言模型技术演进的道路，介绍了大语言模型的 4 大训练部分，分别是预训练、有监督微调、奖励建模和强化学习。同时也分享了大模型背后的技术支撑，让大家了解到分布式计算框架 Ray、作业管理系统 Kueue、多集群检测 Kwok 等开源项目，在 AIGC 中的所处的位置和作用。在分享内容的最后，郭峰老师还介绍了企业在微调大模型的过程中，如何进行持续的能力演进。

在郭峰老师分享结束后，学员们进入了培训课程的互动环节，「DaoCloud 道客」基于该银行的一些公开信息做了整理，并通过 DaoCloud 知识库一体机的语料库将文本进行向量化，然后再调用大语言模型，就可以让学员进行带有行业特色的问答互动。语料库就像是通用大语言模型的武器库，只要上传相关的资料，就可训练出不同领域的专业助手。

02

大模型端到端学习

为了让学员们对大模型有更广泛的认知，「DaoCloud 道客」应用现代化技术总监--陈佳老师为学员们分享了大语言模型训练的过程。为了便于大家理解，他将训练过程类比为家长教育孩子的学习过程。首先，家长（也就是使用大语言模型的我们）需要完全理解题目的意思，就像大语言模型需要理解输入数据的含义和上下文。然后，家长会设计出一系列解题步骤，一步步地教孩子（大语言模型）学习，就像大语言模型会通过多个层次的神经网络逐步学习和提取特征。

在家长教育孩子的过程中，他们会根据孩子的理解能力和学习进度进行调整和优化，确保孩子能够逐渐掌握解题的方法和技巧。同样地，大语言模型的训练也需要进行迭代和优化，通过反向传播算法来调整模型的参数，使其能够更准确地预测和输出结果。

此外，家长还会提供一些示例和练习题，让孩子通过实践来巩固所学的知识。类似地，大语言模型的训练也需要大量的训练数据来提高模型的准确性和泛化能力。

总的来说，家长教育孩子的学习过程与大语言模型的训练过程，有许多相似之处。都需要完全理解问题，设计解决方案，并通过迭代和优化来提高学习效果。通过这个例子，学员们都更好地理解了大语言模型训练的过程和原理。

03

下一代计算——云原生

大语言模型带来的创新动力，大家都有非常直接感受。但是在数字世界的底层，其实还有一个颠覆性的创新。正是得益于它的支撑，上层的大数据、人工智能、元宇宙、边缘计算等新兴技术，开始爆发新一轮的创新活力。接着上半场，「DaoCloud 道客」产品创新副总裁--叶挺带来了《云原生讲座》分享，讲述了云原生的发展趋势，以及其与「DaoCloud 道客」的不解之缘，从趋势、技术到产品，一步步拆解云原生，到底是如何成为企业数字创新动力源泉的脉络，为学员们打开认识云原生的新视角。

可以说，是时代选中了云原生。叶挺老师首先抛出了 “应对不确定是企业数字化转型的根本动因” 这一观点，因为面对互联网时代的倍速发展，应用迭代的时效性将构成企业强有力的竞争壁垒，数量巨大、日新月异、高速迭代的业务应用对于 “弹性、敏捷、高效” 的数字底座的需求，驱动企业在高频竞争下，踏上应用现代化的征程。而应用现代化，需要建立云原生优先的战略。

接着，叶挺老师从云计算到云原生的演变、云是什么、容器是什么、云原生的自动化决策调度引擎、基础架构技术的演进之旅，一一为学员们梳理整个云原生的发展趋势。叶挺老师指出，云原生正在往云操作系统演进，Kubernetes 下沉到裸金属服务器，直接管理基础设施，实现资源利用率、部署效率、运维效率全面最大化，助力业务应用敏捷创新。

DaoCloud Enterprise 5.0 正是「DaoCloud 道客」历经 8 年锻造出来的新一代云原生操作系统，以云原生底座为核心，支持多云编排、信创异构、云边协同、应用商店、应用交付、微服务治理、可观测性、数据服务这八个功能模块按需搭配、自由组合。它拥有高性能、可扩展的特点，具有模块化分布式云、上千家行业生产验证、自主可控、生态开放、开源共生的产品优势。叶挺老师从功能到架构，为学员们进行了讲解。

叶挺老师表示，通过新一代云原生操作系统，我们希望帮助企业最终实现快速迭代业务和创新、充分用技术赋能员工、实现更高效业务运营、创造基于信息的收入、不断提高客户忠诚度、降低创新的试错风险。希望企业在未来探索数字化的道路上从局部最优解的视角中摆脱出来，从而获得全局最优解。

最后，随着各项新兴技术的逐步应用成熟，特别是在数字底座的云原生革新之下，以人工智能为代表构建的数智世界，正在慢慢浮出水面。云原生和AIGC的魅力，正在越来越深入人心，让我们一起拥抱未来美好的数智新时代。

关键词：