一种端到端大模型训练部署与智能体创建一体化平台的制作方法

本发明涉及人工智能，更具体的说是涉及一种端到端大模型训练部署与智能体创建一体化平台。

背景技术：

1、随着大语言模型在金融、制造等行业落地，企业依托自有合规文档、业务对话等私域数据搭建行业定制智能体，完整流程包含私域语料制备、模型微调、推理部署、效果评测、迭代优化环节。当前市场工具链割裂分化，一类为llama factory、unsloth、axolotl训练工具，仅实现模型微调；另一类为dify、fastgpt、coze应用平台，仅支持rag与智能体编排，不具备完整微调能力；其余为标注、部署、指标测算等零散工具。企业搭建智能体需切换多套异构系统，各工具技术栈、数据格式、权限体系互不互通，开发链路断裂，落地效率低下。

2、语料处理上，现有工具无法基于原始文档分层生成适配记忆、推理、多轮对话的训练样本，数据制备依赖人工标注，百万字资料标注周期可达两至三个月，文档更新后数据快速失效；缺少文档eda分析、llm自动化质检与语义去重，仅靠人工抽检难以识别样本幻觉、重复缺陷。

3、模型训练工具面向算法人员，依赖命令行与复杂表单，非业务人员无法独立操作；多任务并行无进程隔离，易出现显存泄漏、进程崩溃，缺少实验追踪与版本管理，lora权重无法一键对接推理服务，人工迁移易产生版本混乱。

4、推理部署采用单模型单实例架构，多业务模型并行时gpu利用率不足20%，算力浪费严重；现有平台不支持lora动态热加载，无法共享基座引擎，多数仅适配单机gpu私有化部署，缺少容器化多环境运维，对昇腾npu量化适配不足，无法兼顾私有化、云化、边缘部署场景。

5、模型评测仅依靠人工抽样或bleu、rouge文本指标，人工评测主观偏差大、不可规模化，文本指标无法识别语义幻觉、引用错误；缺少llm-as-judge自动化语义评测链路，评测结果无法回流优化数据集，无法形成闭环迭代。

6、整体架构无统一微服务底座与多租户管控，语料、模型、评测数据分散存储，缺少统一认证、租户隔离与操作审计，私域数据无法本地不出域存储，难以满足行业合规要求；各模块耦合度高，第三方系统集成难度大，无法一站式完成文档导入、语料生成、微调、部署、评测、智能体发布全链路操作。

7、综上，现有工具链功能碎片化，缺失分层自动语料生成、多lora共享推理、对话式低代码操作、自动化语义评测关键能力，存在开发周期长、算力成本高、使用门槛高、迭代效率低、合规保障薄弱等缺陷，难以满足企业低成本、安全高效搭建行业智能体的需求，如何克服上述现有技术中的不足之处是本领域技术人员亟需解决的技术问题。

技术实现思路

1、有鉴于此，本发明提供了一种端到端大模型训练部署与智能体创建一体化平台，解决了背景技术存在的问题。

2、为了实现上述目的，本发明提供如下技术方案：

3、一种端到端大模型训练部署与智能体创建一体化平台，自上而下依次设有相互连通的用户交互层、api网关层、业务服务层、推理引擎层、数据与基础设施层；

4、用户交互层，用于接收用户业务需求并依托智能体工作流调度后端全部操作；

5、api网关层，作为统一流量入口，用于实现请求路由分发、负载均衡与访问身份鉴权；

6、业务服务层，配置多组独立互通的业务服务单元，分别用于完成私有数据处理、模型微调训练、轻量化模型部署、模型效果自动化评估；

7、推理引擎层，包含两组算力共享、资源相互隔离的推理集群，一组承载数据生成、模型评测任务；另一组承载线上低延迟推理业务；

8、数据与基础设施层，用于统一管控平台算力资源，持久化存储全链路生成的业务数据、模型资产与实验记录；

9、各层级联动形成私有数据处理、模型微调训练、多模型推理服务、模型效果评测、智能体迭代优化的自动化闭环，一站式完成垂直领域定制大模型与行业智能体构建。

10、可选的，用户交互层集成语料工作台、训练工作台、部署工作台、评测中心；用户交互层基于next.js构建对话式智能体交互界面，采用tool calling工具调用机制解析用户自然语言业务需求，各工作台配置独立状态机有序推进业务流程，无需用户跨页面手动填写表单即可完成全流程配置。

11、可选的，业务服务层为fastapi异步微服务架构，具体包括数据互通且相互独立的语料服务、训练服务、部署服务、评测服务。

12、可选的，语料服务通过pymupdf完成企业私有文档解析，执行eda探索性数据分析，完成文本分层采样与全局场景识别，自动生成三级分层训练语料；其中，三级分层训练语料分别为对应知识记忆的短句问答样本、对应逻辑推理的场景链式样本、对应自然交互的多轮对话样本；语料服务配套llm质量评估、语义相似度去重机制，完成语料质量管控。

13、可选的，训练服务基于ms-swift、peft框架实现lora/qlora轻量化微调、dpo/rlhf人类偏好对齐训练，支持多gpu分布式训练；各训练任务采用独立子进程隔离运行以避免显存泄漏，对接mlflow组件完成训练超参、指标、模型版本全实验追踪。

14、可选的，部署服务基于vllm引擎实现轻量化lora适配器动态热加载，多业务lora适配器共享同一基座推理引擎，无需重启服务完成新模型上线；部署服务具备多租户算力、数据隔离能力，配置草稿、待审核、已上线三级模型发布审核流程。

15、可选的，评测服务采用llm-as-judge大模型裁判机制，针对事实准确性、上下文连贯性两个维度进行0~100分语义打分，同步计算bleu、rouge辅助文本指标；评测输出标准化报告，并将识别出的幻觉、细节缺失、引用错误类缺陷样本自动回流至语料服务迭代优化数据集。

16、可选的，推理引擎层分为生成引擎组与服务引擎组；生成引擎组配置大参数量模型，执行三级语料合成、llm裁判评测任务；服务引擎组搭配轻量基座模型加载lora适配器，承载面向终端用户的低延迟线上业务推理请求；两组引擎硬件算力资源相互隔离，任务执行互不抢占资源。

17、可选的，数据与基础设施层采用postgresql存储元数据，配套共享文件存储训练语料、lora模型权重、实验日志，统一调度管理gpu算力集群；平台基于jwt token完成全api网关鉴权，实现租户数据通过用户id隔离、企业私有文档与训练数据本地存储不出域，对包含训练启动、模型部署、数据删除在内的关键操作留存完整审计日志。

18、可选的，平台基于docker compose完成全服务容器化一键编排，区分生产、开发、mlflow实验三套独立运行环境；平台同时兼容本地私有化部署、云化部署场景，配置客户端轻量化远程接入方式，支持昇腾npu、通用gpu两类硬件算力的量化适配运行。

19、经由上述的技术方案可知，与现有技术相比，本发明公开提供了一种端到端大模型训练部署与智能体创建一体化平台，具有以下有益效果：

20、（1）平台整合语料制备、模型微调、推理部署、自动评测全流程，依托对话式agent交互替代传统复杂表单配置，业务人员无需专业ai知识即可独立完成垂直模型与行业智能体搭建，解决多工具切换、操作繁琐的行业痛点。

21、（2）依托eda文档分析自动分层生成记忆、推理、多轮对话三类训练样本，搭配llm自动质检与语义去重，替代高成本长周期人工标注，数据制备由两至三个月缩短至天级，同时提升训练数据多样性与质量。

22、（3）生成、在线推理两组算力集群资源隔离互不抢占；多业务lora适配器共享同一基座实现动态热加载，无需重复部署完整模型，gpu利用率大幅提升，降低企业算力采购成本，兼顾评测质量与线上推理低延迟需求。

23、（4）摆脱人工抽检与基础文本指标的局限性，从语义维度量化模型输出质量，自动归集缺陷样本回流语料模块优化数据集，构建数据驱动的自动化迭代链路，缩短模型优化周期。

24、（5）支持docker容器一键编排，兼容私有化、云化部署，配备客户端远程运维，同时适配通用gpu与昇腾npu国产算力，可满足金融、制造、政务、教育等多行业落地要求。

25、（6）基于jwt鉴权、用户id租户隔离实现企业私有数据本地存储不出域，配套模型上线多级审核、全流程操作审计机制，满足高敏感行业数据合规管控要求。

26、（7）训练进程独立隔离避免显存泄漏，集成mlflow完整记录超参、指标、模型版本，支持lora/qlora/dpo/rlhf多类微调方案，兼顾分布式多卡训练与故障稳定运行。