一种大模型原生的跨设备操作系统的制作方法
本发明涉及大模型,特别是涉及一种大模型原生的跨设备操作系统。
背景技术:
1、随着大模型技术的快速发展,传统云平台的算力调度模式通常绑定特定主机,导致跨设备的异构算力资源无法在操作系统底层进行统一的纳管与弹性分配;同时,现有的应用系统普遍存在“数据孤岛”问题,不同应用实例间的数据流转往往依赖外部接口或第三方中间件,缺乏操作系统底层的统一调度和协同机制,这使得多用户并发访问时的资源隔离与任务调度变得复杂;此外,传统应用在处理用户上传的pdf、word等非结构化文档时,通常需要依赖上层应用自身的数据预处理模块进行格式解析和向量化转换,缺乏操作系统层面的原生支持,导致不同应用难以共享同一份知识库数据,不仅造成重复计算的资源浪费,也限制了用户在跨应用场景下的数据交互体验与整体效率。
技术实现思路
1、针对上述技术问题,本发明采用的技术方案为:
2、根据本申请提供的一种大模型原生的跨设备操作系统,包括:
3、应用交互层,用于通过浏览器向多用户提供统一的操作界面和应用访问入口;
4、操作系统核心层,部署于所述应用交互层之下,配置为在底层维护运行有多个应用实例,所述应用实例与上层所提供的应用一一对应,用于实现对应应用的功能;
5、底层资源纳管层,部署于所述操作系统核心层之下,配置为统一纳管底层的异构算力设备和存储数据库;
6、所述操作系统核心层还配置有资源调度接口和数据路由接口;
7、当任一用户通过所述应用交互层打开对应应用时,所述操作系统核心层建立所述用户与所述应用实例之间的连接关系;所述应用实例支持同时与多个用户建立连接关系;
8、当用户通过所述连接关系控制所述应用实例发起数据交互或算力计算任务时,所述应用实例通过调用所述资源调度接口与所述操作系统核心层进行交互,由所述操作系统核心层控制所述底层资源纳管层执行实际的算力运算或数据访问操作,并将执行结果返回至所述应用实例,再由所述应用实例反馈至所述应用交互层;
9、当所述应用实例需要将数据同步至其他应用实例时,所述应用实例将待同步数据发送至所述操作系统核心层的数据路由接口,由所述操作系统核心层将所述待同步数据转发至目标应用实例;
10、当任一用户通过所述应用实例上传数据时,所述操作系统核心层对所述数据进行向量化处理,并存入所述底层资源纳管层的统一数据库中,使得所有建立有连接关系的应用实例均能通过所述操作系统核心层访问该数据。
11、本发明至少具有以下有益效果:
12、本发明的大模型原生的跨设备操作系统,通过应用交互层、操作系统核心层和底层资源纳管层的三级分层架构,实现了异构算力设备和存储数据库的底层统一纳管与解耦,在此架构上,当用户打开应用时,操作系统核心层能够动态建立用户与应用实例之间的专属连接关系,且支持同一应用实例与多个用户建立一对多的并发连接并实现底层逻辑隔离,通过核心层配置的资源调度接口,应用实例在发起算力计算或数据交互任务时,无需关心底层硬件细节,直接向操作系统核心层下发指令即可由底层资源纳管层透明调度执行并返回结果,有效解决了传统云平台算力绑定硬件的局限性;同时,通过操作系统核心层的数据路由接口,任一应用实例需要同步数据时可直接将数据发送至核心层,由操作系统统一转发至目标实例,打破了传统应用间的数据孤岛;此外,系统在用户通过应用实例上传数据时,由操作系统核心层直接对数据执行自动向量化处理并存入底层统一数据库,使得所有建立有连接关系的应用实例均能通过操作系统核心层无障碍访问该数据,避免了各应用重复进行数据解析和向量转换的资源损耗,降低了多模态大模型应用的开发与部署门槛,为用户提供了跨应用、跨设备下的数据无缝流转和无感交互体验。
1.一种大模型原生的跨设备操作系统,其特征在于,包括:
2.根据权利要求1所述的大模型原生的跨设备操作系统,其特征在于,所述操作系统核心层建立所述用户与所述应用实例之间的连接关系,包括:
3.根据权利要求1所述的大模型原生的跨设备操作系统,其特征在于,当任一用户通过所述应用交互层打开对应应用时,所述操作系统核心层在建立所述连接关系之前,包括:
4.根据权利要求1所述的大模型原生的跨设备操作系统,其特征在于,所述底层资源纳管层中统一纳管的异构算力设备,包括:万卡智算服务器、万卡推理服务器、万卡边缘计算终端、具身智能机器人、工业智能设备、无人机以及无人车;所述操作系统核心层设有跨设备驱动适配模块,用于实现上述异构算力设备接入底层资源纳管层时的设备发现、驱动加载与网络互通。
5.根据权利要求1所述的大模型原生的跨设备操作系统,其特征在于,所述操作系统核心层对上传数据进行向量化处理,包括:
6.根据权利要求1所述的大模型原生的跨设备操作系统,其特征在于,所述应用实例需要将数据同步至其他应用实例,包括:
7.根据权利要求1所述的大模型原生的跨设备操作系统,其特征在于,所述操作系统核心层控制所述底层资源纳管层执行实际的算力运算,包括:
8.根据权利1所述的大模型原生的跨设备操作系统,其特征在于,所述操作系统核心层还包括系统中间件组件和系统内核组件;
9.根据权利1所述的大模型原生的跨设备操作系统,其特征在于,当用户通过所述连接关系控制所述应用实例发起算力计算任务时,所述算力计算任务包括大模型的模型训练、模型微调及模型推理任务;当用户发起的交互为数据访问请求时,所述应用实例通过调用所述资源调度接口将查询指令发送至操作系统核心层,由操作系统核心层在所述统一数据库中进行数据检索或向量相似度匹配,并将检索结果返回给应用实例。
10.根据权利1所述的大模型原生的跨设备操作系统,其特征在于,所述底层资源纳管层的统一数据库,包括向量数据库、文件存储系统及元数据管理系统;
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com