数据传输方法、装置、电子设备及存储介质与流程

1.本公开涉及分布式存储技术领域，尤其涉及一种数据传输方法、装置、电子设备及存储介质。


背景技术：

2.分布式存储是将数据分散存储在多台独立的设备上，其采用可扩展的系统结构，利用多台存储服务器分担存储负荷。
3.相关技术中，对分布式块存储采用的是运行在内核态或者在此基础上叠加uio(userspace i/o，用户空间读写)的技术，做到半用户态化，性能较差、可扩展性不高。
4.需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。


技术实现要素：

5.本公开的目的在于提供一种数据传输方法、装置、电子设备及存储介质，该数据传输方法实现了协议栈全用户态化，网络io路径大幅缩减，避免用户态和内核态交互。
6.本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。
7.本公开实施例提供一种数据传输方法，包括：通过tcp/ip网络接收客户端发送的读写数据包；基于用户态对所述读写数据包进行解析，获得iscsi读写指令；对所述iscsi读写指令进行解析，获得scsi读写指令；将所述scsi读写指令发送至目标存储设备，以根据所述scsi读写指令执行读写操作。
8.在本公开一些示例性实施例中，上述方法还包括：在执行所述scsi读写指令后，生成scsi响应；对所述scsi响应进行封装，获得iscsi响应；通过tcp/ip网络将所述iscsi响应返回至所述客户端。
9.在本公开一些示例性实施例中，通过tcp/ip网络接收客户端发送的数据包，包括：基于生产者线程接收所述客户端的网卡发送的数据包；基于用户态对所述数据包进行解析，获得iscsi读写指令，包括：基于所述生产者线程对所述数据包进行解析，获得iscsi读写指令。
10.在本公开一些示例性实施例中，将所述scsi读写指令发送至目标存储设备，包括：基于消费者线程将所述scsi读写指令发送至目标存储设备。
11.在本公开一些示例性实施例中，所述生产者线程为pmd线程，所述消费者线程为work thread线程。
12.在本公开一些示例性实施例中，上述方法还包括：通过tcp/ip网络接收客户端发送的控制请求数据包；对所述控制请求数据包进行解析，获得控制请求；确定与所述控制请求对应的目标存储设备。
13.本公开实施例提供一种数据传输装置，其特征在于，包括：数据包接收模块，用于
通过tcp/ip网络接收客户端发送的读写数据包；数据包解析模块，用于基于用户态对所述读写数据包进行解析，获得iscsi读写指令；指令获得模块，用于对所述iscsi读写指令进行解析，获得scsi读写指令；指令发送模块，用于将所述scsi读写指令发送至目标存储设备，以根据所述scsi读写指令执行读写操作。
14.本公开实施例提供一种数据传输装置，其特征在于，包括：响应生成模块，用于在执行所述scsi读写指令后，生成scsi响应；响应封装模块，用于对所述scsi响应进行封装，获得iscsi响应；响应返回模块，用于通过tcp/ip网络将所述iscsi响应返回至所述客户端。
15.本公开实施例提供一种电子设备，包括：至少一个处理器；存储装置，用于存储至少一个程序，当至少一个程序被至少一个处理器执行时，使得至少一个处理器实现上述任一种数据传输方法。
16.本公开实施例提供一种计算机可读存储介质，其上存储有计算机程序，其特征在于，计算机程序被处理器执行时实现上述任一种数据传输方法。
17.本公开实施例提供的数据传输方法，实现了协议栈全用户态化，网络io路径大幅缩减，避免用户态和内核态交互；同时支持更大iscsi链接，可配置、定制的认证；利用网卡vf特性，采用pmd高效数据报收发模式，充分发挥网卡带宽/收发报文能力。此外，相比传统的整列存储，更易于扩展，易于部署。
18.应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
19.此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
20.图1是根据一示例性实施方式示出的一种数据传输方法的流程图。
21.图2是根据一示例示出的一种io系统处理图。
22.图3是根据一示例性实施方式示出的一种数据传输方法的流程图。
23.图4是根据一示例性实施方式示出的一种数据传输方法的流程图。
24.图5是根据一示例性实施方式示出的一种数据传输装置的框图。
25.图6是根据一示例性实施方式示出的一种电子设备的结构示意图。
具体实施方式
26.现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。
27.此外，附图仅为本公开的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功
能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
28.图1是根据一示例性实施方式示出的一种数据传输方法的流程图。
29.如图1所示，本公开实施例提供的数据传输方法可以包括以下步骤。
30.在步骤s102中，通过tcp/ip(transmission control protocol/internet protocol，传输控制协议/网际协议)网络接收客户端发送的读写数据包。
31.图2是根据一示例示出的一种io(input/output，输入/输出)系统处理图。
32.参考图2，本公开实施例的io系统可以包括iscsi(internet small computer system interface，internet小型计算机系统接口)initiator(启动器)，target(目标端)和存储集群，iscsi initiator可以包括app(应用)io、vfs(virtual file system，虚拟文件系统)、file system(文件系统)、block(块)io、io schedule(调度器)scsi upper(上层)、scsi mid(中层)和scsi low(底层)。
33.其中，iscsi技术可以将现有scsi接口与以太网络(ethernet)技术结合，基于tcp/ip的协议连接iscsi服务端(target)和客户端(initiator)，使得封装后的scsi数据包可以在通用互联网传输，最终实现iscsi服务端映射为一个存储空间(磁盘)提供给已连接认证后的客户端。
34.其中，upper层可以采用共享内存技术，把网卡的收发队列直接暴漏给用户态，bypass内核态；mid层可以把tcp/ip协议转换成iscsi协议，并进一步完成iscsi协议的解析，转换成client(客户端)通用可识别的请求；low层可以采用cas(central authentication service，中央认证服务)及线程分核免锁数据分发方案，极大增加target的处理能力，降低target客户机成本。可以利用client的数据转换功能，把请求发往不同的存储系统。
35.在示例性实施例中，可以基于生产者线程接收客户端的网卡发送的数据包。
36.其中，生产者线程可以为pmd线程。
37.在步骤s104中，基于用户态对读写数据包进行解析，获得iscsi读写指令。
38.在示例性实施例中，基于生产者线程对数据包进行解析，获得iscsi读写指令。
39.参考图2，pmd线程可以在用户态场景下接收网络包，并在用户态场景下解析出iscsi指令。
40.在步骤s106中，对iscsi读写指令进行解析，获得scsi读写指令。
41.继续参考图2，pmd线程可以把iscsi指令包解析出scsi指令，然后根据scsi指令的操作码执行相关操作(如读写操作等)。
42.在步骤s108中，将scsi读写指令发送至目标存储设备，以根据scsi读写指令执行读写操作。
43.在示例性实施例中，基于消费者线程将scsi读写指令发送至目标存储设备。
44.其中，消费者线程可以为work thread线程，目标存储设备可以为块设备，例如存储集群中的硬盘。
45.继续参考图2，本公开实施例可以采用cas多核免锁的消费者生产者模型。其中，work thread线程是消费者线程，主要消费pmd thread线程产生的请求，并处理该scsi指令，并按照一定的规则进行数据拆分，然后按照路由规则把请求发送到存储设备。其中，
work thread线程可以采用ring buffer(环形缓存)。
46.本公开实施例中，在将scsi读写指令发送至目标存储设备后，目标存储设备可以根据scsi读写指令执行读写操作。
47.本公开实施例中，可以设置pmd模块、libnet(接口函数库)模块、stgt模块和client模块来完成上述功能。
48.其中，pmd模块可以用于完成网卡vf队列请求收发，收到请求后将请求放到litnet模块队列；libnet模块可以在用户态基础上完成tcp/ip协议栈的解析，解析成iscsi协议的请求或者cmd后，把请求放到starge(存储)模块队列；stgt模块中的starge从队列中收到请求后，完成iscsi数据格式的请求解析，解析成通用的数据格式发往client模块；client模块可以对接后端存储请求，主要完成数据格式的转换，以便对接不同的后端存储。
49.本公开实施例提供的数据传输方法，实现了协议栈全用户态化，网络io路径大幅缩减，避免用户态和内核态交互；同时支持更大iscsi链接，可配置、定制的认证；利用网卡vf特性，采用pmd高效数据报收发模式，充分发挥网卡带宽/收发报文能力。此外，相比传统的整列存储，更易于扩展，易于部署。
50.图3是根据一示例性实施方式示出的一种数据传输方法的流程图。
51.如图3所示，本公开实施例提供的数据传输方法可以包括以下步骤。
52.在步骤s302中，在执行scsi读写指令后，生成scsi响应。
53.本公开实施例中，在目标存储设备执行scsi读写指令后，可以生成scsi响应(response)返回至client模块；client端可以从内核读取response信息，解析出scsi需要相关信息，并传递给target。
54.在步骤s304中，对scsi响应进行封装，获得iscsi响应。
55.本公开实施例中，target可以把scsi命令封装成iscsi指令，并把该指令发送给client模块，由client模块发送给远端。
56.在步骤s306中，通过tcp/ip网络将iscsi响应返回至客户端。
57.本公开实施例中，client模块可以把iscsi响应封装成tcp相关信息，生成网络消息报，并把请求存储到网卡队列；在网卡nic(network interface controller，网络接口控制器)收到请求后，通过物理网络把请求发送到远端。
58.本公开实施例提供的数据传输方法，可以实现高可用的iscsi块设备挂载，保障系统故障时能够快速恢复，用户业务零感知，同时大幅提升性能。
59.图4是根据一示例性实施方式示出的一种数据传输方法的流程图。
60.如图4所示，本公开实施例提供的数据传输方法可以包括以下步骤。
61.在步骤s402中，通过tcp/ip网络接收客户端发送的控制请求数据包。
62.本公开实施例中，在进行读写操作之前，可以通过tcp/ip网络接收客户端发送的控制请求数据包，其中，控制请求可以包括鉴权请求。
63.在步骤s404中，对控制请求数据包进行解析，获得控制请求。
64.本公开实施例中，可以对控制请求数据包进行解析，获得通用格式的控制请求。
65.在步骤s406中，确定与控制请求对应的目标存储设备。
66.本公开实施例中，可以根据控制请求，确定与其对应的目标存储设备。在后续读写操作时，可以访问确定好的目标存储设备。
67.下述为本公开装置实施例，可以用于执行本公开方法实施例。对于本公开装置实施例中未披露的细节，请参照本公开方法实施例。
68.图5是根据一示例性实施方式示出的一种数据传输装置的框图。
69.如图5所示，数据传输装置700可以包括：数据包接收模块702、数据包解析模块704、指令获得模块706和指令发送模块708。
70.其中，数据包接收模块702用于通过tcp/ip网络接收客户端发送的读写数据包；数据包解析模块704用于基于用户态对所述读写数据包进行解析，获得iscsi读写指令；指令获得模块706用于对所述iscsi读写指令进行解析，获得scsi读写指令；指令发送模块708用于将所述scsi读写指令发送至目标存储设备，以根据所述scsi读写指令执行读写操作。
71.在示例性实施例中，数据传输装置700还可以包括：响应生成模块，用于在执行所述scsi读写指令后，生成scsi响应；响应封装模块，用于对所述scsi响应进行封装，获得iscsi响应；响应返回模块，用于通过tcp/ip网络将所述iscsi响应返回至所述客户端。
72.在示例性实施例中，通过tcp/ip网络接收客户端发送的数据包，包括：基于生产者线程接收所述客户端的网卡发送的数据包；基于用户态对所述数据包进行解析，获得iscsi读写指令，包括：基于所述生产者线程对所述数据包进行解析，获得iscsi读写指令。
73.在示例性实施例中，将所述scsi读写指令发送至目标存储设备，包括：基于消费者线程将所述scsi读写指令发送至目标存储设备。
74.在示例性实施例中，所述生产者线程为pmd线程，所述消费者线程为work thread线程。
75.在示例性实施例中，数据传输装置700还可以包括：控制请求数据包接收模块，用于通过tcp/ip网络接收客户端发送的控制请求数据包；控制请求数据包解析模块，用于对所述控制请求数据包进行解析，获得控制请求；目标存储设备确定模块，用于确定与所述控制请求对应的目标存储设备。
76.需要注意的是，上述附图中所示的框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
77.图6是根据一示例性实施方式示出的一种电子设备的结构示意图。需要说明的是，图6示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
78.如图6所示，电子设备800包括中央处理单元(cpu)801，其可以根据存储在只读存储器(rom)802中的程序或者从存储部分808加载到随机访问存储器(ram)803中的程序而执行各种适当的动作和处理。在ram803中，还存储有系统800操作所需的各种程序和数据。cpu 801、rom802以及ram 803通过总线804彼此相连。输入/输出(i/o)接口805也连接至总线804。
79.以下部件连接至i/o接口805：包括键盘、鼠标等的输入部分806；包括诸如阴极射线管(crt)、液晶显示器(lcd)等以及扬声器等的输出部分807；包括硬盘等的存储部分808；以及包括诸如lan卡、调制解调器等的网络接口卡的通信部分809。通信部分809经由诸如因特网的网络执行通信处理。驱动器810也根据需要连接至i/o接口805。可拆卸介质811，诸如
磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器810上，以便于从其上读出的计算机程序根据需要被安装入存储部分808。
80.特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分809从网络上被下载和安装，和/或从可拆卸介质811被安装。在该计算机程序被中央处理单元(cpu)801执行时，执行本公开的系统中限定的上述功能。
81.需要说明的是，本公开所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd
‑
rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、rf等等，或者上述的任意合适的组合。
82.附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
83.描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括发送单元、获取单元、确定单元和第一处理单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，发送单元还可以被描述为“向所连接的服务端发送图片获取请求的单元”。
84.作为另一方面，本公开还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的设备中所包含的；也可以是单独存在，而未装配入该设备中。上述计算
机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该设备执行时，使得该设备包括：通过tcp/ip网络接收客户端发送的读写数据包；基于用户态对所述读写数据包进行解析，获得iscsi读写指令；对所述iscsi读写指令进行解析，获得scsi读写指令；将所述scsi读写指令发送至目标存储设备，以根据所述scsi读写指令执行读写操作。
85.以上具体地示出和描述了本公开示例性实施方式。可理解的是，本公开不限于这里描述的详细结构、设置方式或实现方法；相反，本公开意图涵盖包含在所附权利要求的精神和范围内的各种修改和等效设置。