一种面向高并发场景的语音识别连接池与资源优化方法与流程

本发明涉及计算机资源管理与流式语音数据处理领域，具体为一种面向高并发场景的语音识别连接池与资源优化方法。

背景技术：

1、现有语音识别服务在请求量较大时，通常采用固定容量的长连接池承接流式音频。业务进程启动后预建若干完成鉴权的连接，把空闲连接存入共享队列；请求到达时，处理线程等待并借出连接，在连接上写入音频帧、接收中间结果和最终结果，请求结束后清除会话标识并归还连接。连接维护线程按固定周期发送探活消息，对断开或超过存活期限的连接执行关闭和重建；另由信号量限制同时借出的连接数量，以队列长度和借用超时处理超出池容量的请求。识别服务内部则另行分配解码上下文、推理执行位置和音频缓冲空间，连接池通常只保存通道是否空闲、连接创建时间和最近使用时间，并不把这些识别资源的实际占用状态纳入同一次借用判断。流量变化时，管理程序往往依据连接占用比例扩大或缩小池容量，连接归还也多以业务线程收到结束事件为完成依据。

2、上述实现存在的主要技术问题是，连接池所表示的可接入能力与语音识别处理链实际能够兑现的资源能力不一致。在突发请求到达或长短会话交错时，空闲连接可能没有可同时绑定的解码上下文、推理执行位置或缓冲空间，请求虽然取得连接仍需在后续环节等待；反之，部分识别资源已经释放，连接却因状态更新滞后未能重新进入可借队列。若仅按照连接占用率扩池，会继续建立缺少处理资源支撑的通道，使排队从连接入口转移到推理环节，并造成文件描述符和缓冲对象额外占用。请求异常终止时，连接状态、未确认音频帧和资源释放记录还可能分散更新，使带有前一会话残留或未完成核销的连接被再次借出。因而，在高并发强度和识别时长持续变化的条件下，如何让连接借用、识别资源占用及会话回收形成一致的原子状态，是现有实现需要解决的单一关键矛盾。

技术实现思路

1、本发明的目的在于提供一种面向高并发场景的语音识别连接池与资源优化方法，可以解决上述背景技术中的问题。

2、为实现上述目的，本发明采取的技术方案为：

3、一种面向高并发场景的语音识别连接池与资源优化方法，包括：接收语音识别请求并采集连接池运行数据和识别资源占用数据，依据运行数据和占用数据形成池压力状态；

4、为池内连接建立包括传输通道状态和识别资源可兑现状态的连接描述记录，按照所述池压力状态从所述连接描述记录中选择可兑现连接；

5、为所述语音识别请求签发绑定所选连接与对应识别资源的资源租约，并基于所述资源租约传输语音帧和接收识别结果；

6、在请求结束后核验会话边界并核销所述资源租约，依据核验结果将连接迁移至热连接层、温连接层或隔离层。

7、优选的，所述池压力状态的形成包括：按照事件时标对请求到达记录、连接借还记录、排队记录和识别资源采样记录进行窗口化对齐；

8、在每个事件窗口内分别获得请求进入量与离开量、连接占用时长分布、等待序列变化、推理任务积压量以及缓冲区占用变化；

9、将相邻事件窗口中的所述等待序列变化与识别资源占用变化建立方向关联，并结合存在异常归还标记的连接比例，生成表征接入压力、处理压力和回收压力的池压力状态记录。

10、优选的，所述资源租约的签发包括：从所述连接描述记录中选取传输通道处于可借状态的候选连接，读取与各候选连接关联的解码上下文凭证、推理执行凭证和缓冲容量凭证；

11、按照所述语音识别请求的音频格式与识别任务类型核对各凭证的适配标记，将所述适配标记一致且未被占用的凭证组合为资源凭证组；

12、通过一次租约登记操作写入请求标识、连接标识、所述资源凭证组和租约序号，并在登记完成后将对应连接及资源凭证变更为租约占用状态。

13、优选的，所述会话边界的核验包括：在接收到最终识别结果或请求终止指令后停止向对应连接写入语音帧，比较已发送帧序号、服务端确认帧序号和已返回结果覆盖的帧序号；

14、依据比较结果生成完整边界标记、待排空边界标记或断裂边界标记；

15、对具有完整边界标记的连接清除请求标识与临时缓冲，对具有所述待排空边界标记的连接保留未确认帧索引，对具有所述断裂边界标记的连接保存通道异常记录，并将边界标记写入所述连接描述记录。

16、优选的，对所述池压力状态记录进行连续性处理包括：为事件窗口中的各项记录附加采样完整标记，对缺少识别资源采样记录的事件窗口保留缺口位置；

17、以缺口前后窗口中所述请求进入量与所述等待序列的变化方向形成接入侧替代记录，以所述连接占用时长分布和推理任务离开量的变化方向形成处理侧替代记录；

18、当两类变化方向不一致时，将对应缺口标记为压力转换边界，并终止跨越所述压力转换边界合并所述池压力状态记录。

19、优选的，所述一次租约登记操作包括：依据所述租约序号为所述候选连接和所述资源凭证组分别建立预占记录，将两类预占记录写入同一租约登记区；

20、再次读取所述连接描述记录和各资源凭证的当前占用序号，当当前占用序号与预占记录一致时提交租约登记，并同步发布所述租约占用状态；

21、当任一当前占用序号与预占记录不一致时撤销全部预占记录，将发生不一致的连接或资源凭证从本次候选集合删除后重新执行选择，不保留仅连接成功或仅资源成功的占用记录。

22、优选的，对已签发资源租约进行存续校验包括：按照所述租约序号关联语音帧写入事件、识别结果返回事件和资源执行事件，并以最新事件时标更新租约活动记录；

23、当连接仍产生所述语音帧写入事件而所述资源执行事件停止更新时，将所述资源凭证组标记为执行失联；

24、当所述资源执行事件持续更新而连接不再产生写入事件时，将候选连接标记为通道失联；

25、将所述执行失联或所述通道失联的租约转为待核销状态，冻结对应凭证的再次签发并保存未完成帧索引。

26、优选的，依据所述边界标记迁移连接包括：将完成临时缓冲清除且关联资源凭证已经核销的连接写入所述热连接层；

27、将传输通道探活通过但未关联可用资源凭证组的连接写入所述温连接层；

28、将具有所述待排空边界标记、所述断裂边界标记或资源凭证未完成核销记录的连接写入所述隔离层；

29、对所述隔离层连接依次执行未确认帧排空、会话标识清除、通道探活和资源占用序号复核，并根据复核得到的新边界标记重新确定连接所在层。

30、优选的，对所述热连接层和所述温连接层进行连接迁移包括：从连续池压力状态记录中读取接入压力与处理压力的变化方向，在所述接入压力先于所述处理压力上升时，从所述温连接层选择通道探活记录最新且不存在隔离历史标记的连接；

31、为所选连接预取与其适配标记一致的资源凭证组，待凭证占用序号复核一致后迁入所述热连接层；

32、在所述接入压力下降且所述处理压力未继续上升时，解除热连接关联的空闲资源凭证组，并将保留有效传输通道的连接迁入温连接层。

33、优选的，对所述隔离层连接的资源占用序号进行复核包括：根据连接关联的最近租约序号检索租约登记区，比较所述连接描述记录、所述资源凭证组和租约登记记录中的核销状态；

34、在三者均指向同一租约且均具有完成核销标记时，删除隔离历史中的待核销记录；

35、在任一记录缺失或核销状态不一致时，按照所述租约登记区保存的请求标识查找帧写入事件和资源执行事件，生成包含未完成事件索引的重建记录，关闭原传输通道并依据所述重建记录释放对应资源凭证。

36、与现有技术相比，本发明的有益效果在于：

37、1.通过为连接同时记录传输通道状态和识别资源可兑现状态，并在签发资源租约时一次性绑定连接、解码上下文凭证、推理执行凭证及缓冲容量凭证，请求只有在通道和处理资源均可占用时才进入语音帧传输过程。连接可借数量由池压力状态与真实资源占用共同限定，避免空闲通道被误认为完整处理能力，也避免扩充连接后把等待继续推向推理环节。租约登记采用预占、复核和统一提交，使连接占用与资源占用保持同一序号；任何一侧发生竞争均撤销整组预占，不留下单侧悬挂记录。请求强度快速上升时，热连接层可直接提供已具备兑现条件的连接；处理压力高于接入压力时，资源凭证约束会限制继续签发，因而排队位置、活动连接数量和实际处理能力保持一致，降低连接虚假可用造成的重复等待及资源占用抖动。

38、2.请求结束后比较已发送帧、服务端确认帧和识别结果覆盖范围，可把连接区分为完整边界、待排空边界和断裂边界，并据此执行临时缓冲清除、未确认帧保留或异常记录保存。只有完成会话状态清理且关联资源凭证已经核销的连接进入热连接层；传输通道正常但暂缺处理资源的连接进入温连接层；存在残留、断裂或核销不一致的连接进入隔离层接受排空、探活和占用序号复核。该分层回收过程阻断前一会话数据和资源记录向下一请求传播。连续池压力记录还驱动热连接层与温连接层之间迁移，在接入压力上升时为温连接预取相适配的资源凭证，在流量回落时先解除空闲重资源而保留低成本通道，使连接准备速度、会话边界安全和识别资源释放顺序相互协调，减少异常重建次数及空闲解码资源长期占用。