语音服务连接控制方法、语音服务网关设备及计算机程序产品与流程

摘要: 本技术属于语音服务网关,尤其涉及一种语音服务连接控制方法、语音服务网关设备及计算机程序产品。背景技术:1、语音类应用通常需要接入自动语音识别、语音合成、同声传译...
语音服务连接控制方法、语音服务网关设备及计算机程序产品与流程

本技术属于语音服务网关,尤其涉及一种语音服务连接控制方法、语音服务网关设备及计算机程序产品。

背景技术:

1、语音类应用通常需要接入自动语音识别、语音合成、同声传译、会议转写和流式翻译等多种语音处理能力。不同语音处理能力可由不同服务提供方的语音引擎实现,各语音引擎在连接协议、响应速度、结束处理方式和断连特性方面存在差异。客户端接入多个语音引擎时,通常需要维护多套接口和连接,新增或者更换语音引擎还可能涉及客户端侧的适配修改。

2、在多语音引擎接入场景中,现有连接管理方式可能对多个语音引擎采用相同或者固定的连接回收时长。由于各语音引擎返回最终结果所需的时间不同,回收时长偏短时,部分连接可能在最终结果返回之前被关闭;回收时长偏长时,已经不再传输业务数据的连接可能继续占用连接和存储资源。

3、此外,在客户端通过统一入口访问多个语音引擎并承载多个语音处理任务的场景中,各任务的连接状态和处理进度可能存在差异,固定的连接管理策略可能难以兼顾任务连续性与连接资源使用效率。

技术实现思路

1、有鉴于此,本技术实施例提供一种语音服务连接控制方法、语音服务网关设备及计算机程序产品,用于在客户端经统一入口访问多个语音引擎时,对不同语音引擎分别设置最终结果的宽限等待时长,以提高语音服务网关对下游连接进行管理的准确性。

2、本技术实施例的第一方面提供一种语音服务连接控制方法,包括:

3、接收客户端发送的上行消息,根据所述上行消息携带的能力类型标识,从至少两个语音引擎中确定目标语音引擎;

4、建立或复用与所述目标语音引擎之间的下游连接,经所述下游连接向所述目标语音引擎转发所述上行消息的负载内容;

5、接收所述客户端发送的结束标识;

6、按照与所述目标语音引擎对应的宽限时长开始计时;

7、在所述宽限时长届满且未接收到所述目标语音引擎返回的最终结果时,关闭所述下游连接;

8、其中,不同语音引擎对应的宽限时长不同。

9、上述方法根据能力类型标识确定目标语音引擎,并经相应下游连接将负载内容转发至目标语音引擎;在结束标识触发后按照目标语音引擎的宽限时长等待最终结果,从而使连接路由和连接回收均与目标语音引擎的处理能力及响应特性相适配。由此,响应较慢的语音引擎可获得与其处理特性相适配的最终结果等待时间,响应较快的语音引擎对应的下游连接可及时释放,从而减少连接过早关闭或释放不及时的情况。

10、在一些实施例中,所述接收客户端发送的上行消息,根据所述上行消息携带的能力类型标识,从至少两个语音引擎中确定目标语音引擎,包括:

11、经同一客户端连接接收所述客户端发送的多条上行消息;

12、分别读取各条所述上行消息携带的能力类型标识;

13、根据各所述能力类型标识对应的语音引擎处理分支,分别确定各条所述上行消息对应的目标语音引擎。

14、通过使同一客户端连接承载多条具有不同能力类型标识的上行消息,可减少客户端为不同语音引擎分别建立入口连接的需要。

15、在一些实施例中,所述建立或复用与所述目标语音引擎之间的下游连接,包括:

16、获取发送所述上行消息的用户标识;

17、在连接登记表中查询与所述用户标识及所述目标语音引擎对应的可用连接;

18、在查询到所述可用连接时,将所述可用连接作为所述下游连接;

19、在未查询到所述可用连接时,建立所述下游连接,并在建立成功后将所述下游连接与所述用户标识及所述目标语音引擎对应登记至所述连接登记表。

20、通过查询并复用已登记的下游连接,或者在未查询到连接时建立并登记新的下游连接,可减少重复建立连接以及连接记录遗漏的情况。

21、在一些实施例中,所述获取发送所述上行消息的用户标识之后,还包括:

22、获取所述上行消息携带的会话标识;

23、将所述用户标识、所述能力类型标识和所述会话标识的组合作为在所述连接登记表中查询连接和登记连接的复合索引,以使同一用户的不同语音处理能力对应的下游连接相互隔离,并使同一用户针对同一语音处理能力发起的不同会话对应的下游连接相互隔离。

24、通过将用户标识、能力类型标识和会话标识的组合作为索引,可使同一用户的不同能力或不同会话分别对应不同连接,降低不同任务之间误用连接记录的可能性。

25、在一些实施例中,所述建立或复用与所述目标语音引擎之间的下游连接,还包括:

26、在未查询到所述可用连接时,将所述复合索引标记为建立中状态;

27、在所述下游连接建立成功时,将所述下游连接登记为活跃状态;

28、在所述下游连接建立失败时,删除所述建立中状态对应的记录,以避免失效连接残留在所述连接登记表中。

29、通过检查与建立一体化的原子操作,在未查询到与用户标识及目标语音引擎对应的可用连接时将复合索引标记为建立中状态,在连接建立成功后登记为活跃状态,并在连接建立失败时删除建立中状态对应的记录,可减少并发首包造成的重复建连以及失败连接残留。

30、在一些实施例中,所述接收所述客户端发送的结束标识之前,还包括:

31、监测自最近一次接收到客户端上行音频数据起的经过时长;

32、在所述经过时长达到保活间隔且所述目标语音引擎需要保活时,经所述下游连接向所述目标语音引擎发送保活数据,以维持所述下游连接处于活跃状态;

33、其中,所述保活数据表示当前语音处理任务未结束,且不用于触发所述宽限时长的计时。

34、通过在满足保活条件时发送保活数据,可在任务进行期间维持需要保活的下游连接处于活跃状态,减少因业务负载暂时中断而导致连接失活的情况。

35、在一些实施例中,所述接收所述客户端发送的结束标识之后,还包括:

36、停止针对当前会话发送所述保活数据,并将所述下游连接更新为等待最终结果状态;

37、在所述宽限时长内接收到所述最终结果时,向所述客户端返回所述最终结果并关闭所述下游连接;

38、其中,任务进行期间的保活处理与所述结束标识触发的宽限回收处理采用相互分离的触发条件。

39、通过使任务进行期间的保活处理与结束标识触发的宽限回收处理采用相互分离的触发条件,可避免将任务进行期间暂时未收到上行音频数据误判为任务结束,并可在接收到结束标识后继续等待最终结果,从而兼顾下游连接的活跃维持与及时回收。

40、在一些实施例中,所述宽限时长按照以下方式中的任一种确定:

41、根据所述目标语音引擎的响应特性预先配置固定的宽限时长;或者,

42、获取所述目标语音引擎的协议规定时长、所述下游连接在历史时段内相邻两次传输业务数据的时间间隔的统计值以及所述下游连接在所述历史时段内的错误率中的至少一项,根据获取的信息确定所述宽限时长,并将确定出的所述宽限时长约束在下限时长至上限时长的范围内。

43、通过结合协议规定时长、历史业务数据间隔统计值和历史错误率中的至少一项确定宽限时长,并利用上下限约束确定结果,可降低因短期状态波动使等待时长异常的可能性。

44、在一些实施例中,所述的语音服务连接控制方法,还包括:

45、接收针对所述宽限时长的更新指令,并保存所述更新指令所指示的更新后宽限时长;

46、对于已经开始计量宽限时长的下游连接,继续使用已开始的宽限计时对应的宽限时长,并自下一次接收到结束标识起按照所述更新后宽限时长计时。

47、通过使更新后的宽限时长自下一次结束标识起生效,可使已经开始宽限计时的任务继续按照启动时取得的参数完成等待,减少参数切换对进行中任务的影响。

48、在一些实施例中,所述至少两个语音引擎分别经相对应的适配器接入;

49、各所述适配器用于提供统一的连接建立、数据发送、数据接收、连接关闭和错误码映射接口,并在所述适配器内部完成所述统一的连接建立、数据发送、数据接收、连接关闭和错误码映射接口与对应语音引擎的私有协议之间的转换。

50、通过由各适配器提供统一的连接建立、数据发送、数据接收、连接关闭和错误码映射接口,并在适配器内部完成统一的连接建立、数据发送、数据接收、连接关闭和错误码映射接口与对应语音引擎私有协议之间的转换,可使语音服务网关以统一处理方式接入不同语音引擎,并减少更换语音引擎对客户端消息协议的影响。

51、在一些实施例中,所述关闭所述下游连接,包括:

52、停止接收当前会话的新负载,并停止与所述下游连接对应的计时;

53、调用所述目标语音引擎对应的适配器,按照所述目标语音引擎的协议断开所述下游连接;

54、从用于登记所述下游连接的连接登记表中注销对应记录,并记录所述下游连接的回收原因。

55、通过在关闭下游连接时停止接收当前会话的新负载和与下游连接对应的计时,调用目标语音引擎对应的适配器按照目标语音引擎的协议断开下游连接,并从连接登记表中注销对应记录及记录回收原因,可使连接关闭过程与连接登记状态保持一致,并便于区分正常结束、宽限超时、保活失败或者连接异常等回收情形。

56、在一些实施例中,所述的语音服务连接控制方法,还包括:

57、在所述下游连接异常断开时,保持所述用户标识和所述会话标识不变;

58、重新建立与所述目标语音引擎之间的连接,并将重新建立的连接与所述复合索引对应登记为当前下游连接。

59、通过在下游连接异常断开时保持用户标识和会话标识不变,重新建立与目标语音引擎之间的连接,并将重新建立的连接与由用户标识、能力类型标识和会话标识组成的复合索引对应登记为当前下游连接,可保持任务的用户和会话上下文,减少异常断链对任务连续性的影响。

60、在一些实施例中,所述的语音服务连接控制方法,还包括:

61、在未重新建立与所述目标语音引擎之间的连接时,从所述至少两个语音引擎中确定提供与所述目标语音引擎相同的语音处理能力的备用语音引擎;

62、经所述备用语音引擎对应的适配器建立连接,并将建立的连接与所述复合索引对应登记为当前下游连接,其中,切换至所述备用语音引擎的过程中保持所述客户端使用的消息协议和所述会话标识不变。

63、通过在未重新建立与目标语音引擎之间的连接时,从至少两个语音引擎中确定提供相同语音处理能力的备用语音引擎,可以经备用语音引擎对应的适配器建立连接,并保持客户端使用的消息协议和会话标识不变,从而提高任务连接的连续性。

64、本技术实施例的第二方面提供一种语音服务网关设备,包括处理器和存储器,所述存储器存储有计算机程序,所述计算机程序被所述处理器执行时,使所述语音服务网关设备执行本技术实施例第一方面所述的语音服务连接控制方法。

65、本技术实施例的第三方面提供一种计算机程序产品,包括计算机程序,所述计算机程序被运行时,使得本技术实施例第一方面所述的语音服务连接控制方法被执行。

66、可以理解的是,上述第二方面和第三方面的有益效果可以参见上述第一方面中的相关描述,在此不再赘述。