用于限制会话代理的应用接口编程(“API”)处理调用的系统和方法与流程
背景技术:
1、会话代理使用应用编程接口(“api”)调用通过与外部系统、服务或数据库交互来将其能力扩展到基础对话生成之外。当用户提供需要信息检索、动作执行或与另一平台集成的查询或命令时,会话代理可以制定api调用并将其发送到适当的外部服务。此过程可能涉及代理根据用户的输入和服务的规范,以所需的api格式打包请求——指定端点、方法(例如get、post、put或delete)以及必要的参数或有效载荷。在通过网络发送api调用时,代理等待响应,该响应可能包括数据、动作的确认或错误消息。一旦接收到响应,会话代理就处理信息并通过向用户呈现结果、采取进一步的动作或提示附加输入来将其集成回会话流中。这种方法允许会话代理执行复杂的任务,例如预订约会、获取实时数据(如天气或股票价格)、处理交易或管理用户帐户,从而创建将自然语言交互与功能系统操作联系起来的无缝交互式体验。
技术实现思路
1、然而,在会话代理中使用api调用引入了若干技术挑战和问题,必须仔细管理这些挑战和问题以确保流畅的用户体验。一个主要挑战是延迟,因为api调用取决于网络通信和外部服务器响应性,如果不进行优化或异步处理,这可能会在会话流程中引入明显的延迟。错误处理是另一个关键问题——api可能由于各种原因而失败,例如服务器停机、无效参数、认证失败、速率限制或意外的响应格式,从而要求代理在检测、恢复和优雅地传达错误方面是稳健的。安全和隐私也引起重大关注;api调用通常传输敏感的用户数据,因此需要强大的加密实践、安全的身份验证协议(如oauth)以及对api密钥和令牌的谨慎管理,以防止未经授权的访问或数据泄露。此外,外部api中的模式改变(诸如对端点、参数或响应结构的修改)可以破坏会话代理功能,除非实施版本化策略或动态适应技术。依赖性管理增加了另一层复杂性,因为严重依赖第三方服务会带来与外部供应商的可靠性和政策变化相关的风险。最后,由api实施的速率限制可能限制给定时间范围内的调用数量,迫使会话代理实施节流、缓存或排队机制以保持在允许的使用阈值内,同时保持响应的用户交互。解决这些挑战需要架构远见、弹性编程实践和持续监控的组合。
2、因此,本文描述了用于会话代理的新颖用途和/或改进的系统和方法。作为一个示例,本文描述了用于减少对api调用的依赖并因此减轻与其使用相关的技术挑战和问题的系统和方法。例如,可以通过首先基于对第一用户请求的分析来确定第一api需求可能性的系统来有效地解决或减轻上述技术挑战和问题。通过评估用户输入的内容、意图和复杂性,系统可以预测有多大可能性满足请求将需要外部api调用和响应周期。被称为第一api需求可能性的这个可能性分数量化了参与外部服务以满足用户需求的必要性。然后,系统将该可能性与预定义的第一api需求阈值进行比较,以决定是否保证继续进行api调用。如果可能性超过阈值,则系统启动一个或多个api调用;如果不是,则它可以依赖于缓存的数据、内部逻辑或推迟动作以减少不必要的网络开销。这种选择性策略有助于通过避免不必要的api调用来减轻延迟,通过减少对潜在不稳定的外部服务的依赖来增强可靠性,并在api速率限制内优化资源使用。此外,通过预测何时真正需要api调用,系统可以抢先分配用于错误处理、安全检查和回退响应的资源,从而创建更具弹性、高效和响应性的会话体验。这种智能决策框架大大减少了api相关技术风险的暴露,同时保持了高质量的用户交互。
3、在一些方面,描述了用于减轻由于本地实施的会话代理在计算机网络上的应用接口编程(“api”)处理调用而导致的数据泄漏的系统和方法。例如,系统可以经由在本地设备上实施的用户界面接收包括用于处理的第一话语的第一用户请求。系统可以基于第一用户请求来确定第一api数据安全置信度。系统可以将第一api数据安全置信度与第一api数据安全阈值进行比较。响应于确定第一api数据安全置信度不对应于第一api数据安全阈值,系统可以基于第一话语确定第一缓存内容并将第一缓存内容存储在存储器缓存中。系统可以生成用于在用户界面中显示的第一会话响应。系统可以经由用户界面接收包括第二话语的第二用户请求。系统可以从存储器缓存中检索第一缓存内容。系统可以基于第二用户请求和第一缓存内容来确定第二api数据安全置信度。系统可以将第二api数据安全置信度与第一api数据安全阈值进行比较。响应于确定第二api数据安全置信度对应于第一api数据安全阈值,系统可以生成第一api调用。系统可以接收响应于第一api调用的第一api响应。系统可以基于第一api响应生成第二会话响应以供在用户界面中显示。
4、通过本发明的详细描述和附图,本发明的各种其他方面、特征和优点将是显而易见的。还应当理解,前面的一般性描述和下面的详细描述都是示例,并不限制本发明的范围。如在说明书和权利要求书中所使用的,单数形式的“一”、“一个”和“该”包括复数指示物,除非上下文另有明确规定。另外,如说明书和权利要求书中所使用的,术语“或”是指“和/或”,除非上下文另有明确规定。另外,如说明书中所使用的,“一部分”是指给定项目(例如,数据)的一部分或全部(即,整个部分),除非上下文另有明确规定。
1.一种用于减轻由于本地实施的会话代理在计算机网络上的应用接口编程(“api”)处理调用而导致的数据泄漏的系统,所述系统包括:
2.根据权利要求1所述的系统,其中,基于所述第一用户请求确定所述第一api数据安全置信度还包括:
3.根据权利要求1所述的系统,其中,基于所述第一用户请求确定所述第一api数据安全置信度还包括:
4.根据权利要求1所述的系统,其中将所述第一api数据安全置信度与所述第一api数据安全阈值进行比较还包括:
5.根据权利要求1所述的系统,其中将所述第一api数据安全置信度与所述第一api数据安全阈值进行比较还包括:
6.一种用于减少对本地实施的会话代理在计算机网络上的应用接口编程(“api”)数据处理调用的依赖的方法,所述方法包括:
7.根据权利要求6所述的方法,还包括:
8.根据权利要求7所述的方法,还包括:
9.根据权利要求6所述的方法,其中,确定所述第一api需求阈值还包括:
10.根据权利要求6所述的方法,其中,确定所述第一api需求阈值还包括:
11.根据权利要求6所述的方法,其中,确定所述第一api需求阈值还包括:
12.根据权利要求6所述的方法,其中,确定所述第一api需求可能性还包括:
13.根据权利要求6所述的方法,其中,确定所述第一api需求可能性还包括:
14.根据权利要求6所述的方法,其中,确定所述第一api需求可能性还包括:
15.根据权利要求6所述的方法,其中,确定所述第一api需求可能性还包括:
16.根据权利要求6所述的方法,其中,确定所述第一api需求可能性还包括:
17.一个或多个非暂时性计算机可读介质,包括指令,所述指令在由一个或多个处理器执行时引起包括以下的操作:
18.根据权利要求17所述的一个或多个非暂时性计算机可读介质,其中,所述指令还引起包括以下的操作:
19.根据权利要求18所述的一个或多个非暂时性计算机可读介质,其中,确定所述第一api需求可能性还包括:
20.根据权利要求18所述的一个或多个非暂时性计算机可读介质,其中,确定所述第一api需求可能性还包括:
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com