发明

服务请求的限流方法、装置、电子设备和存储介质

2023-05-15 10:51:15 发布于四川 0
  • 申请专利号:CN202310119145.2
  • 公开(公告)日:2024-11-29
  • 公开(公告)号:CN116112441A
  • 申请人:北京百度网讯科技有限公司
摘要:本公开提供了服务请求的限流方法、装置、电子设备和存储介质,涉及语音技术等人工智能领域,尤其涉及语音转写领域。具体实现方案为:在目标地域限流服务集群接收到目标用户的服务请求的情况下,获取目标用户对应的请求总并发限额、远端并发信息及本地并发数量;在远端并发信息中第一远端总并发数量与本地并发数量之和大于请求总并发限额的情况下,对服务请求进行限流处理。由此,每个地域限流服务集群可以在远端总并发数量与本地并发数量之和大于请求总并发限额时,对服务请求进行限流,实现了对服务请求进行跨地域限流,并且多地域限流服务集群可以从整体上进行限流,从而从整体上有效地进行资源利用,提高了资源利用率。

专利内容

(19)国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 116112441 A (43)申请公布日 2023.05.12 (21)申请号 202310119145.2 (22)申请日 2023.02.01 (71)申请人 北京百度网讯科技有限公司 地址 100085 北京市海淀区上地十街10号 百度大厦二层 (72)发明人 黄伟琦 曲春雨 江鹏  (74)专利代理机构 北京清亦华知识产权代理事 务所(普通合伙) 11201 专利代理师 孟洋 (51)Int.Cl. H04L 47/20 (2022.01) H04L 67/10 (2022.01) 权利要求书3页 说明书12页 附图4页 (54)发明名称 服务请求的限流方法、装置、电子设备和存 储介质 (57)摘要 本公开提供了服务请求的限流方法、装置、 电子设备和存储介质,涉及语音技术等人工智能 领域,尤其涉及语音转写领域。具体实现方案为: 在目标地域限流服务集群接收到目标用户的服 务请求的情况下,获取目标用户对应的请求总并 发限额、远端并发信息及本地并发数量 ;在远端 并发信息中第一远端总并发数量与本地并发数 量之和大于请求总并发限额的情况下,对服务请 求进行限流处理。由此,每个地域限流服务集群 可以在远端总并发数量与本地并发数量之和大 于请求总并发限额时,对服务请求进行限流,实 A 现了对服务请求进行跨地域限流,并且多地域限 1 流服务集群可以从整体上进行限流,从而从整体 4 4 2 上有效地进行资源利用,

最新专利