一种基于业务感知的流量控制方法

    公开(公告)号:CN118433127A

    公开(公告)日:2024-08-02

    申请号:CN202410683077.7

    申请日:2024-05-29

    Inventor: 崔博 蔡志成 徐雷

    Abstract: 本发明公开了一种基于业务感知流量控制方法,该方法包括以下步骤:向多服务应用发送包含特定请求头的业务负载;通过Jaeger收集、Elasticsearch存储每一条请求的信息;使用Java‑Client连接Kubernetes集群、Elasticsearch‑Java‑Client连接Elasticsearch后端存储;在Java端获取并处理每一层服务的性能指标;将收集到的指标用于动态流量调整算法BPTA(Business Priority Traffic Adjustment)的模型训练;向训练好的模型输入指标,模型给出相应的动作;将动作按比例分为两个值,较小的值用于低优先级业务的速率限制,允许更多高优先级的业务请求得到及时处理;最后执行流量调整动作。相对于目前的限流方法,本发明的限流策略更为细致,可在高负载下,使高优先级业务得到优先处理,实现业务感知,同时提高系统性能和用户体验。

Patent Agency Ranking