服务流量管理

通过 Dubbo 定义的路由规则,实现对流量分布的控制

流量管理

流量管理的本质是将请求根据制定好的路由规则分发到应用服务上,如下图所示:

What is traffic control

其中:

  • 路由规则可以有多个,不同的路由规则之间存在优先级。如:Router(1) -> Router(2) -> …… -> Router(n)
  • 一个路由规则可以路由到多个不同的应用服务。如:Router(2)既可以路由到Service(1)也可以路由到Service(2)
  • 多个不同的路由规则可以路由到同一个应用服务。如:Router(1)和Router(2)都可以路由到Service(2)
  • 路由规则也可以不路由到任何应用服务。如:Router(m)没有路由到任何一个Service上,所有命中Router(m)的请求都会因为没有对应的应用服务处理而导致报错
  • 应用服务可以是单个的实例,也可以是一个应用集群。

Dubbo流量管理介绍

Dubbo提供了支持mesh方式的流量管理策略,可以很容易实现 A/B测试金丝雀发布蓝绿发布等能力。

Dubbo将整个流量管理分成VirtualServiceDestinationRule两部分。当Consumer接收到一个请求时,会根据VirtualService中定义的DubboRouteDubboRouteDetail匹配到对应的DubboDestination中的subnet,最后根据DestinationRule中配置的subnet信息中的labels找到对应需要具体路由的Provider集群。其中:

  • VirtualService主要处理入站流量分流的规则,支持服务级别和方法级别的分流。
  • DubboRoute主要解决服务级别的分流问题。同时,还提供的重试机制、超时、故障注入、镜像流量等能力。
  • DubboRouteDetail主要解决某个服务中方法级别的分流问题。支持方法名、方法参数、参数个数、参数类型、header等各种维度的分流能力。同时也支持方法级的重试机制、超时、故障注入、镜像流量等能力。
  • DubboDestination用来描述路由流量的目标地址,支持host、port、subnet等方式。
  • DestinationRule主要处理目标地址规则,可以通过hosts、subnet等方式关联到Provider集群。同时可以通过trafficPolicy来实现负载均衡。

这种设计理念很好的解决流量分流和目标地址之间的耦合问题。不仅将配置规则进行了简化有效避免配置冗余的问题,还支持VirtualServiceDestinationRule的任意组合,可以非常灵活的支持各种业务使用场景。