在 Kubernetes 中实现 gRPC 流量的镜像和对比

Thu, 08 May 2025 09:35:14 +0800

本文主要解决在服务重构过程中如何保证新旧服务行为一致性的问题。

场景描述#

现有一个 python 开发的 gRPC 微服务提供了一些 数据查询 接口供上层应用使用，随着业务流量的增加运维这个服务的成本也逐渐增加，为了降低运维成本和提高性能 (木有擅长 python 高性能的开发)，因此选择了使用 go 语言对这个服务进行重写。在开发完成之后，需要对新服务的 gRPC 接口进行验证。

这种场景对测试开发人员来说，实在是太熟悉了吧？典型的 重放验证，马上能想到的验证手段就是：

如果有存量的单元测试，那么直接重新跑一遍单元测试就能快速的完成验证。
没有单元测试的情况，那么可以将新服务部署起来，通过流量复制的方式将旧服务的流量复制到新服务上，然后对比两个服务的返回结果是否一致。

flowchart LR
    %% 定义布局方向和间距
    subgraph s1["方案一: 单元测试验证"]
        direction TB
        UT[单元测试] -->|执行| NS1[新服务]
    end
    
    subgraph s2["方案二: 流量复制验证"]
        direction TB
        C[客户端] -->|请求| OS[旧服务]
        OS -->|响应| C
        OS -->|复制流量| NS2[新服务]
        NS2 -->|对比响应| OS
    end

    %% 设置布局方向和对齐方式
    s1 ~~~ s2

但是很遗憾 😭，并没有成熟的单元测试；测试人员也都是人肉测试，对于内部服务的接口验证帮助不大，因此这里采用第二种方式进行验证。

服务均采用 Kubernetes 部署。

方案介绍#

HTTP 流量的复制重放工具就很多很成熟了，而且往往在网关/代理一侧就能实现流量复制甚至对比。

工具	分类	文档链接
Nginx mirror	网关/代理	https://nginx.org/en/docs/http/ngx_http_mirror_module.html
APISIX	网关/代理	https://apisix.apache.org/docs/apisix/plugins/proxy-mirror/
Istio: Virtual Service mirror	Service Mesh	https://istio.io/latest/docs/tasks/traffic-management/mirroring/
GoReplay	流量镜像	https://github.com/buger/goreplay
tcpcopy	流量镜像	https://github.com/session-replay-tools/tcpcopy

tcpcopy 相比于其他工具方案，虽然不能直接使用，但是其作用于 TCP 传输层，功能会更丰富。相比之下，gRPC 流量复制工具就没有那么成熟了。

流量镜像 on Yeqown

在 Kubernetes 中实现 gRPC 流量的镜像和对比

场景描述#

方案介绍#