Spring Cloud Gateway与Envoy Sidecar在微服务请求路由中的架构设计

 更新时间:2025年08月04日 08:52:43   作者:yfceshi  
本文将从真实生产环境出发,分享如何结合Spring Cloud Gateway与Envoy Sidecar实现高可用、可扩展的请求路由设计,感兴趣的朋友跟随小编一起看看吧

Spring Cloud Gateway与Envoy Sidecar在微服务请求路由中的架构设计分享

在现代微服务架构中,请求路由层承担着流量分发、安全鉴权、流量控制等多重职责。传统的单一网关方案往往面临可扩展性和可维护性挑战。本文将从真实生产环境出发,分享如何结合Spring Cloud Gateway与Envoy Sidecar实现高可用、可扩展的请求路由设计。

1. 业务场景描述

  • 我们的电商平台包含几十个微服务,接口种类繁多。
  • 需要统一的流量入口,用于鉴权、限流、灰度发布、权重路由等。
  • 随着服务规模扩大,单台网关承载压力和部署频率成为瓶颈。
  • 期望将网关功能解耦、轻量化,并支持不同协议(HTTP/ gRPC)路由。

2. 技术选型过程

2.1 Spring Cloud Gateway(SCG)

  • 基于Reactor Netty,易于与Spring生态集成。
  • 提供路由匹配、过滤链、限流器等功能。
  • 但纯Java实现对高并发场景下的性能存在一定开销。

2.2 Envoy Sidecar

  • CNCF项目,采用C++高性能实现,支持丰富协议。
  • 提供外置代理能力,可与服务部署在同一Pod中。
  • 配置灵活,支持动态下发路由和集群健康检查。

2.3 架构方案对比

| 方案 | 优点 | 缺点 | | ------------ | ------------------------------ | ---------------------------- | | 单一SCG网关 | 易集成、可编程性强 | 性能瓶颈、扩缩容慢 | | Envoy网关 | 高性能、协议丰富 | 配置复杂、与业务耦合度高 | | SCG+Envoy | 双层路由:轻量协议过滤+业务路由 | 运维成本上升 |

综合考虑后,我们采用SCG+Envoy Sidecar的双层网关架构,将Envoy作为轻量协议入口,SCG作为业务路由与过滤链执行。

3. 实现方案详解

3.1 架构图

+-----------------+      +--------------+      +-------------+
| Client          | ---> | Envoy Sidecar| ---> | Spring Cloud|
| (HTTP/gRPC/X)   |      | Load Balancer|      | Gateway     |
+-----------------+      +--------------+      +-------------+
|                 |
v                 v
+--------------+   +--------------+
| microservice1|   | microservice2|
+--------------+   +--------------+

3.2 Envoy Sidecar配置

在每个Pod中部署Envoy Sidecar,示例envoy.yaml

static_resources:
listeners:
- name: listener_http
address:
socket_address: { address: 0.0.0.0, port_value: 8080 }
filter_chains:
- filters:
- name: envoy.filters.network.http_connection_manager
typed_config:
"@type": type.googleapis.com/envoy.extensions.filters.network.http_connection_manager.v3.HttpConnectionManager
stat_prefix: ingress_http
route_config:
name: local_route
virtual_hosts:
- name: svc
domains: ["*"]
routes:
- match: { prefix: "/" }
route: { cluster: spring_gateway }
http_filters:
- name: envoy.filters.http.router
clusters:
- name: spring_gateway
connect_timeout: 1s
type: STRICT_DNS
lb_policy: ROUND_ROBIN
load_assignment:
cluster_name: spring_gateway
endpoints:
- lb_endpoints:
- endpoint: { address: { socket_address: { address: spring-gateway.default.svc.cluster.local, port_value: 9090 } } }

3.3 Spring Cloud Gateway配置

在Spring Boot项目application.yml中:

server:
port: 9090
spring:
cloud:
gateway:
default-filters:
- StripPrefix=1
routes:
- id: user-service
uri: lb://USER-SERVICE
predicates:
- Path=/user/**
filters:
- RewritePath=/user/(?.*), /${path}
- id: order-service
uri: lb://ORDER-SERVICE
predicates:
- Path=/order/**
filters:
- RewritePath=/order/(?.*), /${path}
discovery:
locator:
enabled: true
lower-case-service-id: true

3.4 项目结构示例

gateway-service/
├── src/main/java/
│   └── com.example.gateway
│       ├── GatewayApplication.java
│       └── filters/
│           └── AuthFilter.java
├── src/main/resources/
│   └── application.yml
└── Dockerfile

3.5 部署与CI/CD

  • 使用Kubernetes Deployment部署时,每个Pod挂载Envoy Sidecar与Spring Cloud Gateway
  • 利用Helm Chart统一管理
  • CI/CD流水线可拆分镜像构建与Envoy配置下发

4. 踩过的坑与解决方案

  1. Envoy与SCG端口冲突
    • 问题:两者默认端口可能冲突导致启动失败。
    • 解决:统一规划端口,Envoy监听8080,SCG监听9090。
  2. 动态路由更新滞后
    • 问题:服务注册中心(Eureka)变更后,Envoy无法及时感知。
    • 解决:借助xDS API或Sidecar自动重启机制,实现配置热更新。
  3. 证书配置复杂
    • 问题:安全通信需TLS,证书自动化下发难度大。
    • 解决:结合SPIFFE/SDS动态管理证书,Envoy自动拉取。
  4. 高并发下延迟增大
    • 问题:双层路由增加网络跳数。
    • 解决:开启直连模式,对高频热点路径直连服务,跳过SCG层。

5. 总结与最佳实践

  • 双层网关——Envoy侧车+Spring Cloud Gateway结合了高性能与可编程性。
  • 配置管理:采用xDS、Helm 与GitOps流水线实现配置动态化。
  • 健康检查与熔断:Envoy与SCG各自侧重层面,保障系统高可用。
  • 安全:建议使用mTLS或SPIFFE证书管理框架统一下发。
  • 性能优化:对核心路径可直接绕过SCG,降低网络跳数。

通过上述方案,既保留了Spring Cloud Gateway的灵活可编程特性,又利用Envoy的高性能代理能力,实现了高可用、可扩展的微服务请求路由架构。若有更多实践问题,欢迎在评论区交流!

到此这篇关于python基于动态实例的命令处理设计的文章就介绍到这了,更多相关python基于动态实例的命令处理设计内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • 使用Java操作MySQL实现数据交互的方法

    使用Java操作MySQL实现数据交互的方法

    JDBC是Java中用于操作数据库的API,可以为多种关系数据库提供统一访问,它通过JDK自带的JDBC API和数据库驱动包进行操作,实现数据库的增删改查,本文给大家介绍使用Java操作MySQL实现数据交互的方法,感兴趣的朋友跟随小编一起看看吧
    2025-01-01
  • 深入了解Java线程池的原理和监控

    深入了解Java线程池的原理和监控

    这篇文章主要介绍了深入了解Java线程池的原理和监控,创建Java线程需要给线程分配堆栈内存以及初始化内存,还需要进行系统调用,频繁地创建和销毁线程会大大降低系统的运行效率,这时候就要用到线程池,需要的朋友可以参考下
    2023-07-07
  • Presto支持Elasticsearch数据源配置详解

    Presto支持Elasticsearch数据源配置详解

    这篇文章主要为大家介绍了Presto支持Elasticsearch数据源配置详解,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪
    2022-12-12
  • Java定义栈结构,并实现入栈、出栈操作完整示例

    Java定义栈结构,并实现入栈、出栈操作完整示例

    这篇文章主要介绍了Java定义栈结构,并实现入栈、出栈操作,结合完整实例形式分析了java数据结构中栈的定义、以及入栈、出栈、栈是否为空判断、栈大小计算、打印栈元素等相关操作技巧,需要的朋友可以参考下
    2020-02-02
  • Java之并行流(Parallel Stream)使用详解

    Java之并行流(Parallel Stream)使用详解

    Java并行流(ParallelStream)通过多线程并行处理集合数据,利用Fork/Join框架加速计算,适用于大规模数据集和计算密集型任务,并行流主要通过集合的parallelStream()方法或现有流的parallel()方法创建,适用于数据量大、计算复杂且无状态操作的场景
    2025-03-03
  • Java算法之BFS,DFS,动态规划和贪心算法的实现

    Java算法之BFS,DFS,动态规划和贪心算法的实现

    广度优先搜索(BFS)和深度优先搜索(DFS)是图遍历算法中最常见的两种算法,主要用于解决搜索和遍历问题。动态规划和贪心算法则用来解决优化问题。本文就来看看这些算法的具体实现吧
    2023-04-04
  • spring boot实现文件上传

    spring boot实现文件上传

    这篇文章主要为大家详细介绍了spring boot实现文件上传,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2022-08-08
  • Spring Security实现不同接口安全策略方法详解

    Spring Security实现不同接口安全策略方法详解

    这篇文章主要介绍了Spring Security实现不同接口安全策略方法详解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-09-09
  • 解读@Scheduled任务调度/定时任务非分布式

    解读@Scheduled任务调度/定时任务非分布式

    这篇文章主要介绍了解读@Scheduled任务调度/定时任务非分布式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
    2024-08-08
  • JavaCV调用百度AI实现人脸检测方法详解

    JavaCV调用百度AI实现人脸检测方法详解

    在检测人脸数量、位置、性别、口罩等场景时,可以考虑使用百度开放平台提供的web接口,一个web请求就能完成检测得到结果。本文就为大家介绍JavaCV如何调用百度AI实现最简单的人脸检测,需要的可以参考一下
    2022-01-01

最新评论