Xây Dựng Hệ Thống Anycast Layer 4 Load Balancing Đa Vùng (Multi-Region) Hiệu Năng Cao Với Envoy Proxy Và Keepalived Trên Hạ Tầng VPS Giá Rẻ

1. Đặt vấn đề: Thách thức cân bằng tải đa vùng với ngân sách tối ưu

Trong kỷ nguyên số, tính sẵn sàng cao (High Availability - HA) và tốc độ phản hồi của ứng dụng là những yếu tố sống còn quyết định sự thành bại của một doanh nghiệp. Khi lượng người dùng tăng trưởng và phân bố ở nhiều khu vực địa lý khác nhau, kiến trúc máy chủ đơn lẻ hoặc cân bằng tải cục bộ không còn đáp ứng được yêu cầu. Hệ thống đòi hỏi một giải pháp cân bằng tải đa vùng (Multi-Region Load Balancing) để vừa giảm độ trễ (latency), vừa đảm bảo khả năng dự phòng thảm họa (Disaster Recovery).

Tuy nhiên, chi phí triển khai các giải pháp phần cứng chuyên dụng hoặc dịch vụ Cloud Load Balancing cao cấp từ các nhà cung cấp lớn (AWS, Google Cloud, Azure) thường là rào cản tài chính rất lớn đối với các doanh nghiệp vừa và nhỏ (SMEs) hoặc các dự án khởi nghiệp. Câu hỏi đặt ra là: Làm thế nào để xây dựng một hạ tầng cân bằng tải đa vùng, đạt hiệu năng cao, hoạt động ở Lớp 4 (Layer 4) nhưng có mức chi phí tối ưu trên các hạ tầng VPS giá rẻ?

Bài viết này sẽ hướng dẫn chi tiết cách kết hợp công nghệ định tuyến Anycast, khả năng xử lý traffic mạnh mẽ của Envoy Proxy và cơ chế dự phòng của Keepalived để tạo ra một hệ thống Anycast Layer 4 Load Balancing hoàn chỉnh, chuyên nghiệp và tiết kiệm chi phí.

2. Bản chất kiến trúc: Sự kết hợp giữa Anycast, Envoy Proxy và Keepalived

Để hiểu rõ cách vận hành của hệ thống, chúng ta cần phân tích vai trò của từng thành phần trong mô hình kiến trúc hỗn hợp này:

• Anycast Routing: Khác với Unicast (một IP trỏ về một máy chủ duy nhất), Anycast cho phép nhiều máy chủ vật lý ở các vị trí địa lý khác nhau chia sẻ chung một địa chỉ IP duy nhất. Giao thức định tuyến BGP (Border Gateway Protocol) sẽ tự động điều hướng request của người dùng đến node máy chủ gần nhất về mặt hạ tầng mạng. Nếu một vùng gặp sự cố, traffic sẽ tự động chuyển hướng sang vùng khác mà không gây gián đoạn dịch vụ.
• Envoy Proxy (Layer 4 Load Balancer): Được phát triển bởi Lyft, Envoy là một proxy hiệu năng cao, chiếm dụng tài nguyên cực thấp. Ở Layer 4 (TCP/UDP), Envoy hoạt động như một bộ định tuyến luồng dữ liệu thô, không cần đọc nội dung ứng dụng, giúp tối đa hóa throughput và xử lý hàng trăm nghìn kết nối đồng thời trên các cấu hình VPS hạn chế.
• Keepalived (VRRP): Tại mỗi vùng (Region), chúng ta triển khai một cụm máy chủ Envoy nhằm tránh tình trạng single point of failure. Keepalived sử dụng giao thức VRRP (Virtual Router Redundancy Protocol) để quản lý một IP ảo cục bộ (VIP), tự động chuyển đổi failover giữa các node Envoy trong cùng một datacenter với độ trễ tính bằng mili-giây.

  Sơ đồ luồng luân chuyển dữ liệu (Traffic Flow)

  Mô hình tổng thể được vận hành theo quy trình tuyến tính sau:

  1. Người dùng gửi yêu cầu tới IP Anycast toàn cầu.
  2. Hạ tầng mạng BGP định tuyến request đến Datacenter (Region) gần nhất.
  3. Tại Region đó, Keepalived tiếp nhận traffic thông qua IP ảo và chuyển tới node Envoy Proxy đang active.
  4. Envoy Proxy thực hiện cân bằng tải Lớp 4, phân phối các kết nối TCP/UDP đến các máy chủ ứng dụng (Backend Servers) phía sau dựa trên các thuật toán như Round Robin hoặc Least Connections.

  3. Hướng dẫn cấu hình chi tiết từng bước

  Giả định chúng ta triển khai trên 2 vùng địa lý (ví dụ: Singapore và Tokyo) sử dụng hệ điều hành Ubuntu Server 22.04 LTS. Mỗi vùng gồm ít nhất 2 VPS giá rẻ đóng vai trò Load Balancer.

  Bước 1: Thiết lập mạng Anycast và IP ảo với Keepalived

  Để chạy được Anycast, bạn cần làm việc với nhà cung cấp VPS hỗ trợ công bố (announce) IP của riêng bạn qua BGP, hoặc sử dụng dịch vụ IP Anycast được định tuyến sẵn của các nhà cung cấp hạ tầng chuyên dụng. Khi IP Anycast đã được cấu hình đổ về cụm VPS, ta tiến hành cài đặt Keepalived để đảm bảo tính HA nội vùng.

  Cài đặt Keepalived trên cả 2 node tại một Region:

  sudo apt-get update
  sudo apt-get install -y keepalived

  Cấu hình file /etc/keepalived/keepalived.conf trên Node 1 (Master):

  vrrp_script check_envoy {
      script "/usr/bin/killall -0 envoy"
      interval 2
      weight 2
  }
  
  vrrp_instance VI_1 {
      state MASTER
      interface eth0
      virtual_router_id 51
      priority 101
      advert_int 1
      authentication {
          auth_type PASS
          auth_pass SecretPassword
      }
      virtual_ipaddress {
          192.168.1.100/24
      }
      track_script {
          check_envoy
      }
  }

  Lưu ý: Trên Node 2 (Backup), thay đổi state thành BACKUP và giảm priority xuống 100.

  Bước 2: Cấu hình Envoy Proxy tối ưu cho Layer 4 Tải Cao

  Cài đặt Envoy Proxy phiên bản mới nhất:

  sudo apt-get install -y apt-transport-https gnupg curl
  curl -sL 'https://deb.dl.getenvoy.io/public/gpg.8115745E6FEF0574.key' | sudo gpg --dearmor -o /usr/share/keyrings/getenvoy-keyring.gpg
  echo "deb [arch=amd64 signed-by=/usr/share/keyrings/getenvoy-keyring.gpg] https://deb.dl.getenvoy.io/public/deb/ubuntu jammy main" | sudo tee /etc/apt/sources.list.d/getenvoy.list
  sudo apt-get update && sudo apt-get install -y envoy

  Tạo file cấu hình tối ưu hiệu năng Layer 4 /etc/envoy/envoy.yaml:

  static_resources:
    listeners:
    - name: ingress_l4_listener
      address:
        socket_address:
          address: 0.0.0.0
          port_value: 80
      filter_chains:
      - filters:
        - name: envoy.filters.network.tcp_proxy
          typed_config:
            "@type": type.googleapis.com/envoy.extensions.filters.network.tcp_proxy.v3.TcpProxy
            stat_prefix: ingress_tcp
            cluster: backend_services
    clusters:
    - name: backend_services
      connect_timeout: 0.25s
      type: STRICT_DNS
      lb_policy: LEAST_REQUEST
      load_assignment:
        cluster_name: backend_services
        endpoints:
        - lb_endpoints:
          - endpoint:
              address:
                socket_address:
                  address: 10.0.0.10
                  port_value: 8080
          - endpoint:
              address:
                socket_address:
                  address: 10.0.0.11
                  port_value: 8080

  Cấu hình trên giúp Envoy hoạt động ở chế độ TCP Proxy mượt mà, áp dụng thuật toán Least Request, cực kỳ phù hợp cho các kết nối Layer 4 có thời gian sống lâu (long-lived connections).

  4. Đánh giá ưu điểm và nhược điểm của giải pháp

  Mọi kiến trúc hệ thống đều có sự đánh đổi. Dưới đây là phân tích khách quan từ thực tế triển khai:

  Ưu điểm vượt trội

  • Tối ưu hóa chi phí tối đa: Thay vì trả hàng trăm đến hàng ngàn USD cho các dịch vụ Cloud lớn, doanh nghiệp chỉ cần chi trả cho các gói VPS cấu hình vừa phải (chỉ cần tối thiểu 1-2 vCPU và 2GB RAM cho mỗi node Envoy do đặc tính tối ưu của ngôn ngữ C++ trong Envoy).
  • Hiệu năng xử lý ấn tượng: Hoạt động ở Layer 4 giúp bỏ qua bước giải mã SSL/TLS và đọc HTTP Header tại tầng cân bằng tải chuyển tiếp, giảm tải CPU xuống mức thấp nhất và tăng tốc độ định tuyến luồng dữ liệu.
  • Khả năng chống chịu lỗi (Fault Tolerance): Cơ chế dự phòng kép: Nội vùng bằng Keepalived và Liên vùng bằng Anycast BGP giúp hệ thống duy trì hoạt động ngay cả khi toàn bộ một Datacenter bị sập.

  Nhược điểm và lưu ý hạn chế

  • Thiếu tính năng Layer 7: Do hoạt động ở tầng Transport, hệ thống không thể thực hiện các tác vụ như định tuyến dựa trên URL path, kiểm tra Cookie, hoặc chèn Header bảo mật. Nếu cần, bạn phải bổ sung thêm một lớp Layer 7 Proxy (như Nginx hoặc chính Envoy cấu hình HTTP) ở phía sau.
  • Quản lý định tuyến BGP phức tạp: Việc tự cấu hình Anycast yêu cầu kiến thức chuyên sâu về mạng máy tính và mối quan hệ với các ISP/Nhà cung cấp hạ tầng hạ tầng mạng.

  5. Kết luận và Khuyến nghị vận hành

  Xây dựng hệ thống Anycast Layer 4 Load Balancing đa vùng với Envoy Proxy và Keepalived trên hạ tầng VPS giá rẻ là giải pháp kiến trúc đột phá, phá vỡ thế độc quyền của các dịch vụ Cloud đắt đỏ. Nó mang lại khả năng phân phối lưu lượng mạnh mẽ, độ trễ thấp và độ tin cậy chuẩn doanh nghiệp với mức ngân sách tối thiểu.

  Để vận hành hệ thống này một cách an toàn và hiệu quả, các kỹ sư hệ thống cần lưu ý triển khai thêm các công cụ giám sát tập trung (Prometheus & Grafana) để theo dõi các chỉ số kết nối TCP, trạng thái Health Check của backend, cũng như cấu hình cảnh báo tự động ngay khi có sự dịch chuyển dòng traffic Anycast giữa các Region.