Tối ưu hóa chi phí Cloud: Triển khai Karpenter giả lập trên cụm K3s để tự động săn VPS Spot giá rẻ

Giới thiệu: Bài toán tối ưu hóa chi phí Cloud trong kỷ nguyên số

Trong bối cảnh suy thoái kinh tế và áp lực tối ưu hóa vận hành ngày càng tăng, chi phí điện toán đám mây (Cloud cost) đã trở thành một trong những mối quan tâm hàng đầu của các nhà quản lý công nghệ (CTO) và các kỹ sư DevOps. Theo các báo cáo thị trường gần đây, hơn 30% ngân sách Cloud của doanh nghiệp đang bị lãng phí do việc cấp phát dư thừa tài nguyên (over-provisioning) và thiếu cơ chế tự động hóa linh hoạt.

Để giải quyết bài toán này, các nhà cung cấp Cloud lớn như AWS đã giới thiệu Karpenter - một mã nguồn mở quản lý và định cỡ tự động cụm Kubernetes (Just-in-time Nodes Provisioning) thế hệ mới, vượt trội hơn hẳn so với Cluster Autoscaler truyền thống. Tuy nhiên, Karpenter vốn được thiết kế riêng cho hệ sinh thái AWS EKS. Câu hỏi đặt ra là: Làm thế nào để áp dụng tư duy tối ưu vượt trội của Karpenter vào các cụm Kubernetes gọn nhẹ (K3s) trên hạ tầng VPS Spot giá rẻ của các nhà cung cấp khác? Bài viết này sẽ hướng dẫn bạn cách hiện thực hóa kiến trúc giả lập đột phá đó.

1. Tại sao lại là K3s, Karpenter và VPS Spot?

Trước khi đi sâu vào chi tiết kỹ thuật, chúng ta cần hiểu rõ lý do tại sao sự kết hợp của bộ ba này lại tạo nên một giải pháp tối ưu hóa chi phí hoàn hảo cho doanh nghiệp:

K3s (Lightweight Kubernetes): Là phiên bản tối giản của Kubernetes được phát triển bởi Rancher, K3s tiêu tốn cực kỳ ít tài nguyên (chỉ cần dưới 512MB RAM cho một node). Điều này giúp doanh nghiệp tận dụng tối đa dung lượng của các VPS cấu hình thấp mà không lo bị hao hụt cho các thành phần quản trị (control plane).
VPS Spot (hoặc Preemptible VM): Đây là lượng tài nguyên dư thừa được các nhà cung cấp Cloud bán lại với giá rẻ hơn từ 60% đến 80% so với giá thông thường (On-Demand). Nhược điểm duy nhất là chúng có thể bị thu hồi bất cứ lúc nào với thông báo trước chỉ vài phút.
Tư duy quản trị của Karpenter: Karpenter hoạt động theo cơ chế group-less autoscaling, nó phân tích trực tiếp các Pod đang ở trạng thái "Pending" để quyết định loại VM nào phù hợp nhất và tiến hành khởi tạo ngay lập tức, loại bỏ độ trễ của cơ chế Node Group truyền thống.

Mấu chốt của giải pháp: Bằng cách giả lập cơ chế hoạt động của Karpenter thông qua các Custom Controller hoặc các công cụ mã nguồn mở tương đương (như Cast.ai bản cộng đồng hoặc k8s-spot-rescheduler) kết hợp với API của nhà cung cấp VPS giá rẻ (như DigitalOcean, Linode, Vultr hoặc providers nội địa), chúng ta có thể xây dựng một hệ thống "săn" VPS Spot hoàn toàn tự động dựa trên nhu cầu thực tế của ứng dụng.

2. Kiến trúc tổng quan của hệ thống giả lập Karpenter trên K3s

Hệ thống định cỡ tự động giả lập này hoạt động dựa trên mô hình phản hồi liên tục (Feedback Loop) gồm 4 bước cốt lõi:

Giám sát (Monitoring): Hệ thống liên tục quét cụm K3s để phát hiện các Pod không thể schedule do thiếu hụt tài nguyên CPU/RAM.
Định cỡ thông minh (Smart Sizing): Thay vì tạo ra các node có cấu hình cố định, Controller giả lập sẽ tính toán tổng lượng tài nguyên thiếu hụt và chọn ra cấu hình VPS Spot tối ưu nhất về giá từ bảng giá API của Provider.
Cấp phát tức thì (Just-in-time Provisioning): Gọi API đến nhà cung cấp VPS để khởi tạo máy ảo Spot, tự động chạy script Cloud-init để cài đặt K3s agent và gia nhập (join) vào cụm K3s Master.
Thu hồi chủ động (Graceful Decommissioning): Khi tải giảm hoặc khi nhận được tín hiệu cảnh báo thu hồi (Spot Termination Notice) từ provider, hệ thống sẽ thực hiện lệnh kubectl drain để chuyển dịch ứng dụng an toàn sang node khác trước khi VPS bị xóa.

3. Hướng dẫn từng bước triển khai giải pháp

Bước 1: Chuẩn bị cụm K3s Master cố định

Để đảm bảo hệ thống luôn vận hành ổn định, chúng ta cần ít nhất một VPS On-Demand cố định đóng vai trò K3s Control Plane. Khởi tạo K3s Master bằng lệnh đơn giản sau:

curl -sfL [https://get.k3s.io](https://get.k3s.io) | sh -s - --disable servicelb --disable traefik

Sau khi khởi tạo, hãy lưu lại mã Token tại /var/lib/rancher/k3s/server/node-token để các worker node sau này có thể kết nối.

Bước 2: Cấu hình Controller giả lập săn VPS Spot

Trong môi trường giả lập không thuộc AWS, chúng ta sẽ sử dụng một Pod chạy Agent tùy biến (viết bằng Go hoặc Python sử dụng K8s Client SDK) đảm nhận vai trò của Karpenter. Agent này cần được cấp quyền ClusterRole để theo dõi trạng thái Pod và Node.

Đoạn mã giả lập xử lý logic cốt lõi sẽ liên tục kiểm tra sự kiện của cụm:

Nếu phát hiện Pod có điều kiện Unschedulable, tiến hành gọi API của Cloud Provider (ví dụ: Vultr hoặc DigitalOcean API) với flag is_spot=true.
Sử dụng dữ liệu Metadata để gán nhãn (label) cho node mới: node.kubernetes.io/instance-type=spot và karpenter.sh/capacity-type=spot.

Bước 3: Thiết lập cơ chế Toleration và Affinitiy cho ứng dụng

Để ứng dụng có thể chạy trên các node VPS Spot giá rẻ, chúng ta cần cấu hình tệp YAML triển khai ứng dụng (Deployment) một cách thông minh. Việc này giúp đảm bảo các ứng dụng quan trọng (Stateful) vẫn nằm ở node cố định, trong khi các ứng dụng xử lý dữ liệu hoặc stateless sẽ được đẩy ra node Spot.

spec:
  affinity:
    nodeAffinity:
      preferredDuringSchedulingIgnoredDuringExecution:
      - weight: 100
        preference:
          matchExpressions:
          - key: karpenter.sh/capacity-type
            operator: In
            values:
            - spot
  tolerations:
  - key: "dedicated"
    operator: "Equal"
    value: "spot"
    effect: "NoSchedule"

4. Đánh giá hiệu quả kinh tế và rủi ro vận hành

Bất kỳ giải pháp kiến trúc nào cũng có những sự đánh đổi (trade-offs). Đối với mô hình giả lập Karpenter trên K3s, doanh nghiệp cần cân nhắc kỹ lưỡng giữa bài toán chi phí và độ ổn định:

Ưu điểm vượt trội

Tiết kiệm ngân sách tối đa: Giảm chi phí hóa đơn Cloud hàng tháng lên tới 65% - 75% so với việc duy trì các Node Group cố định dạng On-Demand.
Tự động hóa hoàn toàn: Đội ngũ vận hành không cần phải can thiệp thủ công khi hệ thống bị quá tải hoặc khi các nhà cung cấp thu hồi máy ảo.
Tránh phụ thuộc nhà cung cấp (Vendor Lock-in): Giải pháp này có thể tùy biến tự do để chạy trên bất kỳ hạ tầng IaaS nào cung cấp API, từ các ông lớn quốc tế đến các nhà cung cấp hạ tầng tại Việt Nam.

Thách thức và cách giảm thiểu rủi ro

Rủi ro lớn nhất là tình trạng "Spot Interruption" (thu hồi máy ảo đột ngột). Khi thị trường khan hiếm tài nguyên, nhà cung cấp có thể tắt VPS của bạn trong vòng 2 phút. Để khắc phục, hệ thống giả lập cần tích hợp một thành phần giám sát liên tục webhook cảnh báo của provider. Ngay khi có tín hiệu, ngay lập tức kích hoạt quy trình tạo node thay thế và dịch chuyển Pod (Graceful Termination Period).

Lời kết

Tối ưu hóa chi phí Cloud không phải là cắt giảm tài nguyên một cách mù quáng, mà là quản trị tài nguyên một cách thông minh và linh hoạt. Việc triển khai tư duy tự động hóa định cỡ của Karpenter lên cụm K3s chạy VPS Spot chính là minh chứng cho thấy doanh nghiệp hoàn toàn có thể sở hữu một hệ thống hạ tầng mạnh mẽ, tự động thích ứng với dòng chảy của dữ liệu với một mức chi phí tối ưu nhất. Hãy bắt đầu thử nghiệm mô hình này ngay hôm nay trên các môi trường Staging/UAT để kiểm chứng hiệu quả trước khi áp dụng rộng rãi cho môi trường Production.