DPTCloud
Back to articles
Technology Insight

Tối ưu hóa Tường lửa nftables kết hợp IPSet trên VPS: Giải pháp Chặn đứng Botnet Brute-Force

May 30, 2026

Giới thiệu về lỗ hổng bảo mật VPS và mối đe dọa từ Botnet Brute-Force

Trong kỷ nguyên số hiện nay, Máy chủ ảo cá nhân (VPS) đã trở thành hạ tầng cốt lõi cho hàng triệu ứng dụng web, dịch vụ lưu trữ và hệ thống quản trị doanh nghiệp. Tuy nhiên, sự phổ biến này cũng biến VPS thành mục tiêu hàng đầu của các tội phạm mạng. Một trong những phương thức tấn công phổ biến, dai dẳng và nguy hiểm nhất chính là Brute-Force Attack (Tấn công dò mật khẩu) được thực hiện bởi các Botnet (Mạng máy tính ma).

Các cuộc tấn công Brute-Force truyền thống thường chỉ sử dụng một vài địa chỉ IP cố định, khiến việc phát hiện và ngăn chặn tương đối đơn giản. Thế nhưng, Botnet hiện đại sở hữu hàng ngàn, thậm chí hàng triệu IP bị chiếm quyền điều khiển rải rác trên toàn cầu. Chúng phối hợp tấn công xoay vòng với tần suất thấp trên mỗi IP (Low and Slow), khiến các hệ thống giám sát cơ bản dễ dàng bị qua mặt. Nếu không có giải pháp phòng thủ hiệu quả, tài nguyên CPU/RAM của VPS sẽ nhanh chóng bị cạn kiệt do phải xử lý hàng triệu yêu cầu đăng nhập giả mạo, dẫn đến tình trạng từ chối dịch vụ (DoS) hoặc nghiêm trọng hơn là rò rỉ dữ liệu hệ thống.

Tại sao iptables và Fail2ban truyền thống là chưa đủ?

Từ lâu, sự kết hợp giữa iptables và Fail2ban đã trở thành bộ đôi phòng thủ tiêu chuẩn trên các hệ điều hành Linux. Fail2ban quét qua các tệp tin log hệ thống, phát hiện các IP vi phạm và gọi lệnh iptables để chặn các IP đó. Tuy nhiên, kiến trúc này bộc lộ những hạn chế chết người khi đối mặt với Botnet quy mô lớn:

  • Độ trễ cao: Fail2ban hoạt động dựa trên việc phân tích log sau khi sự kiện đã xảy ra (Reactive). Khi Botnet tấn công dồn dập, việc đọc ghi log liên tục tạo ra gánh nặng lớn cho ổ đĩa (I/O Bottleneck), khiến phản ứng chặn bị chậm trễ.
  • Hiệu năng suy giảm tuyến tính: Với iptables, mỗi quy tắc chặn IP được xử lý tuần tự từ trên xuống dưới. Nếu danh sách chặn (Blacklist) lên tới hàng chục ngàn IP, mọi gói tin hợp lệ đi vào máy chủ đều phải so khớp qua hàng chục ngàn dòng lệnh này, gây tăng vọt độ trễ mạng và quá tải CPU.

Để giải quyết bài toán hiệu năng này, chúng ta cần một giải pháp xử lý ở tầng nhân (Kernel-space) với cấu trúc dữ liệu tối ưu hơn. Đó chính là lý do nftables ra đời để thay thế hoàn toàn cho iptables.

Sức mạnh vượt trội của nftables và Cơ chế Set (IPSet tích hợp)

nftables là khung công tác phân loại gói tin thế hệ mới của Linux Kernel, thay thế cho iptables, ip6tables, arptables và ebtables. Khác với người tiền nhiệm, nftables sử dụng một máy ảo đặc biệt trong nhân (nftables VM) để thực thi các quy tắc thông qua mã bytecode tối ưu, mang lại tốc độ xử lý vượt trội và cú pháp minh triết hơn.

Điểm nâng cấp đáng giá nhất của nftables trong việc chống Botnet chính là tính năng Sets (Tập hợp) được tích hợp sẵn dưới dạng gốc (Native). Trong kiến trúc cũ, chúng ta phải kết hợp lệnh iptables với công cụ bên ngoài là IPSet. Còn với nftables, cấu trúc dữ liệu Set (sử dụng bảng băm - Hash Table và cây nhị phân rẽ nhánh - Red-Black Tree) đã nằm ngay bên trong cấu hình lõi.

Với cơ chế Set của nftables, thời gian tra cứu một địa chỉ IP trong danh sách chặn là O(1) hoặc O(log N). Điều này có nghĩa là cho dù danh sách đen của bạn có 10 IP hay 100,000 IP, thời gian tường lửa kiểm tra và loại bỏ gói tin độc hại gần như là tức thì và không đổi, bảo vệ tuyệt đối tài nguyên của VPS.

Hướng dẫn cấu hình chi tiết nftables chặn đứng Botnet

Dưới đây là quy trình từng bước để thiết lập một hệ thống tường lửa thông minh, tự động phát hiện và đưa các IP Brute-Force vào danh sách đen hiệu năng cao trên hệ điều hành Ubuntu/Debian hoặc CentOS/RHEL hiện đại.

Bước 1: Cài đặt và kích hoạt nftables

Trước hết, chúng ta cần cài đặt gói nftables và thiết lập cho dịch vụ khởi động cùng hệ thống, đồng thời dừng dịch vụ iptables cũ (nếu có):

# Trên Ubuntu/Debian
sudo apt update && sudo apt install nftables -y

# Kích hoạt dịch vụ
sudo systemctl enable nftables
sudo systemctl start nftables

Bước 2: Xây dựng cấu trúc cấu hình bảo mật toàn diện

Thay vì cấu hình bằng dòng lệnh đơn lẻ dễ mất khi khởi động lại, chúng ta sẽ chỉnh sửa trực tiếp tệp tin cấu hình chính tại đường dẫn /etc/nftables.conf. Hãy mở tệp tin bằng trình soạn thảo và thiết lập nội dung như sau:

#!/usr/sbin/nft -f

flush ruleset

table inet filter {
    # Định nghĩa tập hợp chứa các IP bị chặn tạm thời (Blacklist)
    set brute_force_blacklist {
        type ipv4_addr
        flags dynamic, timeout
        timeout 1d
        gc-interval 1h
    }

    # Tập hợp theo dõi tần suất kết nối từ mỗi IP
    set connection_meter {
        type ipv4_addr
        flags dynamic
    }

    chain input {
        type filter hook input priority filter; policy drop;

        # Cho phép các kết nối hợp lệ đã thiết lập trước đó
        ct state established,related accept

        # Cho phép giao tiếp nội bộ (Loopback)
        iifname "lo" accept

        # Loại bỏ ngay lập tức các gói tin từ IP nằm trong danh sách đen
        ip saddr @brute_force_blacklist drop

        # Cho phép các giao thức thiết yếu như ICMP (Ping)
        ip protocol icmp accept

        # Giám sát và giới hạn kết nối SSH (Cổng 22)
        tcp dport 22 meter check_ssh { ip saddr timeout 1m limit rate over 5/minute } add @brute_force_blacklist { ip saddr }

        # Cho phép kết nối SSH hợp lệ (nếu chưa vượt hạn mức)
        tcp dport 22 accept

        # Mở các cổng dịch vụ Web nếu có
        tcp dport { 80, 443 } accept
    }

    chain forward {
        type filter hook forward priority filter; policy drop;
    }

    chain output {
        type filter hook output priority filter; policy accept;
    }
}

Giải thích cơ chế hoạt động của đoạn cấu hình trên:

  1. set brute_force_blacklist: Khai báo một tập hợp động lưu trữ địa chỉ IPv4. Thuộc tính timeout 1d quy định một IP vi phạm sẽ bị chặn tự động trong vòng 24 giờ. Sau thời gian này, cơ chế dọn rác gc-interval 1h sẽ tự động xóa IP đó ra khỏi bộ nhớ để giải phóng không gian.
  2. Cơ chế hạn mức (Metered Limit): Tại dòng quy tắc SSH, hệ thống sử dụng một bộ đếm thời gian thực. Nếu một địa chỉ IP cố gắng kết nối vào cổng 22 vượt quá 5 lần trong vòng 1 phút (limit rate over 5/minute), lệnh add @brute_force_blacklist { ip saddr } sẽ lập tức kích hoạt, đẩy IP đó vào danh sách đen mà không cần bất kỳ tiến trình bên ngoài nào can thiệp.
  3. Policy Drop: Chính sách mặc định nghiêm ngặt, mọi kết nối không được định nghĩa rõ ràng đều bị từ chối thẳng thừng.

Bước 3: Áp dụng cấu hình và kiểm tra trạng thái

Sau khi lưu tệp cấu hình, hãy thực thi lệnh sau để áp dụng các thay đổi vào nhân Linux:

sudo nft -f /etc/nftables.conf

Để kiểm tra xem danh sách chặn hiện tại đang hoạt động ra sao và có bao nhiêu IP của Botnet đã bị sa lưới, bạn sử dụng lệnh:

sudo nft list set inet filter brute_force_blacklist

Kết luận và các khuyến nghị bảo mật bổ sung

Việc dịch chuyển từ kiến trúc iptables + Fail2ban sang giải pháp nftables Native Sets giúp nâng tầm khả năng chịu tải và bảo mật của VPS lên một vị thế hoàn toàn mới. Hệ thống của bạn giờ đây có khả năng tự động phản ứng trước các đợt càn quét Brute-Force từ Botnet với tốc độ tính bằng mili-giây, trong khi mức tiêu thụ CPU luôn duy trì ở ngưỡng tối thiểu.

Tuy nhiên, công nghệ tường lửa chỉ là lớp phòng thủ vòng ngoài. Để xây dựng một pháo đài VPS bất khả xâm phạm, quản trị viên doanh nghiệp nên áp dụng thêm các biện pháp đồng bộ sau đây: Thứ nhất, luôn luôn thay đổi cổng SSH mặc định (cổng 22) sang một cổng ngẫu nhiên có giá trị cao (ví dụ: 2289) để giảm thiểu 99% các cuộc quét tự động từ Botnet. Thứ hai, vô hiệu hóa hoàn toàn phương thức đăng nhập bằng mật khẩu truyền thống (Password Authentication), thay thế hoàn toàn bằng cơ chế xác thực khóa công khai SSH Key (Public Key Authentication) kết hợp bảo mật 2 lớp (2FA) nếu có thể.

Bằng cách kết hợp tư duy thiết kế tường lửa tối ưu của nftables cùng các quy chuẩn an ninh bảo mật nghiêm ngặt, hệ thống VPS của bạn chắc chắn sẽ vận hành ổn định, an toàn trước mọi làn sóng tấn công số trong tương lai.

Tối ưu hóa Tường lửa nftables kết hợp IPSet trên VPS: Giải pháp Chặn đứng Botnet Brute-Force | DPTCloud