Triển Khai GraphRAG Cấp Doanh Nghiệp Với Neo4j Và Ollama Trên VPS Linux

Giới thiệu về xu hướng GraphRAG trong doanh nghiệp

Trong kỷ nguyên trí tuệ nhân tạo (AI), hệ thống Retrieval-Augmented Generation (RAG) đã trở thành kiến trúc tiêu chuẩn giúp các mô hình ngôn ngữ lớn (LLM) truy xuất dữ liệu nội bộ của doanh nghiệp. Tuy nhiên, phương pháp RAG truyền thống dựa trên Vector Search thuần túy đang bộc lộ những giới hạn lớn. Khi đối mặt với các câu hỏi phức tạp đòi hỏi tư duy đa bước (multi-hop reasoning) hoặc phân tích mối quan hệ tổng thể giữa các thực thể, Vector RAG thường bị mất ngữ cảnh, dẫn đến câu trả lời rời rạc hoặc hiện tượng "ảo tưởng" (hallucination).

Để giải quyết bài toán này, GraphRAG (Graph-based RAG) nổi lên như một bước đột phá. Bằng cách kết hợp sức mạnh của Đồ thị Tri thức (Knowledge Graph) và Tìm kiếm ngữ nghĩa (Semantic Search), GraphRAG cấu trúc hóa dữ liệu phi cấu trúc thành các thực thể (Nodes) và mối quan hệ (Edges). Bài viết này sẽ hướng dẫn chi tiết cách triển khai một hệ thống GraphRAG cấp doanh nghiệp, bảo mật hoàn toàn dữ liệu bằng cách sử dụng Neo4j làm cơ sở dữ liệu đồ thị và Ollama để chạy LLM cục bộ trên hạ tầng VPS Linux.

---

Tại sao chọn Neo4j, Ollama và VPS Linux cho doanh nghiệp?

Đối với môi trường doanh nghiệp, ba yếu tố cốt lõi luôn được ưu tiên hàng đầu là: Bảo mật dữ liệu, Hiệu năng tối ưu và Chi phí vận hành kiểm soát được. Kiến trúc kết hợp dưới đây đáp ứng trọn vẹn các tiêu chí đó:

Neo4j (Enterprise/Community Edition): Hệ quản trị cơ sở dữ liệu đồ thị hàng đầu thế giới với tính năng Index-free Adjacency, cho phép duyệt qua hàng triệu mối quan hệ vật lý giữa các thực thể với tốc độ milli-giây. Ngoài ra, các thư viện như neo4j-graphrag hỗ trợ tích hợp chặt chẽ giữa Vector và Graph.
Ollama: Công cụ runtime tối ưu cho phép thực thi các LLM mã nguồn mở mạnh mẽ (như Llama 3.1, Qwen 2.5) ngay tại môi trường nội bộ (on-premise) hoặc VPS riêng, loại bỏ hoàn toàn rủi ro rò rỉ dữ liệu qua API bên thứ ba.
VPS Linux: Nền tảng máy chủ ảo linh hoạt, tiết kiệm chi phí, dễ dàng cấu hình và mở rộng tài nguyên (CPU/RAM/GPU) theo nhu cầu thực tế của hệ thống.

---

Kiến trúc tổng quan của hệ thống GraphRAG

Một quy trình GraphRAG doanh nghiệp chuẩn chỉnh bao gồm hai giai đoạn chính:

Giai đoạn Khai thác dữ liệu (Ingestion Phase): Tài liệu văn bản thô được chia nhỏ thành các đoạn (chunks). LLM thông qua Ollama sẽ phân tích ngữ cảnh để trích xuất thực thể, thuộc tính và mối quan hệ, sau đó đẩy vào Neo4j để dựng Đồ thị Tri thức. Song song đó, các vector embedding cũng được tạo ra và lưu trữ trong Neo4j Vector Index.
Giai đoạn Truy vấn và Thế hệ (Retrieval & Generation Phase): Khi người dùng đặt câu hỏi, hệ thống thực hiện Hybrid Retrieval (tìm kiếm lai) kết hợp giữa Vector Search để tìm phân đoạn tương đồng và Graph Search (Cypher Query) để lấy các mối quan hệ đa tầng xung quanh thực thể. Toàn bộ ngữ cảnh giàu chi tiết này được gửi đến LLM để tạo ra câu trả lời chính xác nhất.

---

Hướng dẫn từng bước triển khai trên VPS Linux

Bước 1: Chuẩn bị môi trường hệ thống VPS

Doanh nghiệp cần chuẩn bị một VPS Linux (khuyến nghị Ubuntu 22.04 LTS hoặc mới hơn) với cấu hình tối thiểu 8 vCPU và 16GB RAM (nếu chạy mô hình LLM lớn, cấu hình tối ưu nên có thêm GPU chuyên dụng).

Cập nhật hệ thống và cài đặt các công cụ nền tảng:

sudo apt update && sudo apt upgrade -y
sudo apt install -y docker.io docker-compose python3-pip python3-venv git

Bước 2: Triển khai Neo4j bằng Docker Compose

Để quản lý dịch vụ dễ dàng và đồng bộ, chúng ta sẽ khởi chạy Neo4j thông qua Docker Compose. Tạo file docker-compose.yml với nội dung cấu hình như sau:

Lưu ý bảo mật: Hãy thay đổi mật khẩu mặc định bằng một chuỗi ký tự phức tạp để bảo vệ dữ liệu doanh nghiệp trong môi trường production.

version: '3.8'
services:
  neo4j:
    image: neo4j:5.18.0-community
    container_name: neo4j_graphrag
    ports:
      - "7474:7474" # HTTP
      - "7687:7687" # Bolt
    volumes:
      - ./neo4j/data:/data
      - ./neo4j/logs:/logs
      - ./neo4j/import:/var/lib/neo4j/import
      - ./neo4j/plugins:/plugins
    environment:
      - NEO4J_AUTH=neo4j/YourSecurePassword123
      - NEO4J_PLUGINS=["apoc"]
      - NEO4J_dbms_security_procedures_unrestricted=apoc.*

Khởi chạy container Neo4j:

sudo docker-compose up -d

Bước 3: Cài đặt và cấu hình Ollama

Cài đặt Ollama trực tiếp lên VPS bằng lệnh script chính thức:

curl -fsSL [https://ollama.com/install.sh](https://ollama.com/install.sh) | sh

Sau khi cài đặt thành công, tiến hành tải các mô hình phục vụ cho việc trích xuất thực thể (LLM) và tạo định dạng vector (Embedding Model):

# Tải mô hình ngôn ngữ Llama 3.1 (phiên bản 8B tối ưu cho doanh nghiệp vừa và nhỏ)
ollama run llama3.1

# Tải mô hình chuyên dụng cho Embedding
ollama pull nomic-embed-text

Bước 4: Xây dựng Pipeline kết nối GraphRAG bằng Python

Khởi tạo môi trường ảo Python và cài đặt các thư viện kết nối cốt lõi như LangChain và driver của Neo4j:

python3 -m venv venv
source venv/bin/activate
pip install --upgrade pip
pip install langchain langchain-community langchain-ollama neo4j python-dotenv

Tạo cấu trúc mã nguồn để thực hiện chuyển đổi văn bản thô thành Đồ thị Tri thức. Dưới đây là đoạn code minh họa phương thức trích xuất và đẩy dữ liệu trực tiếp vào cơ sở dữ liệu đồ thị Neo4j:

import os
from langchain_community.graphs import Neo4jGraph
from langchain_experimental.graph_transformers import LLMGraphTransformer
from langchain_ollama import ChatOllama
from langchain_core.documents import Document

# Kết nối đến thực thể Neo4j đã cấu hình
url = "bolt://localhost:7687"
username = "neo4j"
password = "YourSecurePassword123"
graph = Neo4jGraph(url=url, username=username, password=password)

# Khởi tạo mô hình ngôn ngữ qua Ollama
llm = ChatOllama(model="llama3.1", temperature=0)
llm_transformer = LLMGraphTransformer(llm=llm)

# Dữ liệu mẫu phi cấu trúc đầu vào của doanh nghiệp
raw_text = "Công ty VinFast thuộc tập đoàn Vingroup, được thành lập vào năm 2017. Ông Phạm Nhật Vượng là chủ tịch của tập đoàn Vingroup."
documents = [Document(page_content=raw_text)]

# Thực hiện chuyển đổi cấu trúc văn bản sang Graph
graph_documents = llm_transformer.convert_to_graph_documents(documents)
graph.add_graph_documents(graph_documents, baseEntityLabel=True, include_source=True)
print("Đã hoàn thành việc nạp dữ liệu và cấu trúc hóa Knowledge Graph!")

---

Kinh nghiệm tối ưu vận hành thực tế cho doanh nghiệp

Trong quá trình đưa hệ thống GraphRAG vào vận hành thực tế tại doanh nghiệp, đội ngũ kỹ sư vận hành hệ thống (DevOps) cần lưu ý một số điểm mấu chốt sau để đảm bảo tính ổn định:

Quản lý bộ nhớ RAM nghiêm ngặt: Cả Neo4j và Ollama đều là những tác vụ tiêu tốn nhiều tài nguyên hệ thống. Cần cấu hình giới hạn dung lượng heap vật lý cho Neo4j trong file cấu hình (ví dụ: dbms.memory.heap.initial_size=4g) nhằm tránh tình trạng VPS bị tràn bộ nhớ (Out Of Memory - OOM).
Định nghĩa rõ ràng tập Schema thực thể: Trước khi để LLM tự do phân tích văn bản, doanh nghiệp nên định nghĩa sẵn một danh sách các loại nhãn thực thể (Entity Labels) và loại mối quan hệ (Relation Types) cốt lõi của ngành hàng kinh doanh. Việc này giúp đồ thị tri thức nhất quán và tránh hiện tượng bùng nổ các liên kết rác.
Cơ chế Hybrid Search: Luôn kết hợp chấm điểm giữa kết quả tìm kiếm tuyến tính của Vector Index và chiều sâu liên kết của các nút lân cận từ Cypher Query để đạt được hiệu suất trả lời câu hỏi cao nhất.

---

Kết luận

Triển khai GraphRAG cấp doanh nghiệp với sự trợ lực của Neo4j và Ollama trên môi trường VPS Linux là giải pháp hoàn hảo để xây dựng thế hệ trợ lý AI thông minh, am hiểu sâu sắc dữ liệu nội bộ. Mô hình này không chỉ giúp bứt phá các giới hạn công nghệ của kiến trúc RAG cũ mà còn bảo vệ tuyệt đối tài sản dữ liệu nhạy cảm của doanh nghiệp với mức chi phí đầu tư tối ưu nhất.