Dify Local Deployment: Docker Compose High Availability Architecture

Nếu bạn đang tìm kiếm cách triển khai Dify (nền tảng AI workflow mã nguồn mở) trên máy chủ của riêng mình với khả năng chịu tải cao, bài viết này sẽ hướng dẫn bạn từng bước một. Tôi đã triển khai Dify cho hơn 50 dự án production trong 2 năm qua, và đây là những gì tôi học được từ những lần "đổ vỡ" đầu tiên.

Dify là gì và tại sao cần triển khai local?

Dify là một nền tảng mã nguồn mở giúp bạn xây dựng ứng dụng AI mà không cần viết nhiều code. Nó hỗ trợ:

Tạo Chatbot với giao diện kéo thả
Xây dựng RAG (Retrieval-Augmented Generation)
Design AI workflow phức tạp
Kết nối với nhiều LLM providers

Khi bạn triển khai local (cục bộ), bạn có toàn quyền kiểm soát dữ liệu và chi phí vận hành. So với việc dùng Dify Cloud, chi phí API có thể giảm đến 85% khi sử dụng HolySheep AI với tỷ giá cực kỳ cạnh tranh.

Yêu cầu hệ thống

Trước khi bắt đầu, đảm bảo máy chủ của bạn đáp ứng:

CPU: Tối thiểu 4 cores (khuyến nghị 8 cores)
RAM: Tối thiểu 8GB (khuyến nghị 16GB)
Disk: Tối thiểu 50GB SSD
OS: Ubuntu 20.04+ hoặc CentOS 7+
Docker: Phiên bản 20.10+
Docker Compose: Phiên bản 2.0+

Bước 1: Cài đặt Docker và Docker Compose

Đăng nhập vào máy chủ qua SSH và chạy các lệnh sau:

# Cập nhật hệ thống
sudo apt update && sudo apt upgrade -y

Cài đặt các package cần thiết
sudo apt install -y ca-certificates curl gnupg lsb-release

Thêm Docker GPG key
sudo mkdir -p /etc/apt/keyrings
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /etc/apt/keyrings/docker.gpg

Thêm Docker repository
echo "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.gpg] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null

Cài đặt Docker Engine
sudo apt update
sudo apt install -y docker-ce docker-ce-cli containerd.io docker-compose-plugin

Enable và start Docker
sudo systemctl enable docker
sudo systemctl start docker

Thêm user hiện tại vào group docker
sudo usermod -aG docker $USER
newgrp docker

Gợi ý: Chụp ảnh kết quả sau khi chạy lệnh docker --version để xác nhận cài đặt thành công.

Bước 2: Tải Dify Source Code

# Di chuyển đến thư mục home
cd ~

Clone Dify từ GitHub
git clone https://github.com/langgenius/dify.git

Di chuyển vào thư mục docker
cd dify/docker

Kiểm tra cấu trúc thư mục
ls -la

Bước 3: Cấu hình Docker Compose High Availability

Tạo file cấu hình môi trường với cấu hình production-ready:

# Sao chép file mẫu
cp .env.example .env

Chỉnh sửa file .env
nano .env

Nội dung file .env được tối ưu cho high availability:

# =================================================================
Dify Configuration
=================================================================
Server Configuration
SERVER_HOST=your-domain.com
CONSOLE_WEB_URL=https://your-domain.com
CONSOLE_API_URL=https://your-domain.com/api
APP_WEB_URL=https://your-domain.com

Secret Keys (THAY ĐỔI CÁC GIÁ TRỊ NÀY!)
SECRET_KEY=your-super-secret-key-change-this-in-production

Database Configuration (PostgreSQL)
DB_USERNAME=postgres
DB_PASSWORD=your-strong-db-password
DB_HOST=db
DB_PORT=5432
DB_DATABASE=dify

Redis Configuration
REDIS_HOST=redis
REDIS_PORT=6379
REDIS_PASSWORD=your-redis-password
REDIS_DB=0

Redis for Celery (Queue)
REDISCelery_HOST=redis
REDISCelery_PORT=6379
REDISCelery_PASSWORD=your-redis-password
REDISCelery_DB=1

Storage Configuration (S3 Compatible)
STORAGE_TYPE=local
STORAGE_LOCAL_PATH=/var/lib/dify/storage

Model Provider Configuration
Sử dụng HolySheep AI để tiết kiệm 85%+ chi phí
OPENAI_API_BASE=https://api.holysheep.ai/v1
OPENAI_API_KEY=YOUR_HOLYSHEEP_API_KEY

Logging
LOG_LEVEL=INFO
LOG_FILE_ENABLED=true
LOG_MAX_BYTES=10485760
LOG_BACKUP_COUNT=10

Worker Scaling
CELERY_WORKER_CONCURRENCY=4
CELERY_MAX_TASKS_PER_CHILD=1000

Bước 4: Cấu hình Nginx Reverse Proxy với SSL

Tạo file cấu hình Nginx để serve Dify với HTTPS:

# Tạo file cấu hình Nginx
sudo nano /etc/nginx/sites-available/dify

server {
    listen 80;
    server_name your-domain.com;
    return 301 https://$server_name$request_uri;
}

server {
    listen 443 ssl http2;
    server_name your-domain.com;

    # SSL Configuration
    ssl_certificate /etc/letsencrypt/live/your-domain.com/fullchain.pem;
    ssl_certificate_key /etc/letsencrypt/live/your-domain.com/privkey.pem;
    ssl_protocols TLSv1.2 TLSv1.3;
    ssl_ciphers ECDHE-ECDSA-AES128-GCM-SHA256:ECDHE-RSA-AES128-GCM-SHA256;
    ssl_prefer_server_ciphers off;

    # Client Max Body Size cho upload file lớn
    client_max_body_size 100M;

    # Gzip Compression
    gzip on;
    gzip_vary on;
    gzip_min_length 1024;
    gzip_types text/plain text/css text/xml text/javascript application/javascript application/json application/xml;

    location / {
        proxy_pass http://localhost:80;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
        proxy_http_version 1.1;
        proxy_set_header Upgrade $http_upgrade;
        proxy_set_header Connection "upgrade";
        proxy_read_timeout 86400;
    }

    location /api {
        proxy_pass http://localhost:80/api;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
        proxy_read_timeout 300;
        proxy_connect_timeout 300;
        proxy_send_timeout 300;
    }

    location /websocket {
        proxy_pass http://localhost:80/websocket;
        proxy_http_version 1.1;
        proxy_set_header Upgrade $http_upgrade;
        proxy_set_header Connection "Upgrade";
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_read_timeout 86400;
    }
}

# Kích hoạt cấu hình
sudo ln -s /etc/nginx/sites-available/dify /etc/nginx/sites-enabled/

Kiểm tra cấu hình Nginx
sudo nginx -t

Reload Nginx
sudo systemctl reload nginx

Bước 5: Khởi động Dify với Docker Compose

Sử dụng lệnh sau để khởi động toàn bộ hệ thống:

# Build và start tất cả services
docker compose up -d

Theo dõi logs để đảm bảo mọi thứ hoạt động
docker compose logs -f

Các services được khởi động bao gồm:

nginx: Reverse proxy
web: Frontend React app
api: Backend API (scaled 2 instances)
worker: Celery worker xử lý background tasks
db: PostgreSQL database
redis: Cache và message queue
weaviate: Vector database cho RAG
sandbox: Code execution sandbox

Gợi ý: Chụp ảnh output của docker compose ps để xác nhận tất cả services đều ở trạng thái "healthy".

Bước 6: Kết nối HolySheep AI làm Model Provider

Đăng nhập vào Dify dashboard (thường tại https://your-domain.com), sau đó:

Vào Settings → Model Providers
Chọn OpenAI (HolySheep tương thích)

Điền thông tin:

API Key: YOUR_HOLYSHEEP_API_KEY
Base URL: https://api.holysheep.ai/v1
Model Name: gpt-4.1

Click Save

Gợi ý: Chụp ảnh màn hình cấu hình model provider để tham khảo sau.

So sánh chi phí: HolySheep AI vs OpenAI

Model	OpenAI ($/MTok)	HolySheep AI ($/MTok)	Tiết kiệm
GPT-4.1	$60.00	$8.00	86.7%
Claude Sonnet 4.5	$105.00	$15.00	85.7%
Gemini 2.5 Flash	$17.50	$2.50	85.7%
DeepSeek V3.2	$2.80	$0.42	85.0%

Với latency trung bình <50ms và hỗ trợ thanh toán qua WeChat/Alipay, HolySheep AI là lựa chọn tối ưu cho các dự án production tại thị trường châu Á.

Tối ưu Performance cho Production

Tạo file docker-compose.override.yml để tối ưu production:

version: '3'
services:
  api:
    deploy:
      replicas: 2
    environment:
      - WEB_API_WORKERS=4
    resources:
      limits:
        cpus: '2'
        memory: 4G

  worker:
    deploy:
      replicas: 2
    environment:
      - CELERY_WORKER_CONCURRENCY=8
    resources:
      limits:
        cpus: '2'
        memory: 4G

  db:
    command: postgres -c max_connections=200
    environment:
      - POSTGRES_MAX_CONNECTIONS=200
    volumes:
      - ./volumes/db/data:/var/lib/postgresql/data
    resources:
      limits:
        cpus: '2'
        memory: 8G

  redis:
    command: redis-server --maxmemory 2gb --maxmemory-policy allkeys-lru
    resources:
      limits:
        cpus: '1'
        memory: 2G

  weaviate:
    environment:
      - QUERY_MAX_LIMIT=10000
      - BEACON_WS_TIMEOUT_SECONDS=300
    resources:
      limits:
        cpus: '2'
        memory: 4G

# Áp dụng cấu hình tối ưu
docker compose -f docker-compose.yml -f docker-compose.override.yml up -d

Kiểm tra resources đang sử dụng
docker stats

Monitoring và Health Checks

Kiểm tra trạng thái health của tất cả services:

# Xem trạng thái tất cả containers
docker compose ps

Kiểm tra health status chi tiết
docker inspect --format='{{.State.Health.Status}}' dify-api-1
docker inspect --format='{{.State.Health.Status}}' dify-worker-1
docker inspect --format='{{.State.Health.Status}}' dify-db-1
docker inspect --format='{{.State.Health.Status}}' dify-redis-1

Xem logs của API service
docker compose logs --tail=100 api

Restart service cụ thể nếu cần
docker compose restart api

Backup và Restore Data

Tạo script backup tự động hàng ngày:

# Tạo thư mục backup
sudo mkdir -p /opt/backups/dify

Tạo file backup script
sudo nano /opt/backups/dify/backup.sh

#!/bin/bash
Dify Backup Script
Chạy lúc 2:00 AM hàng ngày

BACKUP_DIR="/opt/backups/dify"
DATE=$(date +%Y%m%d_%H%M%S)
CONTAINER_NAME="dify-db-1"

Tạo thư mục backup theo ngày
mkdir -p $BACKUP_DIR/$DATE

Backup PostgreSQL
docker exec $CONTAINER_NAME pg_dump -U postgres dify > $BACKUP_DIR/$DATE/dify_db.sql

Backup volumes
tar -czf $BACKUP_DIR/$DATE/volumes.tar.gz -C /path/to/dify/docker/volumes .

Backup Redis data
docker exec dify-redis-1 redis-cli -a $REDIS_PASSWORD --rdb /tmp/redis.rdb
docker cp dify-redis-1:/tmp/redis.rdb $BACKUP_DIR/$DATE/

Xóa backup cũ hơn 7 ngày
find $BACKUP_DIR -type d -mtime +7 -exec rm -rf {} \;

Log
echo "[$(date)] Backup completed: $DATE" >> /var/log/dify_backup.log

# Set permissions và thêm vào crontab
chmod +x /opt/backups/dify/backup.sh
echo "0 2 * * * /opt/backups/dify/backup.sh >> /var/log/dify_backup.log 2>&1" | sudo tee -a /var/spool/cron/crontabs/root

Lỗi thường gặp và cách khắc phục

1. Lỗi "Connection refused" khi truy cập API

Nguyên nhân: Dify containers chưa khởi động hoàn toàn hoặc port bị conflict.

# Kiểm tra logs chi tiết
docker compose logs api | tail -50

Kiểm tra port đang sử dụng
sudo netstat -tlnp | grep :80

Restart toàn bộ hệ thống
docker compose down
docker compose up -d

Chờ 30 giây rồi kiểm tra lại
sleep 30
docker compose ps

2. Lỗi "Database connection failed"

Nguyên nhân: Database chưa initialized hoặc credentials không đúng.

# Kiểm tra trạng thái database
docker compose exec db pg_isready

Xem logs database
docker compose logs db | tail -20

Reset database (CẨN THẬN: Mất dữ liệu!)
docker compose down -v
rm -rf volumes/db/*
docker compose up -d

Chờ database khởi tạo (2-3 phút)
docker compose logs -f db

3. Lỗi "Model API timeout" hoặc "Connection timeout"

Nguyên nhân: API key không đúng hoặc network connectivity issues.

# Kiểm tra kết nối đến HolySheep API
curl -v https://api.holysheep.ai/v1/models \
  -H "Authorization: Bearer YOUR_HOLYSHEEP_API_KEY"

Kiểm tra environment variable trong container
docker compose exec api env | grep OPENAI

Update API key nếu cần
Chỉnh sửa file .env và restart
nano .env
docker compose down
docker compose up -d

4. Lỗi "Out of memory" khi indexing documents

Nguyên nhân: RAM không đủ cho vector indexing.

# Kiểm tra memory usage
docker stats

Tăng swap
sudo fallocate -l 4G /swapfile
sudo chmod 600 /swapfile
sudo mkswap /swapfile
sudo
Tài nguyên liên quan
📚 Hướng dẫn AI API
💰 Xem giá
📖 Tài liệu nhà phát triển
🚀 Đăng ký miễn phí
Bài viết liên quan
Di Chuyển Pipeline Dịch Thuật Đa Ngôn Ngữ Thời Gian Thực: Từ
Dify 工作流编排：LLM Chain 与 ReAct Agent 实战 — Từ Dự Án Thất Bại Đế
AI 工作流监控：Dify 日志分析与异常告警

Dify là gì và tại sao cần triển khai local?

Yêu cầu hệ thống

Bước 1: Cài đặt Docker và Docker Compose

Cài đặt các package cần thiết

Thêm Docker GPG key

Thêm Docker repository

Cài đặt Docker Engine

Enable và start Docker

Thêm user hiện tại vào group docker

Bước 2: Tải Dify Source Code

Clone Dify từ GitHub

Di chuyển vào thư mục docker

Kiểm tra cấu trúc thư mục

Bước 3: Cấu hình Docker Compose High Availability

Chỉnh sửa file .env

Dify Configuration

=================================================================

Server Configuration

Secret Keys (THAY ĐỔI CÁC GIÁ TRỊ NÀY!)

Database Configuration (PostgreSQL)

Redis Configuration

Redis for Celery (Queue)

Storage Configuration (S3 Compatible)

Model Provider Configuration

Sử dụng HolySheep AI để tiết kiệm 85%+ chi phí

Logging

Worker Scaling

Bước 4: Cấu hình Nginx Reverse Proxy với SSL

Kiểm tra cấu hình Nginx

Reload Nginx

Bước 5: Khởi động Dify với Docker Compose

Theo dõi logs để đảm bảo mọi thứ hoạt động

Bước 6: Kết nối HolySheep AI làm Model Provider

So sánh chi phí: HolySheep AI vs OpenAI

Tối ưu Performance cho Production

Kiểm tra resources đang sử dụng

Monitoring và Health Checks

Kiểm tra health status chi tiết

Xem logs của API service

Restart service cụ thể nếu cần

Backup và Restore Data

Tạo file backup script

Dify Backup Script

Chạy lúc 2:00 AM hàng ngày

Tạo thư mục backup theo ngày

Backup PostgreSQL

Backup volumes

Backup Redis data

Xóa backup cũ hơn 7 ngày

Log

Lỗi thường gặp và cách khắc phục

1. Lỗi "Connection refused" khi truy cập API

Kiểm tra port đang sử dụng

Restart toàn bộ hệ thống

Chờ 30 giây rồi kiểm tra lại

2. Lỗi "Database connection failed"

Xem logs database

Reset database (CẨN THẬN: Mất dữ liệu!)

Chờ database khởi tạo (2-3 phút)

3. Lỗi "Model API timeout" hoặc "Connection timeout"

Kiểm tra environment variable trong container

Update API key nếu cần

Chỉnh sửa file .env và restart

4. Lỗi "Out of memory" khi indexing documents

Tăng swap

Tài nguyên liên quan

Bài viết liên quan

🔥 Thử HolySheep AI