Chào các bạn! Mình là Minh, một lập trình viên đã dành cả tuần để nghiên cứu cách chạy mô hình AI lớn ngay trên máy tính cá nhân. Sau khi thử nghiệm thất bại nhiều lần và đọc hàng chục bài viết bằng tiếng Anh, mình quyết định viết hướng dẫn này để giúp các bạn — những người hoàn toàn chưa có kinh nghiệm — có thể tự tay deploy mô hình Llama 4 và Qwen 3 một cách dễ dàng nhất.

Tại Sao Nên Chạy AI Trên Máy Cá Nhân?

Trước khi bắt đầu, mình muốn chia sẻ lý do mình chọn deploy AI locally thay vì dùng API từ các nhà cung cấp lớn:

Tuy nhiên, mình cũng phải thừa nhận rằng với các dự án production hoặc khi cần hiệu năng cao, việc sử dụng API từ các nhà cung cấp chuyên nghiệp như HolySheep AI vẫn là lựa chọn tối ưu hơn. HolySheep cung cấp tỷ giá chỉ ¥1=$1, tiết kiệm đến 85% so với các nền tảng khác, hỗ trợ WeChat và Alipay, độ trễ dưới 50ms, và có tín dụng miễn phí khi đăng ký.

Ollama Là Gì? Tại Sao Nó Giúp Cuộc Sống Dễ Dàng Hơn?

Ollama là một công cụ mã nguồn mở cho phép bạn chạy các mô hình AI lớn (LLM) ngay trên máy tính của mình mà không cần phải cấu hình phức tạp. Trước khi có Ollama, việc deploy một mô hình như Llama đòi hỏi bạn phải tải hàng chục GB dữ liệu, cấu hình Python, cài đặt thư viện, và xử lý hàng trăm lỗi kỹ thuật. Ollama đơn giản hóa tất cả chỉ còn một vài câu lệnh.

Yêu Cầu Hệ Thống Trước Khi Bắt Đầu

Mình đã thử nghiệm trên nhiều cấu hình khác nhau và đây là khuyến nghị của mình:

Nếu máy tính của bạn không đáp ứng được yêu cầu GPU, đừng lo lắng! Ollama vẫn có thể chạy trên CPU, tuy nhiên tốc độ sẽ chậm hơn đáng kể. Trong trường hợp này, mình khuyên bạn nên sử dụng HolySheep AI thay thế để có trải nghiệm mượt mà hơn với chi phí chỉ từ $0.42/MTok (DeepSeek V3.2).

Bước 1: Cài Đặt Ollama Trên Máy Tính

Cài Đặt Trên macOS

Đây là cách đơn giản nhất — chỉ cần tải file cài đặt từ trang chủ của Ollama:

# Truy cập https://ollama.com/download

Tải file Ollama-darwin.zip


Giải nén và kéo thả vào thư mục Applications


Mở Terminal và chạy lệnh sau để kiểm tra:

ollama --version

Cài Đặt Trên Linux

Với Linux, mình sử dụng script cài đặt một dòng lệnh:

curl -fsSL https://ollama.com/install.sh | sh

Cài Đặt Trên Windows

Windows yêu cầu WSL2 (Windows Subsystem for Linux). Mình đã mất 30 phút để cài đặt WSL2 lần đầu, nhưng nó hoạt động rất ổn định sau đó:

# Mở PowerShell với quyền Administrator
wsl --install


Sau khi khởi động lại, chạy lệnh trong WSL

curl -fsSL https://ollama.com/install.sh | sh

Gợi ý ảnh chụp màn hình: Sau khi cài đặt thành công, gõ "ollama" trong Terminal. Bạn sẽ thấy danh sách các lệnh khả dụng hiển thị ra.

Bước 2: Tải Mô Hình Llama 4 Về Máy

Đây là bước mà nhiều người mới bị "stuck" vì không biết nên chọn phiên bản nào. Mình sẽ giải thích chi tiết:

# Kiểm tra các phiên bản Llama 4 có sẵn
ollama list

Output: NAME                ID           SIZE      MODIFIED



Tải Llama 3.2 1B (nhẹ, phù hợp cho máy yếu)

ollama pull llama3.2:1b


Hoặc tải Llama 3.2 3B (cân bằng giữa chất lượng và tốc độ)

ollama pull llama3.2:3b


Tải Llama 3.1 8B (yêu cầu GPU)

ollama pull llama3.1:8b

Lưu ý quan trọng: Tại thời điểm mình viết bài này, Llama 4 chưa có sẵn trên Ollama. Tuy nhiên, Llama 3.1 8B và Llama 3.2 là các phiên bản mới nhất và cực kỳ mạnh mẽ. Để cập nhật thông tin mới nhất, bạn có thể kiểm tra tại trang chủ Ollama.

# Kiểm tra tất cả các mô hình Llama có sẵn
ollama search llama

Output sẽ hiển thị danh sách đầy đủ các phiên bản

Bước 3: Tải Mô Hình Qwen 3

Qwen 3 là mô hình của Alibaba, có khả năng đa ngôn ngữ rất tốt, đặc biệt là tiếng Trung và tiếng Anh:

# Tải Qwen 2.5 7B (phiên bản ổn định)
ollama pull qwen2.5:7b


Hoặc Qwen 2.5 14B cho chất lượng cao hơn

ollama pull qwen2.5:14b


Kiểm tra xem đã tải thành công chưa

ollama list

Gợi ý ảnh chụp màn hình: Chạy lệnh "ollama list" sẽ hiển thị bảng với tên mô hình, dung lượng (SIZE), và ngày tải (MODIFIED).

Bước 4: Chạy Mô Hình Đầu Tiên

Bây giờ đến phần thú vị nhất — chạy thử mô hình! Mình nhớ lần đầu tiên chạy được thành công, mình đã ngồi cười một mình như người điên vì háo hức.

# Chạy Llama 3.2 1B (đây là lệnh đơn giản nhất)
ollama run llama3.2:1b


Khi thấy dấu nhắc >>>, gõ câu hỏi của bạn:


>>> Xin chào, bạn tên gì?


>>> Explain what is artificial intelligence in simple terms



Gõ /bye để thoát

Sau vài giây (hoặc vài phút tùy cấu hình máy), bạn sẽ nhận được câu trả lời. Đây là khoảnh khắc mà mình chắc chắn bạn sẽ thấy thú vị!

Bước 5: Sử Dụng Ollama Với API HTTP

Đây là phần mà nhiều bạn quan tâm — làm sao để tích hợp Ollama vào ứng dụng của mình:

# Khởi động server API của Ollama
ollama serve


Server sẽ chạy tại http://localhost:11434


Bây giờ bạn có thể gọi API từ code



Ví dụ với curl:

curl http://localhost:11434/api/generate -d '{
  "model": "llama3.2:1b",
  "prompt": "Viết một đoạn văn ngắn về tầm quan trọng của giáo dục",
  "stream": false
}'

Tích Hợp Ollama Với Python

# Cài đặt thư viện requests (thường đã có sẵn)

pip install requests


import requests
import json

url = "http://localhost:11434/api/generate"
payload = {
    "model": "llama3.2:1b",
    "prompt": "Viết code Python để tính tổng các số từ 1 đến 100",
    "stream": False
}

response = requests.post(url, json=payload)
result = response.json()

print("=== Kết quả từ Ollama ===")
print(result.get("response", "Không có phản hồi"))

So Sánh Ollama Với API Providers Khác

Trong quá trình sử dụng, mình nhận thấy Ollama có những ưu và nhược điểm riêng:

Tiêu chí Ollama (Local) HolySheep AI (API)
Chi phí Chỉ tiền điện $0.42-$15/MTok
Độ trễ 5-30 giây (CPU) < 50ms
Chất lượng Phụ thuộc model GPT-4.1, Claude 4.5
Setup 30-60 phút 5 phút

Thực tế, mình sử dụng cả hai phương pháp. Ollama cho các project cá nhân, thử nghiệm, và học tập. Còn khi cần production hoặc cần mô hình mạnh nhất (GPT-4.1 với $8/MTok hoặc Claude Sonnet 4.5 với $15/MTok), mình chuyển sang HolySheep AI vì tỷ giá chỉ ¥1=$1 thực sự tiết kiệm đến 85%.

Kết Nối Ollama Với Dự Án Thực Tế

Đây là một ví dụ thực tế mà mình đã sử dụng để xây dựng chatbot hỗ trợ khách hàng đơn giản:

# File: ollama_chatbot.py
import requests
import json

class OllamaChatbot:
    def __init__(self, model="llama3.2:1b", base_url="http://localhost:11434"):
        self.model = model
        self.api_url = f"{base_url}/api/generate"
    
    def chat(self, message, context=""):
        payload = {
            "model": self.model,
            "prompt": f"Bạn là trợ lý AI. Câu hỏi: {message}",
            "context": context,
            "stream": False,
            "options": {
                "temperature": 0.7,
                "top_p": 0.9
            }
        }
        
        try:
            response = requests.post(self.api_url, json=payload, timeout=60)
            response.raise_for_status()
            result = response.json()
            return result.get("response", "Xin lỗi, tôi không thể trả lời.")
        except requests.exceptions.Timeout:
            return "Yêu cầu bị timeout. Vui lòng thử lại."
        except Exception as e:
            return f"Đã xảy ra lỗi: {str(e)}"


Sử dụng

bot = OllamaChatbot(model="llama3.2:1b")
print(bot.chat("Xin chào, bạn có thể giới thiệu về bản thân không?"))

3 Mẹo Tối Ưu Hiệu Suất Ollama

Qua nhiều lần thử nghiệm, đây là những mẹo mình học được:

# Cài đặt biến môi trường để tố

Tài nguyên liên quan
Bài viết liên quan