VPS GPU thuê tháng vs theo giờ: chi phí thật cho AI workload (2026)

Năm 2026 AI workload bùng nổ, từ fine-tune LLM nhỏ tới inference Whisper batch, ai cũng cần GPU. Câu hỏi cũ: thuê theo giờ ($0.30-$2.50/h) hay thuê hẳn 1 tháng? Bài này tính cost breakeven thật, so sánh marketplace (Vast.ai, RunPod, Lambda Labs) với GPU dedicated, kèm use case nào hợp với option nào.

Hai thế giới: per-hour vs dedicated monthly

Per-hour (on-demand / spot)

Bạn trả tiền chính xác số giờ chạy. Bắt instance lúc cần, tắt khi xong. Không cần commit dài hạn.

• Vast.ai: marketplace, ai cũng host GPU cho thuê, giá rẻ nhất nhưng SLA tùy host
• RunPod: nửa marketplace nửa cloud, balance giá + reliability
• Lambda Labs: cloud chuyên AI, on-demand H100/A100, support ngon, giá cao hơn
• Paperspace, Modal, Replicate: PaaS hơn, abstract dev experience

Dedicated monthly (GPU server riêng)

Server vật lý có GPU gắn sẵn, thuê tháng/quý/năm. Có quyền root, dùng 24/7, không bị evict.

• Hetzner, OVH, Hivelocity (datacenter quốc tế)
• Provider VN bắt đầu có gói GPU dedicated tháng (TND GPU VPS đang chuẩn bị ra mắt)

Giá thị trường tháng 5/2026 (verify thực tế)

Mình check sample giá tại thời điểm viết bài (giá thay đổi theo ngày, đặc biệt spot):

Tính breakeven: tháng vs giờ

Công thức đơn giản:

breakeven_hour = monthly_price / hourly_price

Ví dụ RTX 4090

Giả sử có 1 server RTX 4090 dedicated giá ~$300-400/tháng (tham khảo Hetzner GPU line, giá thay đổi):

• $350/tháng / $0.35/h = ~1000 giờ breakeven
• Một tháng có 720-744 giờ → dedicated luôn rẻ hơn nếu bạn chạy quá ~50% thời gian

Ví dụ H100 80GB

H100 dedicated giá cao hơn nhiều, tham khảo $2000-3000/tháng (tùy provider):

• $2500/tháng / $1.80/h = ~1390 giờ
• Một tháng max 744 giờ → on-demand luôn rẻ hơn nếu chỉ chạy < 100% thời gian
• Trừ khi bạn cần 24/7 inference service, lúc đó dedicated win về cost ổn định + không có disruption

Rule of thumb 150-200h/tháng

Với RTX 4090 / 3090 / A6000 (giá hourly thấp), nếu workload > 150-200 giờ/tháng, nên cân nhắc dedicated. Với H100/B200 giá hourly cao, breakeven > 600-700 giờ, hầu hết use case on-demand vẫn rẻ hơn.

Use case map: chọn option nào cho task nào

Training một-lần (fine-tune Stable Diffusion / LoRA, fine-tune LLM 7B)

Chạy 4-12 giờ rồi xong. On-demand 100%. Vast.ai RTX 4090 ~$0.30/h là sweet spot.

# Ước tính chi phí 1 lần training
4 giờ × $0.35/h = $1.40
# Nếu chạy thử 5 lần điều chỉnh hyperparam = $7
# Cực rẻ so với mua GPU vật lý

Batch inference đêm (Whisper transcribe 100 giờ audio, embed corpus)

Burst vài tiếng đến vài ngày. On-demand, hoặc spot Vast.ai nếu tolerant interrupt.

# Whisper Large-v3 trên A100 ~10x realtime
# 100 giờ audio = 10 giờ compute
# 10 × $1.80 = $18 total

Inference real-time service (chatbot LLM, image gen API)

Chạy 24/7, latency-sensitive. Dedicated luôn win.

• Đảm bảo uptime, không bị evict spot
• Latency ổn định, không cold-start container
• Bill predictable
• Có thể optimize batch + quantize tận dụng full GPU

R&D dev (chạy notebook test ý tưởng)

Idle nhiều, burst lúc thử. On-demand, ưu tiên RunPod Pod stop-start nhanh. Modal/Replicate cũng hợp.

Production trong nước (user VN)

Latency cực quan trọng. Cloud quốc tế ping 150-250ms về VN không chấp nhận được với chatbot voice/realtime. Cần GPU server đặt tại DC VN.

Hiện tại lựa chọn GPU dedicated VN còn ít. TND đang chuẩn bị ra mắt gói GPU VPS với GPU thế hệ mới, đặt tại DC VN để giảm latency cho user nội địa.

So sánh deep: Vast.ai vs RunPod vs Lambda

Vast.ai

Pros:

• Giá rẻ nhất, RTX 4090 từ $0.29/h
• Marketplace lớn nhất, lựa chọn nhiều
• Bid spot rẻ hơn nữa

Cons:

• Reliability tùy host, có host tắt máy đột ngột
• Internet bandwidth, storage class không đồng đều
• UI thô, cần đọc reliability score + verified host
• Không SLA, mất data spot tự gánh

Khi nào dùng: Train one-off, experiment, batch inference tolerant interrupt. Lọc verified machines + reliability > 99%.

RunPod

Pros:

• Secure Cloud (DC riêng) vs Community Cloud (marketplace) tách rõ
• Template Docker phong phú, click deploy
• Persistent storage decent, network volume share giữa pod
• Serverless GPU (auto scale per request) cho inference

Cons:

• Giá cao hơn Vast 30-50%
• Community Cloud cũng có evict, không SLA mạnh như Secure
• UI/UX vẫn dev-focused, không bóng

Khi nào dùng: Cần balance giữa giá rẻ + tin cậy, đặc biệt serverless inference burst.

Lambda Labs

Pros:

• Cloud chuyên AI, kỹ sư hiểu ML stack
• H100/B200 cluster (8x, 16x GPU) cho training lớn
• SLA, support email/Slack, network nhanh
• Pre-installed CUDA, PyTorch, JAX

Cons:

• Giá cao nhất 3 option
• Capacity H100 thường hết, phải reserve
• Region limited (US mainly)

Khi nào dùng: Training pretraining/fine-tune scale lớn (LLaMA 70B+ FT), production inference cần SLA, team có budget không quá nhạy price.

Đừng quên: storage + egress chi phí ẩn

Giá hourly chỉ là compute. Phần ẩn:

• Storage: persistent disk ~$0.05-0.15/GB/tháng. Lưu model 50GB = $3-8/tháng dù không chạy.
• Egress: cloud quốc tế tính tiền bandwidth ra Internet ~$0.05-0.10/GB. Pull model về VN 50GB = $2.5-5.
• Image pull: container 10GB pull về VPS mỗi lần khởi động = $0.5-1.
• Cold start: serverless GPU mất 30-90 giây load model, nếu request thưa thì idle cost > on-demand 24/7.

Case study: 1 dev solo train LoRA + inference image gen

Workflow:

1. Train LoRA Flux: 6 giờ trên RTX 4090, 1 tuần 1 lần
2. Inference image gen: ~500 ảnh/ngày, mỗi ảnh 8 giây compute
3. Storage: 80GB model + dataset

Cost on-demand (Vast.ai RTX 4090):

• Training: 6h × 4 tuần × $0.35 = $8.4/tháng
• Inference: 500 × 8s / 3600 × 30 ngày × $0.35 = ~$11.6/tháng
• Storage 80GB × $0.10 = $8/tháng
• Tổng ~$28/tháng

Cost dedicated RTX 4090 (~$350/tháng):

• $350/tháng, GPU idle hầu hết thời gian, lãng phí 90%
• Chỉ hợp nếu inference scale lên >100k/tháng

Kết luận: solo dev on-demand win to. Khi inference > 50k request/tháng mới nên cân nhắc dedicated.

Case study: startup AI chatbot Vietnamese, 1000 user active

Workflow:

1. Serve Qwen 14B GPTQ trên 1 GPU 24/7
2. Latency target < 2 giây cho first token
3. User VN, cần latency thấp

Phương án A: RunPod on-demand 24/7 A100 (~$1.89/h)

• $1.89 × 720h = $1360/tháng
• Latency Singapore ~50-80ms, OK
• Có rủi ro evict (community cloud) hoặc giá tăng

Phương án B: GPU dedicated VN (giá tham khảo $400-700/tháng tùy GPU)

• Bill ổn định, predictable
• Latency 5-15ms tới user VN, UX siêu mượt
• Hóa đơn VAT, support tiếng Việt
• Cần invest setup ban đầu

Production thật cho user VN, phương án B win về UX + cost dài hạn. Đây là target use case cho TND GPU VPS sắp ra mắt.

Quyết định nhanh trong 60 giây

Roadmap nâng cấp dần

1. Giai đoạn POC: Vast.ai/RunPod hourly, chứng minh idea trước khi đốt tiền.
2. MVP launch: RunPod on-demand 24/7 hoặc Lambda reserved 1-3 tháng để kiểm chứng traffic thật.
3. Production scale: nếu user VN, chuyển sang GPU dedicated DC VN. Combine với CDN, cache.
4. Optimize: quantize (GPTQ, AWQ, GGUF), batch inference, KV cache, vLLM/TensorRT-LLM serving. Giảm GPU cần.

FAQ

Spot vs On-demand khác gì?

Spot = giá rẻ ~30-70% nhưng provider có quyền dừng máy bất cứ lúc nào (evict). Phù hợp batch jobs có checkpoint. On-demand = giá tiêu chuẩn, không bị evict.

VPS thường có chạy AI inference được không?

Có nhưng chậm. CPU inference Llama 7B Q4 ~3-8 tokens/s, đủ cho POC nhưng không production. Image gen Stable Diffusion XL trên CPU = vài phút/ảnh, vô dụng. Cần GPU thật cho production AI.

Khi nào TND GPU VPS ra mắt?

Đang trong giai đoạn chuẩn bị hạ tầng. Nếu bạn quan tâm GPU VPS đặt tại DC VN để serve user nội địa, inbox Fanpage TND để được thông báo và lock giá early-bird.

VPS CPU TND hỗ trợ AI gì?

Các gói Cloud VPS TND hiện tại phù hợp host vector DB (Qdrant, Weaviate), API gateway, RAG orchestration, queue worker, fine-tune CPU-only nhẹ. GPU workload chờ dòng GPU VPS sắp ra mắt.

Tổng kết 1 dòng

Workload burst hoặc R&D = on-demand (Vast.ai/RunPod). Workload 24/7 production = dedicated. User VN = GPU server DC VN. Tính breakeven trước khi commit hợp đồng dài.