Trả lời nhanh: Agent gọi API chứ không tự chạy mô hình nên không cần GPU. Cấu hình hợp lý cho một tới hai agent: 4GB RAM, 2 tới 4 nhân, ổ NVMe. Ưu tiên theo thứ tự tốc độ ổ đĩa, xung nhịp CPU, rồi mới tới RAM và số nhân, vì agent liên tục ghi log, đọc mã nguồn, chạy lệnh và lưu trạng thái. Ba lưu ý bắt buộc: đặt hạn mức chi tiêu cho khoá API, giới hạn quyền của agent, và có backup vì agent cũng xoá nhầm file như người.
Cho agent chạy qua đêm rồi sáng dậy xem kết quả nghe rất hấp dẫn. Nhưng để nó chạy được liên tục và không gây hoạ, có vài thứ phải chuẩn bị trước.
- Agent gọi API nên không cần GPU, tiền nên dồn vào ổ nhanh và xung cao.
- Việc chạy liên tục cần máy không tắt, mạng ổn định, khác hẳn máy cá nhân.
- Đặt hạn mức chi tiêu cho khoá API trước khi cho agent chạy tự do.
- Giới hạn quyền và tách khỏi dữ liệu thật, agent cũng có thể xoá nhầm.
Cấu hình theo quy mô
| Nhu cầu | RAM | Nhân | Ổ |
|---|---|---|---|
| Một agent, dự án nhỏ | 4GB | 2 | NVMe 40GB trở lên |
| Vài agent song song | 8GB | 4 | NVMe 80GB trở lên |
| Cả đội dùng chung | 16GB | 8 | NVMe 160GB trở lên |
Không cần GPU vì agent chỉ gửi yêu cầu tới mô hình chạy trên hạ tầng của nhà cung cấp. GPU chỉ cần khi bạn tự chạy mô hình tại chỗ, và đó là bài toán chi phí hoàn toàn khác.
Vì sao ổ đĩa quan trọng hơn người ta nghĩ
Một phiên làm việc của agent gồm rất nhiều thao tác chạm ổ: đọc mã nguồn để hiểu ngữ cảnh, ghi file đã sửa, chạy cài thư viện, chạy build, chạy test, ghi log từng bước, lưu trạng thái để tiếp tục phiên sau.
Nhân với hàng chục vòng lặp cho một tính năng, tổng lượng đọc ghi rất lớn và toàn file nhỏ. Đây đúng là kịch bản ổ NVMe vượt trội, và cũng là lý do nhiều người mua nhiều nhân mà vẫn thấy chậm.
Kiểm soát chi phí gọi API
- Đặt hạn mức chi tiêu ngay trên bảng điều khiển của nhà cung cấp mô hình, đây là tuyến phòng thủ chắc nhất.
- Dùng mô hình nhỏ cho việc đơn giản, chỉ gọi mô hình mạnh khi cần.
- Bật ghi log số lượt gọi để biết tiền đi đâu.
- Đặt giới hạn số vòng lặp cho mỗi tác vụ, tránh agent lặp vô hạn khi gặp lỗi nó không tự thoát ra được.
Điểm cuối đặc biệt đáng lưu ý: agent gặp lỗi lạ có thể thử đi thử lại hàng trăm lần suốt đêm. Không có giới hạn thì sáng ra hoá đơn rất khó chịu.
An toàn: những thứ hay bị bỏ qua
- Tách khỏi dữ liệu thật. Đừng cho agent quyền chạm vào database chứa dữ liệu khách hàng.
- Khoá API để trong biến môi trường, không để trong mã nguồn, và giới hạn quyền của từng khoá.
- Đăng nhập bằng khoá SSH, tắt đăng nhập bằng mật khẩu, đổi cổng mặc định.
- Có backup định kỳ. Agent chạy lệnh xoá nhầm là chuyện có thật, và nó xoá nhanh hơn người rất nhiều.
- Giới hạn quyền tài khoản chạy agent, đừng cho chạy bằng quyền quản trị cao nhất nếu không thật sự cần.
Kiểm soát chi phí gọi mô hình, cụ thể
- Đặt hạn mức chi tiêu trong bảng điều khiển của nhà cung cấp trước khi cho trợ lý chạy tự do. Đây là việc làm trước tiên, không phải sau khi nhận hóa đơn. Đặt cả hạn mức tháng lẫn cảnh báo ở mức 50% và 80%.
- Dùng khóa riêng cho từng dự án hoặc từng trợ lý. Khi hóa đơn tăng bất thường, bạn biết ngay phần nào gây ra.
- Ghi lại số lượt gọi và số từ đã dùng vào nhật ký của chính bạn. Đối chiếu với hóa đơn mỗi tháng.
- Đặt giới hạn số vòng lặp. Trợ lý mắc kẹt trong vòng lặp sửa rồi chạy lại là kịch bản đốt tiền nhanh nhất, và nó xảy ra khi bạn đang ngủ.
Giới hạn quyền của trợ lý trên máy chủ
# 1. Chay bang tai khoan rieng, khong phai tai khoan quan tri sudo adduser --disabled-password agent sudo -u agent -i # 2. Gioi han tai nguyen de mot phien khong an het may sudo systemctl set-property user-$(id -u agent).slice MemoryMax=4G CPUQuota=200% # 3. Chi cho ghi trong thu muc lam viec sudo chown -R agent:agent /home/agent/duan sudo chmod 700 /home/agent/duan # 4. Khong cho sudo, kiem lai sudo -u agent sudo -l # phai bao khong co quyen
Ba thứ tuyệt đối không để trợ lý chạm tới: khóa bí mật của môi trường chạy thật, quyền kết nối vào cơ sở dữ liệu chứa dữ liệu khách hàng thật, và quyền đẩy thẳng lên nhánh chính của kho mã nguồn. Cho làm việc trên nhánh riêng rồi người xem lại trước khi gộp.
Giữ phiên làm việc sống khi bạn đóng máy
tmux new -s agent1 # tao phien # Ctrl+B roi D de thoat ma phien van chay tmux attach -t agent1 # quay lai tmux ls # liet ke cac phien dang chay # Ghi lai toan bo phien de xem lai sang hom sau tmux new -s agent2 'script -f /home/agent/log/phien-$(date +%F).log'
Ghi lại phiên là thói quen đáng có: sáng hôm sau bạn đọc lại được trợ lý đã làm gì, thay vì chỉ thấy kết quả cuối và đoán.
Danh sách kiểm trước khi cho chạy qua đêm
| Việc | Vì sao |
|---|---|
| Hạn mức chi tiêu đã đặt | Chặn kịch bản vòng lặp đốt tiền |
| Đang làm trên nhánh riêng, không phải nhánh chính | Sáng dậy còn đường lùi |
| Đã sao lưu thư mục làm việc | Trợ lý cũng xóa nhầm tệp như người |
| Có giới hạn bộ nhớ cho tiến trình | Một phiên không kéo sập cả máy chủ |
| Không có khóa bí mật thật trong thư mục làm việc | Khóa lọt vào nhật ký hoặc vào kho mã nguồn là sự cố thật |
| Có ghi nhật ký phiên | Sáng ra đọc lại được nó đã làm gì |
Câu hỏi thường gặp
Chạy AI agent có cần GPU không?
Thường là không. Agent gọi API tới mô hình chạy trên hạ tầng của nhà cung cấp, phần việc trên máy của bạn là chạy mã, build và test. GPU chỉ cần khi tự chạy mô hình tại chỗ.
VPS bao nhiêu RAM là đủ cho agent?
Một agent với dự án vừa chạy tốt với 4GB. Nhiều agent song song hoặc dự án lớn thì nên 8GB trở lên.
Làm sao tránh agent tiêu tiền API quá tay?
Đặt hạn mức chi tiêu trên bảng điều khiển của nhà cung cấp mô hình, giới hạn số vòng lặp mỗi tác vụ, và bật ghi log để theo dõi.
Có nên cho agent quyền quản trị cao nhất không?
Không nên nếu tránh được. Tạo tài khoản riêng với quyền vừa đủ và tách khỏi dữ liệu quan trọng, vì agent có thể chạy lệnh ngoài dự kiến.
