LM Studio vs Ollama: 7 khác biệt khi chạy AI trên máy

Nếu bạn còn phân vân chọn mô hình mở nào, đọc trước bài DeepSeek V3 chi phí thấp có đáng dùng. Sau đó quay lại đây chọn công cụ chạy mô hình trên máy.

Ollama là gì và chạy thế nào?

Ollama là công cụ chạy mô hình ngôn ngữ trên máy của bạn, điều khiển chủ yếu bằng dòng lệnh. Trên Windows, bạn tải trình cài đặt từ trang chính thức của Ollama, sau đó kéo mô hình về và chạy bằng hai lệnh quen thuộc: ollama pull để tải, ollama run để trò chuyện ngay trong terminal. Máy chủ API của Ollama chạy trên cổng mặc định 11434 và chỉ lắng nghe trên máy local (127.0.0.1) nếu bạn không đổi cấu hình, nên mặc định người ngoài mạng không gọi được vào máy bạn.

Ollama có hai mặt API: API riêng tại /api và lớp tương thích OpenAI tại /v1, gồm chat completions, completions, embeddings và liệt kê mô hình. Nhờ lớp /v1 này, code đang dùng OpenAI SDK chỉ cần đổi base URL sang http://localhost:11434/v1 là chạy được với mô hình local, không cần viết lại logic gọi API. Đây cũng là điểm khiến Ollama hợp với người đã quen làm việc bằng terminal và script: mọi bước từ tải mô hình, chạy thử tới gọi API đều nằm trong vài lệnh.

LM Studio là gì, GPU offload để làm gì?

LM Studio là ứng dụng desktop để tải, trò chuyện và quản lý mô hình trên máy của bạn, có giao diện đồ họa đầy đủ. Thay vì gõ lệnh, bạn tìm mô hình trong ứng dụng, tải về, nạp vào khung chat và trò chuyện ngay. Khi muốn code của mình gọi được mô hình, bạn bật máy chủ local trong thẻ Developer hoặc chạy lms server start; máy chủ này dùng cổng 1234 (cổng các ví dụ chính hãng dùng) và nói được cả API tương thích OpenAI lẫn API tương thích Anthropic.

GPU offload là cách ứng dụng đẩy một phần hoặc toàn bộ mô hình lên GPU để chạy nhanh hơn thay vì chỉ chạy trên CPU. Trên máy Mac dùng chip Apple Silicon, LM Studio còn có engine MLX tận dụng kiến trúc bộ nhớ thống nhất của máy. Người dùng không cần hiểu sâu cơ chế này cũng dùng được: chọn mô hình vừa với RAM/VRAM của máy, để ứng dụng tự quyết định phần nào chạy trên GPU, và theo dõi xem máy có bị đầy bộ nhớ khi nạp mô hình lớn hay không.

Bảng 7 khác biệt LM Studio vs Ollama

Bảng này chỉ ghi những gì tài liệu chính hãng và kế hoạch dot-03 đã xác nhận; bài không đưa số đo tốc độ tự chạy vì chưa có nhật ký đo, và không viết câu "nhanh hơn bao nhiêu phần trăm" cho bên nào.

Cài Ollama trên Windows và gọi API trong 3 lệnh

Bước 1, tải trình cài đặt Windows từ trang chính thức của Ollama và cài đặt như ứng dụng bình thường. Bước 2, kéo một mô hình về máy và chạy thử trong terminal:

ollama pull gemma4
ollama run gemma4

Bước 3, gọi API riêng của Ollama bằng curl, theo đúng ví dụ trong tài liệu API chính hãng:

curl http://localhost:11434/api/generate -d '{
  "model": "gemma4",
  "prompt": "Why is the sky blue?"
}'

Với code đang dùng OpenAI SDK, bạn chỉ cần đổi base URL sang http://localhost:11434/v1 và giữ nguyên tên mô hình local. Với LM Studio, quy trình tương đương là nạp mô hình trong ứng dụng, bật server rồi gọi:

lms server start
curl http://localhost:1234/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "use the model identifier from LM Studio here",
    "messages": [{"role": "user", "content": "Say this is a test!"}]
  }'

Lưu ý: chuỗi model trong ví dụ LM Studio phải thay bằng đúng mã mô hình mà ứng dụng hiển thị sau khi bạn nạp mô hình, vì LM Studio không tự đoán tên mô hình thay bạn.

Khi nào nên chọn llama.cpp thay cả hai?

Nếu bạn cần kiểm soát sâu nhất cách mô hình được nạp và chạy, hoặc muốn nhúng engine suy luận vào hệ thống của riêng mình, llama.cpp là lớp engine nằm dưới nhiều công cụ, trong đó có LM Studio. Chọn llama.cpp khi bạn đã thoải mái biên dịch, chỉnh tham số nạp mô hình và tự lo phần giao diện hoặc API phía trên. Với đa số người dùng chỉ cần chạy mô hình trên máy để trò chuyện hoặc gọi API, Ollama hoặc LM Studio đã gói sẵn llama.cpp cùng công cụ quản lý, nên không cần chạm trực tiếp vào engine.

Một mốc cộng đồng để tham khảo, đo ngày 31/10/2026 theo kế hoạch dot-03: repo ollama/ollama có 185.421 sao, ggml-org/llama.cpp có 132.924 sao, CLI lmstudio-ai/lms có 5.395 sao. Số sao chỉ cho biết mức quan tâm của cộng đồng, không phải điểm chất lượng, và không thay cho việc chạy thử trên máy của bạn.

Rủi ro và giới hạn khi chạy LLM trên máy

Rủi ro thứ nhất là phần cứng. Mô hình chỉ chạy tốt khi vừa với RAM hoặc VRAM của máy; nạp mô hình quá lớn sẽ khiến máy chậm hoặc hết bộ nhớ, và đó là lỗi cấu hình chứ không phải lỗi mô hình. Rủi ro thứ hai là năng lực cài đặt và bảo trì: bạn phải tự cập nhật ứng dụng, tự xử lý khi mô hình tải về bị lỗi hoặc khi phiên bản mới đổi cách gọi API. Rủi ro thứ ba, và là điểm mù hay bị bỏ qua nhất, là mở API ra mạng LAN mà không có xác thực: Ollama mặc định chỉ lắng nghe máy local, nhưng nếu bạn đổi cấu hình để máy khác trong mạng gọi được, bất kỳ ai trong mạng đó cũng có thể gửi prompt tới mô hình của bạn. Với LM Studio cũng vậy, chỉ bật phục vụ qua mạng khi bạn chủ động kiểm soát ai được truy cập.

Tóm lại: chọn Ollama nếu bạn sống trong terminal và muốn tự động hoá bằng script; chọn LM Studio nếu bạn muốn nhìn, bấm và thử mô hình trước khi viết code. Muốn dùng endpoint embeddings local cho tìm kiếm tài liệu tiếng Việt, đọc thêm chọn embedding cho RAG tiếng Việt. Muốn agent gọi công cụ qua mô hình local, xem MCP cho người mới.

— Quang Minh, từ phòng đo kiểm 3A.