RAG là gì trong AI? RAG là kỹ thuật nối mô hình ngôn ngữ với kho tài liệu riêng. Hệ thống truy xuất đoạn liên quan rồi mới sinh câu trả lời có căn cứ. Nhờ vậy, mô hình trả lời theo tài liệu của bạn thay vì chỉ dựa vào dữ liệu huấn luyện cũ.
Kỹ thuật này có gốc trong bài báo của Lewis và cộng sự, nộp ngày 22/05/2020. Nhóm tác giả kết hợp hai loại bộ nhớ. Một là bộ nhớ tham số của mô hình seq2seq. Hai là bộ nhớ phi tham số: chỉ mục vector dày của Wikipedia. Mô hình đạt kết quả tốt nhất thời đó trên 3 tác vụ hỏi đáp mở. Nó cũng sinh ngôn ngữ cụ thể và đúng sự thật hơn mô hình chỉ dùng tham số.
Bước 1: Nạp và cắt tài liệu thành đoạn dùng được
Bước đầu tiên là nạp tài liệu vào hệ thống. Nguồn nạp có thể là tài liệu nội bộ, trang docs hay file PDF. Tài liệu dài cần cắt thành đoạn nhỏ trước khi lập chỉ mục.
Đừng trả tiền thừa cho SaaS AI — Nhận lộ trình công cụ & chi phí tối ưu trong 10 giây
Mô tả bài toán của doanh nghiệp bạn (CSKH Zalo OA, Coding, RAG tài liệu nội bộ, Báo cáo P&L). Hệ thống cố vấn của 3A sẽ đề xuất bộ công cụ đã qua kiểm thử thực chiến.
LangChain gọi bước này là Load rồi Split. Hướng dẫn RAG của LangChain khuyên dùng RecursiveCharacterTextSplitter cho văn bản chung. Đoạn quá lớn khó tìm kiếm và không vừa cửa sổ ngữ cảnh. Đoạn quá nhỏ lại mất mạch ý của văn bản gốc.
Ví dụ trong hướng dẫn này: bộ tài liệu mẫu dài hơn 100.000 token. Con số đó vượt cửa sổ ngữ cảnh của nhiều mô hình. Vì vậy, cắt đoạn không phải bước phụ. Nó quyết định hệ thống có tìm đúng chỗ hay không.
Bước 2: Nhúng đoạn văn thành vector và lập chỉ mục
Mỗi đoạn văn được chuyển thành một vector số. Vector này giữ nghĩa của đoạn văn. Đoạn có nghĩa gần nhau sẽ nằm gần nhau trong không gian vector.
LangChain mô tả 4 thao tác lập chỉ mục: Load, Split, Embed và Store. Mô hình embedding chuyển đoạn văn thành vector. Kho vector lưu cặp đoạn văn và vector của nó. Khi có câu hỏi, hệ thống nhúng câu hỏi rồi tìm đoạn gần nhất.
Trong hướng dẫn của LangChain, mô hình embedding có thể là mô hình của OpenAI, Google Gemini hay HuggingFace. Kho vector có thể là Chroma, Qdrant hay Pinecone. Đội làm RAG chọn một mô hình embedding và một kho vector cụ thể rồi gắn vào 4 thao tác trên.
Điểm cần nhớ: embedding tốt không cứu được đoạn cắt dở. Nếu đoạn cắt mất câu chốt, vector của nó cũng thiếu ý đó. Vì vậy, đội làm RAG thường chỉnh kích thước đoạn và độ chồng lấn trước khi đổi mô hình embedding.
Bước 3: Truy xuất lai kết hợp vector và từ khóa
Truy xuất thuần vector có một điểm yếu. Nó tìm đoạn giống nghĩa nhưng có thể bỏ qua từ khóa chính xác như mã sản phẩm hay tên riêng. Truy xuất lai khắc phục điểm này bằng cách chạy song song hai đường.
Đường thứ nhất là tìm tương tự theo vector. Đường thứ hai là tìm theo từ khóa, dạng BM25. Hệ thống gộp hai danh sách kết quả rồi mới chuyển sang bước xếp hạng. Cách gộp thường gặp là RRF, tức cộng điểm thứ hạng từ cả hai đường.
Tài liệu truy xuất lai của Qdrant, ngày truy cập 2026-11-14, mô tả đúng cách làm này. BM25 đặt trọng số từ tần suất từ, tần suất nghịch đảo và độ dài tài liệu. RRF chỉ đọc vị trí xếp hạng của tài liệu trong mỗi danh sách. Nhờ vậy, hệ thống gộp hai thang điểm khác nhau mà không cần chuẩn hoá điểm.
LangChain cũng ghi rõ: không thể nhét toàn bộ tài liệu vào cửa sổ ngữ cảnh. Hệ thống phải chọn đúng đoạn liên quan cho từng câu hỏi. Truy xuất lai làm bước chọn này chắc hơn truy xuất một đường.

Chú thích ảnh: Gõ mã trên bàn phím laptop trong phòng tối, minh họa cho việc lập chỉ mục tài liệu. Ảnh: Pavel Danilyuk, Pexels, giấy phép Pexels (link gốc xem mục Nguồn, phần Ảnh).
Bước 4: Xếp hạng lại và sinh câu trả lời có căn cứ
Sau truy xuất, hệ thống xếp hạng lại các đoạn ứng viên. Bước này thường dùng mô hình cross-encoder để chấm độ liên quan của từng đoạn với câu hỏi. Qdrant mô tả bước này là đưa câu hỏi và đoạn văn vào cùng một mô hình để chấm điểm. Trong hệ thống RAG thực tế, người phát triển thường giữ lại những đoạn điểm cao nhất để đưa vào prompt sinh câu trả lời.
Cuối cùng, mô hình sinh câu trả lời từ câu hỏi và đoạn đã chọn. LangChain gọi đây là cặp Retrieve rồi Generate. Hướng dẫn của LangChain còn giới thiệu mẫu kiến trúc Deep Agents với lớp chấm điểm (grader sub-agent qua RubricMiddleware, yêu cầu deepagents>=0.6.5). Lớp này có nhiệm vụ đánh giá xem câu trả lời có bám sát tài liệu đã truy xuất hay không.
Quy tắc vận hành rút ra từ đây rất rõ. Mọi con số trong câu trả lời phải có đoạn nguồn đi kèm. Nếu không truy xuất được đoạn nào liên quan, hệ thống nên nói rõ là chưa tìm thấy thay vì bịa ra một đáp án.
Rủi ro, chi phí ẩn và giới hạn của RAG
Lập chỉ mục tốn chi phí thật. Mỗi đoạn văn phải nhúng thành vector trước khi dùng được. Tài liệu đổi thì phải lập chỉ mục lại phần đổi. Thêm BM25 nghĩa là thêm một vector thưa, một chỉ mục nữa và một lần tìm kiếm nữa cho mỗi câu hỏi. Theo tài liệu truy cập ngày 2026-11-14, Qdrant ghi nhận thử nghiệm cụ thể. Độ trễ trung vị tăng thêm 0,60 đến 1,47 ms trên một container phục vụ một yêu cầu tại một thời điểm.
Xếp hạng lại cũng thêm độ trễ. Cross-encoder chấm từng cặp câu hỏi và đoạn ứng viên nên càng nhiều ứng viên càng chậm. Đội nào lấy quá nhiều ứng viên để chắc ăn sẽ trả bằng thời gian chờ của người dùng.
Đoạn cắt dở là giới hạn thường gặp. Đoạn cắt mất câu chốt thì vector của nó cũng thiếu ý đó. Câu trả lời có thể thiếu căn cứ ngay cả khi tài liệu gốc có đủ thông tin.
Điểm mù lớn nhất nằm ở khâu truy xuất. Gộp danh sách chỉ sắp xếp lại những gì hai đường đã tìm được. Tài liệu không lọt vào danh sách ứng viên thì không thể xuất hiện trong câu trả lời. Tài liệu chưa lập chỉ mục hay tài liệu mới chưa cập nhật đều rơi vào điểm mù này. Câu hỏi dùng từ khác biệt hoàn toàn với tài liệu cũng gặp lỗi tương tự.
Lớp kiểm tra căn cứ không phải bảo đảm tuyệt đối. Agent chấm điểm chỉ soi câu trả lời có bám sát đoạn đã truy xuất hay không. Đoạn truy xuất sai thì câu trả lời vẫn sai mà vẫn qua kiểm tra.
Bảng đối chiếu: Naive RAG, Hybrid RAG và Fine-tuning
| Tiêu chí | Naive RAG | Hybrid RAG | Fine-tuning |
|---|---|---|---|
| Cách nạp tri thức mới | Thêm tài liệu vào chỉ mục | Thêm tài liệu vào chỉ mục | Huấn luyện lại trọng số mô hình |
| Truy xuất | Một đường vector | Vector cộng từ khóa, có reranking | Không truy xuất, mô hình tự nhớ |
| Cập nhật tri thức | Cập nhật ngay khi thêm tài liệu | Cập nhật ngay khi thêm tài liệu | Cần huấn luyện lại mỗi lần đổi dữ liệu |
| Chống bịa số liệu | Trung bình, phụ thuộc đoạn truy xuất | Tốt hơn nhờ reranking và kiểm tra căn cứ | Yếu, mô hình vẫn có thể bịa từ trí nhớ tham số |
| Chi phí triển khai | Thấp, chỉ tốn lập chỉ mục | Trung bình, thêm bước reranking | Cao, tốn dữ liệu huấn luyện và thời gian chạy |
Bảng này chỉ đối chiếu theo cơ chế, không có số đo tốc độ tự chạy. Cách phân loại Naive/Hybrid/Fine-tuning là cách gọi phổ biến trong thực tế, không phải phân loại của LangChain. Đội nào cần số đo thì đo trên kho tài liệu của mình trước khi chọn.
Đọc thêm trên 3a.com.vn về cách nhận ra lỗi trích dẫn sai nguồn trong RAG tài liệu nội bộ. Hai bài liên quan khác là LangChain là gì và 4 thành phần cốt lõi và cách viết prompt engineering cho hệ RAG.
Nguồn
Nguồn
- Lewis và cộng sự, "Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks", ngày 2020-05-22. Link: https://arxiv.org/abs/2005.11401
- LangChain, "Retrieval Augmented Generation (RAG) with Deep Agents", ngày truy cập 2026-11-14. Link: https://docs.langchain.com/oss/python/langchain/rag
- Qdrant, "Hybrid Search in Qdrant", ngày truy cập 2026-11-14. Link: https://qdrant.tech/documentation/search-tuning/hybrid-search/
Ảnh
- Bìa: Taryn Elliott, Pexels, giấy phép Pexels, ngày 2020-12-14. Link gốc: https://www.pexels.com/photo/silver-laptop-computer-on-brown-wooden-desk-6183139/
- Ảnh thân bài: Pavel Danilyuk, Pexels, giấy phép Pexels, ngày 2020-09-19. Link gốc: https://www.pexels.com/photo/5496464/



