3A.COM.VN

Mô Hình AI

Hallucination trong AI là gì: 4 nguyên nhân và cách chặn

Hallucination trong AI là gì? Đó là khi mô hình sinh câu trả lời nghe thuyết phục nhưng sai sự thật. Câu trả lời có thể mâu thuẫn nguồn hoặc không kiểm chứng được. Bài này chỉ ra 4 nguyên nhân gốc rễ và cách chặn thực tế.

Quang Minh· Trưởng ban Nghiên cứu & Đo kiểm AI10 phút đọc16/11/20260 lượt xem
Hallucination trong AI là gì: 4 nguyên nhân và cách chặn

Hallucination trong AI là gì? Đó là khi mô hình sinh câu trả lời nghe thuyết phục nhưng sai sự thật. Câu trả lời có thể mâu thuẫn nguồn hoặc không kiểm chứng được. Bài này chỉ ra 4 nguyên nhân gốc rễ và cách chặn thực tế.

IBM định nghĩa hallucination là lúc hệ AI tạo kết quả nghe hợp lý nhưng sai sự thật. Kết quả đó có thể không liên quan, hoặc bịa đặt hoàn toàn. Mô hình ngôn ngữ có thể đưa ra nghiên cứu không tồn tại. Nó cũng có thể đưa link không mở được, hay chi tiết sai về nhân vật có thật. Tất cả được trình bày như sự thật. IBM nêu một ví dụ năm 2023. Một luật sư ở Mỹ nhờ ChatGPT soạn hồ sơ tòa án. Mô hình trả về danh sách án lệ đầy đủ tên vụ, số hồ sơ và trích dẫn. Khi đối chiếu, nhiều vụ án trong số đó hoàn toàn không tồn tại.

Khảo sát của Ji và cộng sự định nghĩa hallucination là nội dung vô nghĩa, hoặc không trung thực với nguồn đầu vào. Vấn đề này không hiếm. Nghiên cứu của Falke và cộng sự năm 2019 cho thấy một con số đáng chú ý. Các hệ tóm tắt trừu tượng tốt nhất thời đó bịa nội dung trong 25% bản tóm tắt. Vì vậy, câu hỏi đúng là mô hình bịa ở đâu, và chặn bằng cách nào.

Dự án nội bộ · 3A AI Stack Advisor

Đừng trả tiền thừa cho SaaS AI — Nhận lộ trình công cụ & chi phí tối ưu trong 10 giây

Mô tả bài toán của doanh nghiệp bạn (CSKH Zalo OA, Coding, RAG tài liệu nội bộ, Báo cáo P&L). Hệ thống cố vấn của 3A sẽ đề xuất bộ công cụ đã qua kiểm thử thực chiến.

Hai dạng hallucination: mâu thuẫn nguồn và không kiểm chứng được

Khảo sát của Ji và cộng sự chia hallucination thành hai dạng chính. Dạng thứ nhất mâu thuẫn trực tiếp với nguồn. Dạng thứ hai thêm thông tin mà nguồn không nhắc tới. Vì vậy, dạng thứ hai không thể xác nhận đúng hay sai.

DạngĐịnh nghĩaVí dụ trong khảo sátCách nhận ra
IntrinsicKết quả mâu thuẫn với nội dung nguồnBản tóm tắt viết vắc xin Ebola được phê duyệt năm 2021. Nguồn ghi FDA phê duyệt năm 2019.Đối chiếu từng con số, ngày tháng với nguồn gốc
ExtrinsicKết quả không thể kiểm chứng từ nguồnBản tóm tắt thêm câu về thử nghiệm vắc xin COVID-19 tại Trung Quốc. Nguồn không nhắc tới câu này.Hỏi lại: câu này lấy từ đoạn nào của nguồn

Dạng extrinsic chưa chắc đã sai. Đó có thể là kiến thức nền đúng mà mô hình nhớ được. Nhưng vì không kiểm chứng được từ nguồn, nó vẫn bị xếp vào diện rủi ro. IBM ghi nhận một ví dụ tương tự. Tính năng AI Overview của Google từng khuyên cho keo không độc vào sốt pizza. Mục đích là để phô mai dính hơn. Câu trả lời đó lấy từ một trò đùa trên Reddit năm 2013.

Nguyên nhân 1: Dữ liệu huấn luyện lệch khỏi nguồn

Nguyên nhân đầu tiên nằm ở dữ liệu. Khảo sát của Ji và cộng sự gọi đây là source-reference divergence. Đáp án mẫu trong dữ liệu huấn luyện chứa thông tin mà nguồn đầu vào không có. Khi học trên dữ liệu lệch như vậy, mô hình được khuyến khích sinh chữ không gắn với nguồn.

Ví dụ được khảo sát trích dẫn là bộ dữ liệu WIKIBIO. Nhóm tác giả lấy infobox Wikipedia làm nguồn. Họ lấy câu đầu tiên của bài viết làm đáp án mẫu. Nhưng câu đầu tiên đó không tương đương infobox về mặt thông tin. Nghiên cứu của Dhingra và cộng sự năm 2019 chỉ ra con số 62%. 62% câu đầu tiên trong WIKIBIO chứa thông tin bổ sung không có trong infobox. Mô hình học trên dữ liệu này sẽ coi việc thêm thông tin ngoài nguồn là bình thường.

IBM nêu cùng một điểm từ góc độ thực hành. Mô hình học hoàn toàn từ dữ liệu nó thấy. Lỗi, thiên kiến hay khoảng trống trong dữ liệu sẽ thành lỗi trong hành vi của mô hình. Kho huấn luyện quá lớn nên con người không thể kiểm tra hết. Nội dung sai lệch vẫn lọt qua. Một lỗi khác là dữ liệu trùng lặp không được lọc. Nghiên cứu của Lee và cộng sự năm 2021 cho thấy một điểm. Ví dụ trùng lặp khiến mô hình thiên về lặp lại cụm từ đã ghi nhớ.

Nguyên nhân 2: Kiến thức tham số lấn át dữ liệu đưa vào

Nguyên nhân thứ hai nằm ở cách mô hình nhớ kiến thức. Khi tiền huấn luyện trên kho văn bản lớn, mô hình ghi nhớ kiến thức vào tham số. Kiến thức này gọi là parametric knowledge. Nó giúp mô hình trả lời tốt nhiều tác vụ. Nhưng nó cũng là một nguồn gây hallucination.

Nghiên cứu của Longpre và cộng sự năm 2021 phát hiện một điểm quan trọng. Các mô hình lớn ưu tiên kiến thức tham số hơn thông tin từ đầu vào. Khi trí nhớ của mô hình mâu thuẫn với tài liệu bạn đưa vào, mô hình thường chọn theo trí nhớ của nó. Kết quả là câu trả lời có thêm thông tin thừa, không xuất phát từ nguồn bạn cung cấp.

Đây là lý do hệ tóm tắt vẫn bịa chi tiết dù tài liệu gốc đã ghi rõ đáp án. Mô hình không tra cứu tài liệu như con người. Nó sinh chữ dựa trên xác suất và trí nhớ tham số. Vì vậy, đưa tài liệu vào prompt chưa đủ. Cần có cơ chế buộc mô hình chỉ dùng tài liệu đó.

Người đàn ông trầm ngâm nhìn màn hình laptop, tay cầm bút chì
Người đàn ông trầm ngâm nhìn màn hình laptop, tay cầm bút chìNguồn chính hãng / Kho ảnh bản quyền mở · Official / Free Commercial License

Chú thích ảnh: Người dùng kiểm tra nội dung trên màn hình laptop. Ảnh minh họa bước đối chiếu câu trả lời AI với nguồn gốc. Ảnh: Mikhail Nilov, Pexels, giấy phép Pexels (link gốc xem mục Nguồn, phần Ảnh).

Nguyên nhân 3: Giải mã sai và lấy mẫu ngẫu nhiên

Nguyên nhân thứ ba nằm ở bước sinh chữ. Khảo sát của Ji và cộng sự chỉ ra hai lỗi giải mã. Thứ nhất, bộ giải mã có thể chú ý nhầm sang phần sai của nguồn. Nó trộn lẫn sự thật của hai thực thể giống nhau. Ví dụ, nó nhầm ngày sinh hay tên của hai người khác nhau. Thứ hai, bản thân chiến lược giải mã cũng gây bịa. Nghiên cứu của Dziri và cộng sự năm 2021 cho thấy một tương quan rõ rệt. Chiến lược lấy mẫu top-k làm tăng tính đa dạng cho câu trả lời. Nhưng nó cũng tương quan thuận với mức hallucination tăng lên. Tính ngẫu nhiên được thêm vào khiến câu sinh ra khó đoán hơn. Khả năng chứa nội dung bịa cũng cao hơn.

Một lỗi liên quan là exposure bias. Khi huấn luyện, bộ giải mã luôn được cho xem tiền tố đúng. Nhờ vậy, nó đoán từ tiếp theo một cách dễ dàng. Khi suy luận thật, nó phải đoán dựa trên chính những từ nó vừa sinh ra. Sai lệch nhỏ ở đầu câu cứ thế nhân lên theo độ dài câu trả lời. Đây là lý do câu trả lời dài thường dễ trật khỏi nguồn hơn câu ngắn.

Nguyên nhân 4: Mô hình tối ưu độ hợp lý, không kiểm chứng đúng sai

Nguyên nhân thứ tư là giới hạn thiết kế. IBM viết rõ một điểm quan trọng. Mô hình sinh không biết điều gì đúng hay sai. Nó chỉ biết điều gì khớp với mẫu đã học. Mô hình ngôn ngữ đoán token tiếp theo dựa trên mẫu trong kho văn bản. Nó tối ưu cho độ hợp lý trong mẫu đó. Nó không tối ưu cho tính đúng đắn về thế giới thực. Một câu sai vẫn có thể đạt xác suất cao. Điều đó xảy ra khi nó giống với nhiều câu đúng mà mô hình từng thấy.

IBM nêu thêm hiện tượng quá khớp. Khi mô hình bám quá chặt vào dữ liệu huấn luyện, nó học theo tương quan giả. Những tương quan này không khái quát được. IBM đưa ra một ví dụ. Tập huấn luyện toàn ảnh mèo trên nền sáng và ảnh chó trên nền tối. Mô hình có thể học quy tắc nền sáng là mèo, nền tối là chó. Nó không học cách nhìn chính con vật. Khi gặp mèo trên chăn tối, nó nhận nhầm thành chó. Cùng cơ chế đó, mô hình ngôn ngữ bám vào mẫu câu quen thuộc. Nó sinh ra một sự thật giả nghe rất trôi chảy.

Hệ quả là hallucination không thể xóa hẳn. IBM kết luận thẳng: hallucination có thể giảm, nhưng không thể loại bỏ hoàn toàn. Nó gắn với bản chất của AI sinh. Vì vậy, cách làm đúng là thiết kế hệ thống với giả định đầu ra có thể sai. Đừng tin rằng mô hình sẽ hết bịa sau một bản cập nhật.

Cách chặn: buộc mô hình trả lời theo nguồn

Bốn nguyên nhân trên dẫn tới một nguyên tắc chặn duy nhất. Đừng để mô hình tự do đoán. Hãy buộc nó trả lời theo nguồn đã kiểm chứng. IBM liệt kê các biện pháp sau. Khảo sát của Ji và cộng sự cũng xếp biện pháp giảm hallucination theo cùng hướng dữ liệu và suy luận.

Thứ nhất, nối mô hình với kho tri thức có kiểm chứng bằng RAG. Hệ RAG tìm đoạn liên quan trong tài liệu của bạn rồi mới sinh câu trả lời. Mô hình được dặn chỉ dùng nội dung trong kho đó. Cách này xử lý trực tiếp nguyên nhân 2. Nguồn đưa vào được đặt lên trên trí nhớ tham số.

Thứ hai, viết prompt có luật chặn rõ ràng. IBM khuyên dùng prompt có cấu trúc. Prompt ghi rõ nhiệm vụ, định dạng đầu vào, định dạng đầu ra và luật phải tuân theo. Prompt có thể ghi: nếu rủi ro không được nhắc tới rõ ràng thì không suy diễn thêm. Prompt cũng có thể ghi: nếu không chắc thì nói là không biết. Prompt mơ hồ mời mô hình đoán mò. Prompt chặt làm giảm chỗ cho bịa đặt.

Thứ ba, giữ con người trong vòng kiểm soát ở chỗ sai sót gây hại lớn. IBM khuyên xác định trước loại đầu ra nào bắt buộc phải có người duyệt. Ví dụ là tư vấn pháp lý hay hồ sơ nộp cơ quan quản lý. Hãy coi AI là trợ lý soạn thảo, không phải nguồn có thẩm quyền. Thói quen đối chiếu từng khẳng định với nguồn gốc quan trọng hơn bất kỳ công cụ tự động nào.

Thứ tư, đo hallucination bằng bộ test có đáp án chuẩn. IBM khuyên dùng hệ thống phát hiện tự động. Hệ thống so từng khẳng định trong đầu ra với nguồn tham chiếu. Đội ngũ cũng nên đánh giá định kỳ trên bộ test vàng. Bộ test này gồm các tình huống thực tế đã có đáp án xác thực. Không đo thì không biết hệ thống đang bịa nhiều hay ít. Không đo thì cũng không biết bản sửa vừa rồi có hiệu quả hay không.

Đọc thêm trên 3a.com.vn: lỗi trích dẫn sai nguồn trong RAG tài liệu nội bộ. Đọc thêm: prompt engineering là gì và token trong AI là gì.

Nguồn

Nguồn

  • Ji và cộng sự, "Survey of Hallucination in Natural Language Generation", ngày 2022-02-08. Link: https://arxiv.org/abs/2202.03629
  • IBM, "What Are AI Hallucinations?", xuất bản ngày 2023-09-01, cập nhật ngày 2026-07-31. Link: https://www.ibm.com/think/topics/ai-hallucinations

Ảnh

  • Bìa: Kindel Media, Pexels, giấy phép Pexels, ngày 2021-07-01. Link gốc: https://www.pexels.com/photo/8566472/
  • Ảnh thân bài: Mikhail Nilov, Pexels, giấy phép Pexels, ngày 2021-04-21. Link gốc: https://www.pexels.com/photo/7593511/
— Quang Minh, từ phòng đo kiểm 3A.

Bài liên quan