3A.COM.VN

Mô Hình AI

Temperature trong AI là gì: 3 mức chỉnh Top-P và độ lệch

Temperature trong AI là gì? Đó là thông số điều chỉnh độ ngẫu nhiên khi mô hình chọn token tiếp theo. Giá trị thấp cho câu trả lời ổn định. Giá trị cao cho câu trả lời đa dạng. Bài này đi qua 3 mức chỉnh cùng Top-P: thấp, mặc định và cao.

Quang Minh· Trưởng ban Nghiên cứu & Đo kiểm AI6 phút đọc18/11/20260 lượt xem
Temperature trong AI là gì: 3 mức chỉnh Top-P và độ lệch

Temperature trong AI là gì? Đó là thông số điều chỉnh độ ngẫu nhiên khi mô hình chọn token tiếp theo. Giá trị thấp cho câu trả lời ổn định. Giá trị cao cho câu trả lời đa dạng. Bài này đi qua 3 mức chỉnh cùng Top-P: thấp, mặc định và cao.

Temperature không phải nhiệt độ vật lý. Nó là một con số trong tham số gọi API. Con số này quyết định mô hình chọn token tiếp theo liều lĩnh tới mức nào. Tài liệu Chat Completions của OpenAI ghi rõ khoảng giá trị. Temperature chạy từ 0 tới 2, mặc định là 1. Giá trị cao như 0,8 cho đầu ra ngẫu nhiên hơn. Giá trị thấp như 0,2 cho đầu ra tập trung và ổn định hơn. Top-P là lựa chọn thay thế temperature. Nó dùng lấy mẫu nucleus. Mô hình chỉ xét các token có tổng khối xác suất bằng top_p. Ví dụ, top_p 0,1 nghĩa là chỉ xét token chiếm 10% khối xác suất cao nhất. Tài liệu Gemini của Google ghi cùng khoảng giá trị. Temperature chạy từ 0,0 tới 2,0, mặc định 1,0. TopP chạy từ 0,0 tới 1,0.

Cần lưu ý khác biệt theo phiên bản Gemini. Khoảng 0,0 tới 2,0, mặc định 1,0, chỉ áp cho Gemini 3.5 Flash trở về trước. Từ Gemini 3.6 Flash trở đi, Google bỏ hỗ trợ temperature, topP và topK. API bỏ qua các tham số này nếu truyền vào. Các thế hệ sau sẽ trả lỗi.

Dự án nội bộ · 3A AI Stack Advisor

Đừng trả tiền thừa cho SaaS AI — Nhận lộ trình công cụ & chi phí tối ưu trong 10 giây

Mô tả bài toán của doanh nghiệp bạn (CSKH Zalo OA, Coding, RAG tài liệu nội bộ, Báo cáo P&L). Hệ thống cố vấn của 3A sẽ đề xuất bộ công cụ đã qua kiểm thử thực chiến.

Ba mức dưới đây gom từ các giá trị ví dụ trong tài liệu của OpenAI và Google. Đây là cách gom thực hành để chọn nhanh. Nó không phải bậc thang do hãng công bố.

Mức 1: Thấp, temperature 0-0,2 và top_p 0,1-0,5

Mức thấp dùng khi cần câu trả lời ổn định. Các việc hợp với mức này gồm bốn nhóm. Trích xuất dữ liệu, phân loại, chấm điểm theo rubric, viết mã theo mẫu có sẵn. Google ghi rõ ý nghĩa của temperature 0. Mô hình luôn chọn token có xác suất cao nhất. Câu trả lời gần như xác định. Nhưng nó vẫn có thể dao động nhẹ.

Lưu ý quan trọng: temperature 0 không đảm bảo hai lần chạy cho kết quả giống hệt nhau. Tài liệu Chat Completions của OpenAI ghi rõ điều này. Cố định seed cũng không đảm bảo đầu ra giống hệt. Hệ thống chỉ cố gắng lấy mẫu xác định ở mức tốt nhất có thể. Vì vậy mức thấp giúp ổn định. Nó không phải cam kết giống hệt.

Tài liệu Google nêu một ví dụ về top_p. Ba token A, B, C có xác suất 0,3, 0,2 và 0,1. Với top_p 0,5, mô hình chỉ chọn A hoặc B. Nó loại C khỏi ứng viên. Đó là cách top_p thấp thu hẹp lựa chọn. Lựa chọn thu về nhóm token chắc chắn nhất.

Mức 2: Mặc định, temperature 1 và top_p 1

Đây là điểm khởi đầu khuyến nghị. Google ghi 1,0 là giá trị khởi đầu khuyến nghị cho temperature. OpenAI đặt mặc định 1 cho cả temperature và top_p. Mức này giữ cân bằng giữa ổn định và đa dạng. Nó hợp với trò chuyện chung, tóm tắt và trả lời câu hỏi mở.

Khi chưa có lý do đo được để chỉnh, giữ mặc định. Đây là mức nên dùng để so sánh trước. Mọi thay đổi sau đó đều đo được độ lệch so với mức này.

Cận cảnh đôi tay gõ trên bàn phím laptop
Cận cảnh đôi tay gõ trên bàn phím laptopNguồn chính hãng / Kho ảnh bản quyền mở · Official / Free Commercial License

Chú thích ảnh: Cận cảnh đôi tay gõ trên bàn phím laptop, minh họa cho việc thử từng mức temperature khi gọi mô hình. Ảnh: MART PRODUCTION, Pexels, giấy phép Pexels (link gốc xem mục Nguồn, phần Ảnh).

Mức 3: Cao, temperature 0,8-2 và top_p 0,9-1

Mức cao dùng khi cần đa dạng. Các việc hợp với mức này gồm ba nhóm. Brainstorm ý tưởng, viết sáng tạo, đặt nhiều phương án để chọn. Giá trị 0,8 là mốc ví dụ cho "cao" trong tài liệu OpenAI. Số 2 là trần cho phép của temperature.

Rủi ro đi kèm rất rõ. Càng cao, mô hình càng dễ chọn token ít khả năng. Câu trả lời dễ lạc đề hoặc vô nghĩa. Google còn ghi một mẹo ngược. Nếu mô hình lặp vô hạn, tăng temperature lên ít nhất 0,1. Cách này có thể cải thiện kết quả. Vì vậy mức cao là công cụ phá vòng lặp. Nó không phải mức dùng thường xuyên.

Quy tắc vàng: chỉ chỉnh một thông số mỗi lần

OpenAI khuyến nghị chỉ chỉnh temperature hoặc top_p. Đừng chỉnh cả hai cùng lúc. Hai nút này tác động chồng lên nhau. Chỉnh cả hai thì khó biết nút nào gây ra thay đổi. Cách làm đúng gồm ba bước. Giữ một thông số ở mặc định. Chỉnh thông số còn lại theo từng nấc. Ghi lại kết quả rồi mới đổi tiếp.

Quy tắc này áp cho cả ba mức trên. Đổi temperature từ 0,2 lên 1,5 là một thay đổi. Thêm thay đổi thứ hai: top_p từ 0,5 xuống 0,9. Đổi cả hai cùng lúc thì không còn đo được. Bạn sẽ không biết mức nào gây ra độ lệch.

Ví dụ gọi API chỉ chỉnh temperature, theo tài liệu Chat Completions của OpenAI:

json
{
  "model": "gpt-6-astra",
  "messages": [
    {"role": "developer", "content": "You are a helpful assistant."},
    {"role": "user", "content": "Viết một câu ngắn về mặt trời."}
  ],
  "temperature": 0.2
}

Khối mã trên chỉ truyền temperature, không truyền top_p. Giá trị 0,2 là mốc ví dụ cho "thấp" trong tài liệu OpenAI.

Bảng đối chiếu: 3 mức chỉnh temperature và top_p

MứcTemperatureTop-PKhi dùngRủi ro chính
Thấp0-0,20,1-0,5Trích xuất, phân loại, chấm điểmĐầu ra giống nhau giữa các lần chạy, ít biến thể
Mặc định11Trò chuyện chung, tóm tắtKhông có, điểm khởi đầu khuyến nghị
Cao0,8-20,9-1Brainstorm, viết sáng tạoLạc đề, vô nghĩa khi đặt quá cao

Bảng này gom từ khoảng giá trị và ví dụ trong tài liệu API của OpenAI và Google. Bảng không phải số đo tự chạy.

Đọc thêm trên 3a.com.vn:

Nguồn

Nguồn

  • OpenAI, "Chat Completions", API Reference, ngày truy cập 2026-11-14. Link: https://platform.openai.com/docs/api-reference/chat/create
  • Google Cloud, "Generate content with the Gemini API", tài liệu Gemini Enterprise Agent Platform, ngày truy cập 2026-11-14. Link: https://docs.cloud.google.com/gemini-enterprise-agent-platform/reference/models/inference
  • Google, "What's new in Gemini 3.6 Flash and 3.5 Flash-Lite", tài liệu Gemini, ngày truy cập 2026-11-14. Link: https://aistudio.google.com/docs/whats-new-gemini-3.6?hl=vi

Ảnh

  • Bìa: Erik Mclean, Pexels, giấy phép Pexels, ngày 2021-04-23. Link gốc: https://www.pexels.com/photo/white-thermostat-hanging-on-the-wall-7616651/
  • Ảnh thân bài: MART PRODUCTION, Pexels, giấy phép Pexels, ngày 2021-04-30. Link gốc: https://www.pexels.com/photo/a-close-up-shot-of-a-person-typing-on-a-laptop-7718632/
— Quang Minh, từ phòng đo kiểm 3A.

Bài liên quan