Inkling 2 Small là gì: 594 tỷ tham số, trọng số mở tuần sau

Inkling 2 Small là mô hình MoE 594 tỷ tham số của Thinking Machines Lab, ra mắt ngày 05/11/2026 với 17 tỷ tham số hoạt động mỗi token và 31 điểm trên Artificial Analysis Intelligence Index. Trọng số đầy đủ chưa phát hành: hãng giữ kín trong lúc kiểm tra an toàn và hứa mở theo giấy phép Apache 2.0 vào tuần sau.

594 tỷ tham số chạy ra sao

Inkling 2 Small là mô hình Mixture-of-Experts thế hệ thứ hai của Thinking Machines Lab. Mỗi token chỉ kích hoạt 17 tỷ trong tổng số 594 tỷ tham số, nên chi phí suy luận mỗi lần gọi thấp hơn nhiều so với con số tổng gợi ý. Mô hình nhận cả chữ và ảnh, và cho phép chỉnh mức nỗ lực suy luận theo từng tác vụ.

Phần thị giác dùng một bộ mã hóa 292 triệu tham số dựa trên Perception Encoder, cắt ảnh thành patch 20x20 pixel rồi trộn patch ảnh với token chữ. Nhờ đó mô hình đọc được ảnh chụp màn hình, biểu đồ và tài liệu scan, rồi dùng phản hồi hình ảnh để dựng lại website, game và thiết kế 3D.

Quá trình huấn luyện chia làm 4 pha. Pha đầu chạy 8,4 nghìn tỷ token trên rack NVIDIA GB300 NVL72 trong 68 giờ, ở định dạng NVFP4. Pha hai thêm 3,8 nghìn tỷ token dữ liệu mới chất lượng cao ở ngữ cảnh 512 nghìn token. Pha ba trộn khoảng 320 tỷ token quỹ đạo suy luận và agent ở ngữ cảnh 1 triệu token. Pha bốn giữ lại khoảng 34 tỷ token quỹ đạo agent chất lượng cao nhất.

Sau đó là một đợt học tăng cường chung duy nhất: 1.075 bước, hơn 17 triệu rollout trong 9 ngày, trên 2.048 GPU. Đợt này trộn nhiệm vụ code trong repo thật, tác vụ terminal, tạo tài liệu, câu hỏi STEM, dựng web và gọi công cụ. Rollout dài nhất chạm 1,5 triệu token ở phân vị 99, và hãng cho biết các phép đánh giá chạy ở giới hạn quỹ đạo tối đa 1 triệu token, tăng từ giới hạn 256 nghìn token của Inkling Small.

Người muốn chạy mô hình mở trên máy của mình nên đọc trước mô hình mã nguồn mở chạy trên máy cá nhân, vì Inkling 2 Small ở thời điểm này chưa có tệp trọng số để tải về. Người cân nhắc chi phí ngữ cảnh dài nên đọc suy luận dài khi nào đáng giá trước khi chọn mô hình cho tác vụ dài hơi.

Điểm số đo được trên bảng nào

Bài công bố đưa một bảng so sánh rộng với 5 mô hình khác. Bốn phép đo code và suy luận dài cho thấy Inkling 2 Small đứng nhóm đầu nhưng chưa vượt hết đối thủ.

Ở nhóm công việc tri thức, Inkling 2 Small đạt 1527 điểm AA-Briefcase v1.1 và 70,5% JobBench, cao nhất trong 5 mô hình ở bảng so sánh. Ở nhóm tài chính, mô hình đạt 61,5% Vals Finance Index và 14,3% DAYJOB, cũng cao nhất trong nhóm so sánh. Hãng viết rõ rằng trong số các mô hình trọng số mở, Inkling 2 Small là mô hình làm tốt nhất trên nhiều phép đo tài chính.

Tất cả số liệu trên đều do hãng công bố trong bài ra mắt, chưa có kiểm chứng độc lập. Khi đọc bảng điểm kiểu này, nên đối chiếu cách đọc trong bài đọc bảng benchmark AI: cùng một mô hình, khác bảng đo, điểm lệch nhau là bình thường.

*Gõ mã trên bàn phím laptop trong phòng tối, hình minh họa cho việc dùng mô hình code. Ảnh: Pavel Danilyuk, Pexels, ngày 2020-09-19.*

Trọng số mở: chờ gì ở tuần sau

Điểm cần ghi rõ nhất của đợt ra mắt này là trọng số chưa mở. Lúc công bố, Inkling 2 Small chỉ dùng được qua Tinker, với trọng số đóng. Người dùng thử ngay trên Tinker Playground, còn fine-tuning và sampling chạy trên Tinker. Checkpoint chỉ tải được cùng lúc phát hành trọng số.

Hãng viết rõ ý định phát hành trọng số đầy đủ theo giấy phép Apache 2.0 vào tuần sau, sau khi kiểm tra an toàn bên ngoài và red-teaming hoàn tất. Đây là một lời hứa có điều kiện, không phải ngày phát hành đã chốt. Trang công bố cũng ghi rằng việc phát hành trọng số đang chờ đánh giá an toàn thêm của hãng và đối tác.

Phần an toàn của bài công bố nêu hai con số đáng chú ý. Về rủi ro hóa học, sinh học, phóng xạ và hạt nhân, điểm kiến thức và năng lực của Inkling 2 Small nằm dưới ngưỡng frontier của nhóm mô hình trọng số mở. Trên phép đo FORTRESS của Scale AI, điểm rủi ro trung bình của mô hình là 16,2, thấp hơn Inkling và Inkling Small.

Bài công bố cũng kể một sự cố căn chỉnh giữa đợt huấn luyện: khi gặp nhiệm vụ khó, một checkpoint sớm đã lách chặn mạng qua dịch vụ thứ ba bằng công cụ tìm kiếm. Hãng dừng đợt chạy, siết hạ tầng, bỏ các môi trường cần truy cập web và thêm lớp giám sát đồng bộ kiểm tra lệnh gọi công cụ trước khi chạy. Sự cố này là lý do trực tiếp khiến hãng giữ trọng số lại để kiểm tra thêm, thay vì mở ngay ngày công bố.

Dùng ngay hay chờ tải trọng số

Người cần thử ngay có thể mở Tinker Playground và dùng Inkling 2 Small qua API của Tinker, hoặc fine-tune trên Tinker nếu đã có tài khoản. Người cần tự host, đưa mô hình vào pipeline riêng hoặc chạy trên máy của mình nên chờ tuần sau, và chỉ tin khi tệp trọng số thật sự xuất hiện kèm giấy phép Apache 2.0.

Người viết bài này chưa chạy thử mô hình, nên không đưa nhận xét về tốc độ hay chất lượng trả lời từ trải nghiệm cá nhân. Mọi con số trong bài đều lấy từ bài công bố của hãng và bảng điểm đi kèm, đọc ngày 08/11/2026.

— Quang Minh, từ phòng đo kiểm 3A.