IBM Ra Mắt Mô Hình Suy Luận Mã Nguồn Mở Granite-4.2-30B
IBM đã phát hành dòng mô hình suy luận Granite-4.2, dẫn đầu là mô hình chủ lực 30 tỷ tham số (30B) bên cạnh các phiên bản 8B và 3B. Các mô hình này sở hữu khả năng suy luận chuỗi suy nghĩ (chain-of-thought) tự nhiên, các chế độ tư duy linh hoạt và cửa sổ ngữ cảnh lớn lên tới 512K dưới giấy phép Apache 2.0. Bằng cách cung cấp khả năng suy luận tự nhiên và các chế độ tư duy linh hoạt dưới giấy phép Apache 2.0 mở rộng, IBM mang đến một giải pháp thay thế mã nguồn mở mạnh mẽ cho các mô hình suy luận độc quyền trong cả nghiên cứu và thương mại. Khả năng điều chỉnh độ sâu tư duy giúp các nhà phát triển tối ưu hóa sự cân bằng giữa độ trễ và độ chính xác. Mô hình Granite-4.2-30B được xây dựng trên kiến trúc transformer dày đặc chỉ giải mã (decoder-only dense transformer), sử dụng Grouped Query Attention (GQA), Rotary Position Embeddings (RoPE) và kích hoạt SwiGLU. Mô hình này hỗ trợ gọi công cụ tăng cường suy luận (reasoning-augmented tool calling), cho phép mô hình suy luận về việc nên gọi API bên ngoài nào trước khi thực thi.
## KIẾN THỨC NỀN
Chuỗi suy nghĩ (Chain-of-thought - CoT) là một kỹ thuật gợi ý và huấn luyện giúp cải thiện hiệu suất của LLM trong các tác vụ phức tạp bằng cách tạo ra các bước suy luận trung gian. Suy luận tăng cường công cụ (Tool-augmented reasoning) cho phép các mô hình tích hợp các công cụ bên ngoài (như máy tính hoặc API) để khắc phục các hạn chế về tính toán và độ chính xác của thông tin.