NVIDIA Nemotron 2 Nano 9B Japanese: Mẫu ngôn ngữ nhỏ tiên tiến hỗ trợ AI chủ quyền của Nhật Bản

Giới thiệu về Nemotron 2 Nano 9B Japanese

NVIDIA Nemotron 2 Nano 9B Japanese là một mô hình ngôn ngữ nhỏ (SLM) tiên tiến, được thiết kế đặc biệt để đáp ứng nhu cầu ngày càng tăng về AI chủ quyền tại Nhật Bản. Mô hình này kế thừa kiến trúc mạnh mẽ của Nemotron-Nano-9B-v2 và được tinh chỉnh chuyên sâu cho tiếng Nhật, mang lại khả năng hiểu và tạo sinh ngôn ngữ tiếng Nhật xuất sắc, cùng với khả năng thực thi tác vụ mạnh mẽ.

Tầm quan trọng của SLM đối với Doanh nghiệp Nhật Bản

Trong bối cảnh AI doanh nghiệp Nhật Bản hiện nay, có một khoảng trống đáng kể cho các SLM vừa có khả năng hiểu tiếng Nhật nâng cao, vừa có thể thực hiện các tác vụ phức tạp như một AI đại diện (agentic AI). Điều này tạo ra những rào cản nhất định cho việc triển khai, đặc biệt là:

• Yêu cầu triển khai tại chỗ (On-premise): Các doanh nghiệp tại Nhật Bản, đặc biệt là những đơn vị xử lý dữ liệu nhạy cảm, yêu cầu mô hình phải hoạt động trong mạng nội bộ. Các mô hình có dưới 10 tỷ tham số như Nemotron-Nano-9B-v2-Japanese đáp ứng được yêu cầu này, giúp giảm đáng kể gánh nặng về hạ tầng.
• Tối ưu hóa việc tùy chỉnh: Bắt đầu với một mô hình tiếng Nhật mạnh mẽ, có khả năng đại diện đã được chứng minh, giúp rút ngắn chu kỳ tinh chỉnh (fine-tuning). Thay vì tập trung xây dựng năng lực nền tảng, các nhà phát triển có thể dành tài nguyên tính toán cho việc điều chỉnh mô hình cho các lĩnh vực chuyên biệt.
• Tăng tốc phát triển đại diện (Agent): Kiến trúc và hiệu suất của mô hình cho phép tạo mẫu nhanh chóng các hệ thống đa đại diện (multi-agent systems) hoặc quy trình làm việc phức tạp mà không cần đến các mô hình lớn với chi phí vận hành cao.

Tận dụng nền tảng đã được kiểm chứng

Mô hình Nemotron-Nano-9B-v2-Japanese được xây dựng dựa trên hai trụ cột chính:

1. Kiến trúc Nemotron-Nano-9B-v2 vượt trội: Nemotron-Nano-9B-v2 đã thể hiện hiệu suất dẫn đầu về tỷ lệ kích thước trên hiệu năng trong các bài kiểm tra tiếng Anh. Kiến trúc hiệu quả này được tận dụng để tùy chỉnh sâu hơn cho khả năng tiếng Nhật.
2. Tạo dữ liệu tổng hợp chất lượng cao với Nemotron-Personas-Japan: Tập dữ liệu tổng hợp (SDG) này đóng vai trò là nền tảng tạo dữ liệu ban đầu, giúp tạo ra các mô hình tùy chỉnh tiên tiến cho nhiều trường hợp sử dụng và ngôn ngữ khác nhau.

Việc tùy chỉnh các mô hình Nemotron-Nano đã được phát hành cho tiếng Nhật nhằm mục đích khuyến khích cộng đồng phát triển và phát hành các mô hình tùy chỉnh tiên tiến, phù hợp với đa dạng trường hợp sử dụng và ngôn ngữ. Đội ngũ Nemotron cam kết tích hợp những hiểu biết thu được từ quá trình tùy chỉnh này vào các bản phát hành Nemotron trong tương lai, nhằm tăng cường khả năng suy luận bằng tiếng Nhật.

Nemotron 2 Nano: Kiến trúc vượt trội

Nemotron-Nano-9B-v2-Japanese dựa trên NVIDIA Nemotron-Nano-9B-v2, mô hình đã đạt được hiệu suất vượt trội trên các bài kiểm tra tiếng Anh về tỷ lệ kích thước trên hiệu năng. Kiến trúc này mang những đặc điểm sau:

• Khả năng suy luận nâng cao và hiệu quả tham số được tối ưu hóa.
• Nền tảng vững chắc cho việc thích ứng đa ngôn ngữ.
• Khả năng thực thi tác vụ đại diện đã được chứng minh.

Bằng cách điều chỉnh kiến trúc đã được kiểm chứng này cho tiếng Nhật, mô hình không chỉ duy trì được những thế mạnh của mô hình cơ sở mà còn đạt được khả năng tiếng Nhật xuất sắc.

Nemotron-Personas-Japan: Bộ dữ liệu hạt giống để tạo dữ liệu tổng hợp chất lượng cao

Chiến lược dữ liệu của mô hình này tập trung vào việc sử dụng tập dữ liệu nguồn mở (CC BY 4.0) Nemotron-Personas-Japan làm hạt giống cho việc tạo dữ liệu tổng hợp (SDG). Tập dữ liệu này mô phỏng các đặc điểm nhân khẩu học, địa lý và tính cách của Nhật Bản trong thế giới thực, nắm bắt sự đa dạng và phong phú của dân số.

Dựa trên các đặc điểm nhân khẩu học này, một quy trình đào tạo với bộ dữ liệu tổng hợp có độ đa dạng cao, có khả năng mở rộng và mạnh mẽ đã được xây dựng. Các đặc điểm nhân khẩu học phong phú này cho phép tạo ra các tập dữ liệu tổng hợp một cách hiệu quả, bao quát các tình huống và sắc thái đa dạng, đồng thời đạt được quy mô cần thiết cho việc đào tạo tiên tiến. Quan trọng hơn, dữ liệu mở rộng này duy trì tính nhất quán về văn hóa của các đặc điểm nhân khẩu học ban đầu.

Trong Nemotron-Nano-9B-v2-Japanese, các đặc điểm nhân khẩu học này đã được sử dụng làm nền tảng để tạo dữ liệu đào tạo cho các tình huống gọi công cụ (tool calling scenarios). Điều này đảm bảo rằng năng lực của mô hình không chỉ dừng lại ở việc gọi công cụ mà còn là một cuộc đối thoại bằng tiếng Nhật mang tính văn hóa phù hợp và bám sát các trường hợp sử dụng trong thế giới thực.

Bộ sưu tập Nemotron-Personas cũng bao gồm các tập dữ liệu cho Hoa Kỳ, Ấn Độ, Singapore và Brazil, cho phép áp dụng cùng một phương pháp tiếp cận trên phạm vi quốc tế.

Quy trình đào tạo

Nemotron-Nano-9B-v2-Japanese được xây dựng thông qua quy trình kết hợp giữa đào tạo trước liên tục (continual pre-training) trên kho ngữ liệu tiếng Nhật mã nguồn mở và mô hình Nemotron, cùng với việc sử dụng tập dữ liệu Nemotron-Personas-Japan đã được tinh chỉnh.

Đào tạo trước liên tục (Continual Pre-training)

• Ngữ liệu tiếng Nhật mã nguồn mở: Wikipedia, fineweb-2 Japanese, aozorabunko, sip3-ja-general-web-corpus
• Nemotron-CC-v2.1
• Nemotron-Pretraining-Specialized-v1

Để tối đa hóa khả năng tiếng Nhật của mô hình, quy trình đào tạo trước liên tục đã được thực hiện. Quy trình này tận dụng tối đa các tài nguyên từ cộng đồng LLM mã nguồn mở hàng đầu của Nhật Bản, LLM-jp. Đồng thời, các bộ dữ liệu đào tạo trước Nemotron cũng được sử dụng để duy trì khả năng đại diện (agentic capabilities) của mô hình.

SFT (Supervised Fine-Tuning - Tinh chỉnh có giám sát)

• Tập dữ liệu gọi công cụ với Nemotron-Personas-Japan làm hạt giống.
• Nemotron-Post-Training-v3

Tập dữ liệu gọi công cụ được tạo ra với Nemotron-Personas-Japan làm hạt giống đã chứng tỏ hiệu quả vượt trội. Sự cải thiện không chỉ giới hạn ở khả năng gọi công cụ mà còn lan tỏa sang nhiều khía cạnh khác như kiến thức tiếng Nhật, hỏi đáp, tuân thủ chỉ dẫn, v.v. Đặc biệt, vì tập dữ liệu hạt giống này được xây dựng dựa trên 6 triệu đặc điểm nhân khẩu học, nên việc tạo dữ liệu tổng hợp đã được thực hiện một cách hiệu quả. Điều này đã giúp đạt được quy mô cần thiết cho dữ liệu đào tạo, đồng thời bao quát các tình huống thực tế đa dạng với sự trùng lặp tối thiểu. Bộ sưu tập Nemotron-Personas đang tiếp tục mở rộng ra các khu vực khác, cho phép các nhà phát triển ở các vùng miền khác áp dụng phương pháp tương tự.

Phần mềm được sử dụng cho Nemotron-Nano-9B-v2-Japanese

• Megatron-LM: Đào tạo trước liên tục và SFT
• NeMo Curator: Tiền xử lý và lọc dữ liệu

Quá trình đào tạo mô hình tuân thủ công thức đào tạo đã được thiết lập trong Nemotron Nano 2 (tham khảo arXiv:2508.14444), giúp nâng cao thông lượng mà không gây ra sự bất ổn định trong quá trình đào tạo.

Phần mềm được sử dụng cho Nemotron-Nano-9B-v2-Japanese

• Megatron-LM: Đào tạo trước liên tục và SFT
• NeMo Curator: Tiền xử lý và lọc dữ liệu

Kết quả đào tạo

Cách tiếp cận này đã tạo ra một mô hình ngôn ngữ tiếng Nhật mạnh mẽ, đồng thời duy trì các chức năng gọi công cụ và khả năng suy luận hiệu quả.

Hiệu suất Benchmark

Nemotron-Nano-9B-v2-Japanese đã đạt vị trí số 1 trong danh mục mô hình dưới 10 tỷ tham số trên Nejumi Leaderboard 4, một trong những nền tảng đánh giá LLM toàn diện nhất tại Nhật Bản. Nejumi Leaderboard đánh giá mô hình một cách đa chiều thông qua khoảng 40 bài kiểm tra, bao gồm:

• Năng lực ngôn ngữ cơ bản: Hiểu và tạo sinh tiếng Nhật.
• Khả năng đại diện: Tạo mã, suy luận toán học, sử dụng công cụ, v.v.
• Căn chỉnh (Alignment): Tuân thủ chỉ dẫn, thiên vị, độc hại, tính xác thực, độ bền vững, v.v.

Thông qua các đánh giá đa chiều này, Nejumi Leaderboard trở thành một tài liệu tham khảo đáng tin cậy cho các nhà phát triển lựa chọn mô hình cơ sở để tùy chỉnh và triển khai trong môi trường Nhật Bản.

Kết quả benchmark xác nhận rằng Nemotron-Nano-9B-v2-Japanese đã tích hợp thành công năng lực tiếng Nhật mạnh mẽ vào mô hình cơ sở Nemotron-Nano-9B-v2. Những cải tiến này không chỉ thể hiện ở kiến thức tiếng Nhật và khả năng hỏi đáp mà còn mở rộng sang các tác vụ như gọi công cụ, lập trình và căn chỉnh. Đặc biệt, mô hình này đã vượt trội hơn Qwen3-8B cùng kích thước, cho thấy tỷ lệ kích thước trên hiệu năng xuất sắc.

Lợi thế Kỹ thuật

• Hiệu quả suy luận: Kế thừa kiến trúc Transformer-Mamba của Nemotron 2 Nano, mô hình có thể triển khai trên GPU biên và đạt hiệu suất thông lượng gấp 6 lần so với các giải pháp thay thế mã nguồn mở tương đương. Biểu đồ trên thể hiện kết quả đo lường trong bài báo về Nemotron 2 Nano (arXiv:2508.14444).
• Xử lý ngữ cảnh: Được tối ưu hóa cho các cuộc hội thoại đa lượt và thao tác công cụ.
• Độ tin cậy trong gọi công cụ: Có khả năng tạo dữ liệu có cấu trúc mạnh mẽ để gọi API và thực thi hàm.
• Hiệu quả tinh chỉnh: Số lượng tham số cho phép tinh chỉnh toàn bộ (full fine-tuning) với cơ sở hạ tầng tính toán hợp lý.

Tùy chọn triển khai

Triển khai trực tiếp

Đối với các ứng dụng yêu cầu khả năng hiểu tiếng Nhật và kỹ năng đại diện nâng cao, mô hình có thể được triển khai trực tiếp và sử dụng ngay lập tức. Năng lực đã được đào tạo sẵn này hỗ trợ tích hợp ngay lập tức vào quy trình làm việc của đại diện. Các công cụ suy luận được hỗ trợ bởi Nemotron 2 Nano có thể được di chuyển liền mạch.

Tùy chỉnh cho lĩnh vực riêng

Nemotron-Nano-9B-v2-Japanese có thể được sử dụng làm nền tảng cho việc tinh chỉnh chuyên sâu cho các lĩnh vực cụ thể. Hiệu suất đã được chứng minh trong các tác vụ tiếng Nhật và đại diện của mô hình này là điểm khởi đầu vững chắc cho việc phát triển các ứng dụng chuyên ngành. Để tùy chỉnh, bạn có thể sử dụng NeMo Framework, bao gồm NeMo Megatron-Bridge, NeMo AutoModel, và NeMo-RL.

Bắt đầu sử dụng ngay

Các nhà phát triển ứng dụng AI tại Nhật Bản có thể bắt đầu sử dụng Nemotron-Nano-9B-v2-Japanese ngay bây giờ. Dù là cho đại diện hỗ trợ khách hàng, công cụ tự động hóa nội bộ hay trợ lý chuyên ngành, mô hình này cung cấp tỷ lệ kích thước trên hiệu năng vượt trội để triển khai trong môi trường thực tế.

Sự kết hợp giữa kiến trúc Nemotron 2 Nano đã được kiểm chứng và Nemotron-Personas-Japan làm nguồn dữ liệu hạt giống chất lượng cao sẽ là điểm khởi đầu hiệu quả cho sự phát triển AI chủ quyền tại Nhật Bản.

Chúng tôi khuyến khích cộng đồng hãy tận dụng các mô hình, tập dữ liệu, công thức và thư viện Nemotron, đồng thời tùy chỉnh chúng cho nhiều ngôn ngữ và trường hợp sử dụng khác. Chúng tôi rất mong chờ xem bạn sẽ xây dựng những gì!

Hãy cập nhật tin tức về NVIDIA Nemotron bằng cách đăng ký nhận tin tức của NVIDIA và theo dõi NVIDIA AI trên LinkedIn, X, YouTube, và kênh Nemotron trên Discord.

Truy cập các Mô hình Nemotron mở trên Hugging Face và bộ sưu tập các microservice NIM cùng các ví dụ dành cho nhà phát triển trên build.nvidia.com.

Link bài viết gốc

• Tags:
• Ai
• 17 February 2026
• Huggingface.co