Có gì mới trong bản phát hành Mellea 0.4.0 + Thư viện Granite
Cập nhật các tính năng mới và cải tiến trong phiên bản Mellea 0.4.0 và các thư viện hỗ trợ Granite.
- 4 min read
Có gì mới trong Mellea 0.4.0 + Bản phát hành các Thư viện Granite
Chúng tôi đã phát hành Mellea 0.4.0 cùng với ba Thư viện Granite: granitelib-rag-r1.0, granitelib-core-r1.0, và granitelib-guardian-r1.0. Các bản phát hành này kết hợp với nhau giúp việc xây dựng các quy trình làm việc AI có cấu trúc, có thể kiểm chứng và đảm bảo an toàn trên nền tảng các mô hình IBM Granite trở nên dễ dàng hơn.
Mellea là một thư viện Python mã nguồn mở để viết các chương trình tạo nội dung (generative programs) — thay thế hành vi dự đoán của prompt bằng các quy trình làm việc AI có cấu trúc và dễ bảo trì. Khác với các khung điều phối đa năng, Mellea được thiết kế để làm cho các chương trình dựa trên LLM trở nên dễ bảo trì và dự đoán được thông qua việc giải mã có ràng buộc, các vòng lặp sửa lỗi có cấu trúc và các đường ống (pipelines) có thể tùy biến.
Mellea 0.4.0
Mellea 0.4.0 là bản phát hành mới nhất của dự án nghiên cứu mã nguồn mở được khởi xướng và phát triển bởi IBM Research. Tiếp nối các thư viện nền tảng và các thành phần quy trình làm việc của phiên bản 0.3.0, phiên bản 0.4.0 mở rộng bề mặt tích hợp của thư viện và giới thiệu các mô hình kiến trúc mới để cấu trúc hóa các quy trình tạo nội dung.
Các thành phần bao gồm:
- Tích hợp sẵn với các Thư viện Granite, cung cấp một API tiêu chuẩn hóa dựa vào việc giải mã có ràng buộc để đảm bảo tính đúng đắn của sơ đồ dữ liệu.
- Mô hình “Hướng dẫn-Xác thực-Sửa lỗi” (Instruct-validate-repair) thông qua các chiến lược lấy mẫu từ chối (rejection sampling).
- Các hook quan sát (observability hooks) cho các callback điều khiển theo sự kiện để giám sát và theo dõi các quy trình làm việc.
Xem danh sách đầy đủ các tính năng và cập nhật của Mellea 0.4.0 tại đây.
Thư viện Granite là gì?
Nói một cách đơn giản, Thư viện Granite là một bộ sưu tập các bộ điều hợp (adapters) mô hình chuyên dụng được thiết kế để thực hiện các thao tác được định nghĩa rõ ràng trên các phần của chuỗi đầu vào hoặc hội thoại. Thay vì dựa vào việc đưa ra gợi ý (prompting) đa năng, mỗi mô hình chuyên dụng được tinh chỉnh cho một tác vụ cụ thể như viết lại truy vấn, phát hiện ảo tưởng, hoặc kiểm tra tuân thủ chính sách. Việc sử dụng các bộ điều hợp chuyên dụng cho phép chúng ta tăng độ chính xác của từng tác vụ với chi phí tham số khiêm tốn, mà không làm gián đoạn khả năng của mô hình cơ sở.
Ba thư viện được phát hành hôm nay cho mô hình granite-4.0-micro, mỗi thư viện nhắm vào một tập hợp các tác vụ đường ống (pipeline) riêng biệt và bao gồm một bộ sưu tập các bộ điều hợp LoRA:
- Granitelib-core-r1.0: nhắm vào bước xác thực yêu cầu trong vòng lặp Instruct-validate-repair của Mellea.
- Granitelib-rag-r1.0: nhắm vào nhiều tác vụ khác nhau trong các đường ống RAG (Retrieval-Augmented Generation) như tiền truy xuất (pre-retrieval), hậu truy xuất (post-retrieval) và hậu tạo nội dung (post-generation).
- Granitelib-guardian-r1.0: các mô hình chuyên dụng cho sự an toàn, tính thực tế và tuân thủ chính sách.
Bắt đầu
Mellea
Thư viện Granite
- Bộ sưu tập Thư viện Granite trên Hugging Face
- Thư viện các phần tử nội tại (Intrinsics) của LLM cho RAG
- Giải thích đa cấp cho các mô hình ngôn ngữ tạo nội dung
Tìm hiểu thêm
Link bài viết gốc
- Tags:
- Ai
- 20 March 2026
- Huggingface.co