Tất cả những gì chúng tôi đã công bố tại LlamaCon đầu tiên

Đây là cái nhìn về những gì chúng tôi đã công bố tại LlamaCon và cách bạn có thể bắt đầu với các bản phát hành mới nhất của chúng tôi.

Những điểm chính

• Chúng tôi đang ăn mừng LlamaCon đầu tiên bằng cách chia sẻ một số công cụ mới thú vị, giúp xây dựng với Llama dễ dàng hơn và tạo các mô hình tùy chỉnh phù hợp với các trường hợp sử dụng của bạn.
• Llama API, ra mắt dưới dạng bản xem trước giới hạn, kết hợp các tính năng tốt nhất của các mô hình đóng với tính linh hoạt của mã nguồn mở, cung cấp khả năng tạo khóa API bằng một cú nhấp chuột dễ dàng và các sân chơi tương tác để khám phá các mô hình Llama khác nhau.
• Chúng tôi cũng đang chia sẻ các Công cụ Bảo vệ Llama mới và công bố Chương trình Llama Defenders, nơi các đối tác đáng tin cậy được chọn có thể truy cập các công cụ hỗ trợ AI để giúp họ đánh giá tính bảo mật của hệ thống để bảo vệ chống lại các mối đe dọa tiềm ẩn.
• Chúng tôi đang công bố 10 người nhận quốc tế của Llama Impact Grants lần thứ hai. Với hơn 1,5 triệu đô la Mỹ được trao, các khoản tài trợ này hỗ trợ các công ty, công ty khởi nghiệp và trường đại học sử dụng Llama để thúc đẩy sự thay đổi mang tính chuyển đổi.

LlamaCon đã chính thức khởi động. Sự kiện khai mạc của chúng tôi quy tụ các nhà phát triển từ khắp nơi trên thế giới, tất cả đều có một điểm chung: Họ thích xây dựng với Llama. Đã hơn hai năm kể từ khi chúng tôi ra mắt Llama. Trong thời gian đó, chúng tôi đã vượt qua một tỷ lượt tải xuống và quan trọng nhất, Llama đã được khẳng định là một nhà lãnh đạo trong hệ sinh thái AI nguồn mở. Các nhà phát triển, công ty khởi nghiệp, chính phủ và doanh nghiệp đang tìm thấy thành công với Llama bằng cách tận dụng các khả năng của nó để thúc đẩy sự đổi mới, cải thiện hiệu quả và giải quyết các vấn đề phức tạp.

Tất nhiên, chúng tôi không thể tập hợp một nhóm các nhà phát triển mà không chia sẻ một số công cụ nguồn mở, giúp họ khám phá các mô hình Llama, xây dựng nhanh hơn và sử dụng các công cụ mới nhất để bảo vệ. Dưới đây là cái nhìn về những gì chúng tôi đang công bố ngày hôm nay và cách bạn có thể bắt đầu với các bản phát hành mới nhất của chúng tôi.

Giới thiệu Llama API trong bản xem trước: Các tính năng tốt nhất của API mô hình đóng, với tính linh hoạt của mã nguồn mở

Chúng tôi muốn giúp bạn bắt đầu xây dựng nhanh chóng với Llama dễ dàng hơn, đồng thời cung cấp cho bạn toàn quyền kiểm soát các mô hình và trọng số của mình mà không bị khóa vào một API. Hôm nay, chúng tôi đang công bố Llama API—nền tảng phát triển sắp tới của chúng tôi cho phát triển ứng dụng Llama, có sẵn dưới dạng bản xem trước miễn phí có giới hạn.

Llama API cung cấp khả năng tạo khóa API bằng một cú nhấp chuột dễ dàng và các sân chơi tương tác để khám phá các mô hình Llama khác nhau, bao gồm các mô hình Llama 4 Scout và Llama 4 Maverick mà chúng tôi đã công bố vào đầu tháng này. Khi bạn đã sẵn sàng xây dựng ứng dụng của mình, chúng tôi cung cấp một SDK nhẹ bằng cả Python và Typescript. Llama API cũng tương thích với OpenAI SDK, giúp bạn dễ dàng chuyển đổi các ứng dụng hiện có.

[Video giới thiệu về Llama API]

Chúng tôi biết rằng việc có quyền truy cập vào các công cụ giúp bạn tùy chỉnh và chạy các mô hình của mình hiệu quả hơn cũng rất quan trọng. Là một phần của bản phát hành này, chúng tôi đang chia sẻ các công cụ để tinh chỉnh và đánh giá trong API mới của chúng tôi, nơi bạn có thể điều chỉnh các phiên bản tùy chỉnh của mô hình Llama 3.3 8B mới của chúng tôi. Chúng tôi đang chia sẻ khả năng này để giúp bạn giảm chi phí đồng thời làm việc để tăng tốc độ và độ chính xác. Bạn có thể tạo dữ liệu, đào tạo trên đó và sau đó sử dụng bộ đánh giá của chúng tôi để dễ dàng kiểm tra chất lượng mô hình mới của bạn. Việc làm cho các đánh giá dễ tiếp cận hơn và dễ chạy hơn sẽ giúp chuyển từ cảm tính sang dữ liệu, đảm bảo bạn có các mô hình hoạt động tốt để đáp ứng nhu cầu của mình. Tính bảo mật và quyền riêng tư của nội dung và dữ liệu của bạn là ưu tiên hàng đầu của chúng tôi. Chúng tôi không sử dụng lời nhắc hoặc phản hồi mô hình của bạn để đào tạo các mô hình AI của mình. Khi bạn đã sẵn sàng, các mô hình bạn xây dựng trên Llama API là của bạn để mang theo bất cứ nơi nào bạn muốn lưu trữ chúng và chúng tôi không giữ chúng bị khóa trên máy chủ của mình. Chúng tôi đang giới thiệu các tính năng này cho một số khách hàng được chọn, với kế hoạch triển khai rộng hơn trong những tuần và tháng tới. Điều này sẽ mở ra những khả năng mới cho các nhà phát triển để xây dựng các mô hình tùy chỉnh cho mọi loại trường hợp sử dụng.

Bản xem trước này chỉ là bước đầu tiên cho Llama API. Chúng tôi rất vui khi có nhiều người xây dựng hơn với API của chúng tôi và sẽ sử dụng phản hồi của họ để giúp chúng tôi lặp lại các phiên bản trong tương lai. Nếu bạn quan tâm đến việc đăng ký một trong những vị trí giới hạn ban đầu cho bản xem trước miễn phí của chúng tôi, vui lòng điền vào biểu mẫu này.

Suy luận nhanh với Llama API

Chúng tôi rất vui mừng được công bố sự hợp tác với Cerebras và Groq, điều này sẽ giúp trao quyền cho nhiều nhà phát triển Llama hơn để đạt được tốc độ suy luận nhanh hơn bằng cách sử dụng Llama API. Quyền truy cập thử nghiệm sớm vào các mô hình Llama 4 được hỗ trợ bởi Cerebras và Groq hiện có sẵn theo yêu cầu, cung cấp một cách thuận tiện để các nhà phát triển thử nghiệm và tạo mẫu các trường hợp sử dụng trước khi mở rộng quy mô với nhà cung cấp đã chọn của họ. Bằng cách chỉ cần chọn tên mô hình Cerebras hoặc Groq trong API, các nhà phát triển có thể tận dụng khả năng này và tận hưởng trải nghiệm hợp lý với tất cả việc sử dụng được theo dõi ở một vị trí. Sự hợp tác này củng cố cam kết của chúng tôi trong việc thúc đẩy một hệ sinh thái đa dạng, mang lại sự linh hoạt và lựa chọn, đồng thời chúng tôi mong muốn mở rộng quan hệ đối tác với các nhà cung cấp bổ sung để mang đến nhiều tùy chọn hơn để xây dựng trên Llama.

Tích hợp Llama Stack mới

Chúng tôi đã nghe từ các nhà phát triển rằng chúng tôi cần giúp bạn dễ dàng triển khai các ứng dụng bằng các nhà cung cấp dịch vụ khác nhau. Năm ngoái, chúng tôi đã hợp tác với các đối tác để xây dựng các bản phân phối Llama Stack cho các khách hàng doanh nghiệp hạ nguồn của họ. Năm nay, chúng tôi đang mở rộng các hợp tác đó, bao gồm một tích hợp gần đây được công bố của Llama Stack với các vi dịch vụ NVIDIA NeMo và làm việc chặt chẽ với các đối tác như IBM, Red Hat, Dell Technologies và những người khác về các tích hợp mới sẽ được công bố sớm. Cùng với các đối tác của mình, chúng tôi hình dung Llama Stack là tiêu chuẩn ngành cho các doanh nghiệp đang tìm cách triển khai liền mạch các giải pháp AI chìa khóa trao tay cấp sản xuất.

Bảo vệ Llama mới và bảo mật cho cộng đồng nguồn mở

Chúng tôi cam kết cung cấp cho các nhà phát triển các công cụ và tài nguyên tốt nhất để xây dựng các ứng dụng AI an toàn. Hôm nay, chúng tôi đang phát hành các công cụ bảo vệ Llama mới cho cộng đồng nguồn mở, bao gồm Llama Guard 4, LlamaFirewall và Llama Prompt Guard 2. Chúng tôi cũng đang chia sẻ các bản cập nhật để giúp các tổ chức đánh giá hiệu quả của các hệ thống AI trong các hoạt động bảo mật với CyberSecEval 4, cũng như công bố Chương trình Llama Defenders cho các đối tác được chọn. Khi các mô hình AI có khả năng hơn trở nên khả dụng, chúng tôi tin rằng đây là một nỗ lực quan trọng để cải thiện tính mạnh mẽ của các hệ thống phần mềm. Đọc thêm về các công cụ bảo vệ nguồn mở mới nhất của chúng tôi và tin tức về những tiến bộ trong bảo mật AI.

Gặp gỡ những người nhận Llama Impact Grant

Các Llama Impact Grants nhằm mục đích thúc đẩy sự đổi mới và tạo ra các cơ hội kinh tế thông qua AI nguồn mở. Hôm nay, chúng tôi rất vui mừng được công bố 10 người nhận quốc tế của Llama Impact Grants lần thứ hai. Với hơn 1,5 triệu đô la Mỹ được trao cho 10 người nhận quốc tế, các khoản tài trợ này hỗ trợ các công ty, công ty khởi nghiệp và trường đại học sử dụng Llama để thúc đẩy sự thay đổi mang tính chuyển đổi. Những người nhận năm nay giới thiệu một loạt các giải pháp đa dạng, bao gồm E.E.R.S. từ Hoa Kỳ, sử dụng chatbot hỗ trợ Llama để tăng cường khả năng tiếp cận công khai đối với các dịch vụ dân sự và Doses AI ở Vương quốc Anh, chuyển đổi hoạt động của hiệu thuốc với khả năng phát hiện lỗi theo thời gian thực. Những người chiến thắng đáng chú ý khác bao gồm Solo Tech, cung cấp hỗ trợ AI ngoại tuyến trong các cộng đồng nông thôn của Hoa Kỳ và FoondaMate, một công cụ học tập đa ngôn ngữ hỗ trợ hàng triệu sinh viên trên khắp Châu Phi và hơn thế nữa. Đọc thêm về những người nhận Llama Impact Grant.

[Ảnh của những người nhận Llama Impact Grant]

Tương lai là nguồn mở

Chúng tôi tự hào là những nhà lãnh đạo trong lĩnh vực AI nguồn mở và có hệ sinh thái Llama của chúng tôi đi đầu trong cuộc cách mạng này. Với Llama, các nhà phát triển và doanh nghiệp có quyền tự do xây dựng bất cứ thứ gì họ muốn mà không bị ràng buộc bởi các hệ thống độc quyền hoặc các hợp đồng bị khóa. Tính linh hoạt này, kết hợp với tính di động và khả năng tiếp cận của nó, làm cho Llama trở thành lựa chọn phù hợp cho những người muốn khai thác sức mạnh của AI.

Chúng tôi cam kết trở thành đối tác lâu dài cho các doanh nghiệp và nhà phát triển, đồng thời cung cấp một con đường chuyển đổi liền mạch từ các mô hình đóng. Llama có giá cả phải chăng, dễ sử dụng và cho phép nhiều người tiếp cận các lợi ích của AI hơn bất kể chuyên môn kỹ thuật hoặc tài nguyên phần cứng của họ. Chúng tôi tin vào tiềm năng của AI để chuyển đổi các ngành công nghiệp và cải thiện cuộc sống, đó là lý do tại sao chúng tôi rất vui mừng được tiếp tục hỗ trợ sự tăng trưởng và phát triển của hệ sinh thái Llama vì lợi ích của tất cả mọi người. Chúng tôi rất nóng lòng muốn xem bạn sẽ xây dựng gì tiếp theo.

Link bài viết gốc

• Tags:
• Ai
• 29 Tháng 4 Năm 2025
• Ai.meta.com