Trung tâm doanh nghiệp Dell là tất cả những gì bạn cần để xây dựng AI tại chỗ

Bài đăng trên blog này thảo luận về Dell Enterprise Hub và cách nó có thể được sử dụng để xây dựng AI tại chỗ.

  • 6 min read
Trung tâm doanh nghiệp Dell là tất cả những gì bạn cần để xây dựng AI tại chỗ
Bài đăng trên blog này thảo luận về Dell Enterprise Hub và cách nó có thể được sử dụng để xây dựng AI tại chỗ.

Dell Enterprise Hub: Tất cả những gì bạn cần để xây dựng AI tại chỗ

Tuần này tại Dell Tech World, chúng tôi đã công bố phiên bản mới của Dell Enterprise Hub, với một bộ mô hình và ứng dụng hoàn chỉnh để dễ dàng xây dựng AI chạy tại chỗ với các máy chủ AI và PC AI của Dell.

Dell and Hugging Face announcing the Dell Enterprise Hub

Các mô hình đã sẵn sàng để hành động

Nếu bạn truy cập Dell Enterprise Hub ngay hôm nay, bạn có thể tìm thấy một số mô hình phổ biến nhất, như Meta Llama 4 Maverick, DeepSeek R1 hoặc Google Gemma 3, có sẵn để triển khai và đào tạo chỉ trong vài cú nhấp chuột.

Nhưng những gì bạn nhận được không chỉ là một mô hình, đó là một container đã được kiểm tra đầy đủ, được tối ưu hóa cho các Nền tảng Máy chủ AI Dell cụ thể, với các hướng dẫn dễ dàng để triển khai tại chỗ bằng Docker và Kubernetes.

Meta Llama 4 Maverick available for Dell AI Server platforms

Meta Llama 4 Maverick có thể được triển khai trên máy chủ Dell PowerEdge NVIDIA H200 hoặc AMD MI300X

Chúng tôi liên tục làm việc với các nhóm CTIO và Kỹ thuật của Dell để tạo ra các mô hình mới nhất và tuyệt vời nhất, đã sẵn sàng, được kiểm tra và tối ưu hóa cho các nền tảng Máy chủ AI Dell nhanh nhất có thể - Các mô hình Llama 4 đã có trên Dell Enterprise Hub trong vòng 1 giờ sau khi Meta phát hành công khai!

Giới thiệu Ứng dụng AI

Dell Enterprise Hub hiện có các Ứng dụng AI sẵn sàng triển khai!

Nếu mô hình là động cơ, thì ứng dụng là những chiếc xe hơi làm cho chúng hữu ích để bạn có thể thực sự đi đến những nơi khác. Với Danh mục Ứng dụng mới, bạn có thể xây dựng các ứng dụng mạnh mẽ chạy hoàn toàn tại chỗ cho nhân viên của mình và sử dụng dữ liệu và dịch vụ nội bộ của bạn.

Danh mục Ứng dụng mới giúp bạn dễ dàng triển khai các ứng dụng mã nguồn mở hàng đầu trong mạng riêng của bạn, bao gồm OpenWebUIAnythingLLM.

OpenWebUI and AnythingLLM available in the Dell Application Catalog

OpenWebUI giúp bạn dễ dàng triển khai các trợ lý chatbot tại chỗ kết nối với dữ liệu và dịch vụ nội bộ của bạn thông qua MCP, để xây dựng các trải nghiệm đại lý có thể tìm kiếm trên web, truy xuất dữ liệu nội bộ với cơ sở dữ liệu vector và bộ nhớ cho các trường hợp sử dụng RAG.

OpenWebUI User Interface

AnythingLLM giúp bạn dễ dàng xây dựng các trợ lý đại lý mạnh mẽ kết nối với nhiều máy chủ MCP để bạn có thể kết nối các hệ thống nội bộ của mình hoặc thậm chí cả các dịch vụ bên ngoài. Nó bao gồm các tính năng để cho phép nhiều mô hình, làm việc với hình ảnh, tài liệu và thiết lập kiểm soát truy cập dựa trên vai trò cho người dùng nội bộ của bạn.

AnythingLLM User Interface

Các ứng dụng này rất dễ triển khai bằng các biểu đồ helm có thể tùy chỉnh được cung cấp để các máy chủ MCP của bạn được đăng ký ngay từ đầu.

Deployment instructions for OpenWebUI on Dell AI Server

Được cung cấp bởi NVIDIA, AMD và Intel

Dell Enterprise Hub là nền tảng duy nhất trên thế giới cung cấp các giải pháp triển khai mô hình sẵn sàng sử dụng cho phần cứng AI Accelerator mới nhất:

  • Nền tảng Dell được cung cấp bởi GPU NVIDIA H100 và H200
  • Nền tảng Dell được cung cấp bởi AMD MI300X
  • Nền tảng Dell được cung cấp bởi Intel Gaudi 3

Dell Enterprise Hub supports NVIDIA, AMD and Intel powered Dell AI Servers

Chúng tôi làm việc trực tiếp với Dell, NVIDIA, AMD và Intel để khi bạn triển khai một container trên hệ thống của mình, nó đã được cấu hình và sẵn sàng hoạt động, đã được kiểm tra và đánh giá đầy đủ để nó chạy với hiệu suất tốt nhất ngay khi xuất xưởng trên nền tảng Máy chủ AI Dell của bạn.

Các mô hình trên thiết bị cho PC AI của Dell

Dell Enterprise Hub mới hiện cung cấp hỗ trợ cho các mô hình chạy trên thiết bị trên PC AI của Dell ngoài Máy chủ AI!

Model Catalog includes many models for on-device inference on Dell AI PCs

Các mô hình này cho phép phiên âm giọng nói trên thiết bị (OpenAI whisper), trợ lý trò chuyện (Microsoft Phi và Qwen 2.5), nâng cấp hình ảnh và tạo ra các lớp embedding.

Để triển khai một mô hình, bạn có thể làm theo các hướng dẫn cụ thể cho PC AI Dell mà bạn chọn, được cung cấp bởi NPU Intel hoặc Qualcomm, bằng cách sử dụng Dell Pro AI Studio mới. Kết hợp với các hệ thống quản lý đội PC như Microsoft Intune, đây là một giải pháp hoàn chỉnh cho các tổ chức CNTT để cho phép nhân viên có các khả năng AI trên thiết bị.

Hiện có CLI và Python SDK

Dell Enterprise Hub cung cấp một cổng trực tuyến vào các khả năng AI cho các nền tảng Máy chủ AI Dell và PC AI. Nhưng điều gì sẽ xảy ra nếu bạn muốn làm việc trực tiếp từ môi trường phát triển của mình?

Giới thiệu thư viện mã nguồn mở dell-ai mới với Python SDK và CLI, để bạn có thể sử dụng Dell Enterprise Hub trong môi trường của mình trực tiếp từ terminal hoặc code - chỉ cần pip install dell-ai

Available commands for dell-ai CLI

Tóm lại

Với Mô hình và Ứng dụng, cho Máy chủ AI và PC AI, dễ dàng cài đặt bằng Docker, Kubernetes và Dell Pro AI Studio, Dell Enterprise Hub là một bộ công cụ hoàn chỉnh để triển khai các ứng dụng Gen AI trong doanh nghiệp, hoàn toàn an toàn và tại chỗ.

Là một khách hàng của Dell, điều đó có nghĩa là bạn có thể rất nhanh chóng, trong vòng một giờ thay vì hàng tuần:

  • triển khai một trợ lý trò chuyện trong mạng được cung cấp bởi các LLM mở mới nhất và kết nối nó với các hệ thống lưu trữ nội bộ của bạn (ví dụ: Dell PowerScale) bằng MCP, tất cả trong một môi trường air gapped
  • cấp quyền truy cập vào các hệ thống đại lý phức tạp, với các điều khiển truy cập chi tiết và SSO, có thể làm việc với văn bản, code, hình ảnh, âm thanh và tài liệu nội bộ và truy cập web cho ngữ cảnh hiện tại
  • thiết lập cho nhân viên tính năng phiên âm riêng tư trên thiết bị được cung cấp bởi một đội PC AI của Dell theo cách được quản lý đầy đủ

Nếu bạn đang sử dụng Dell Enterprise Hub ngay hôm nay, chúng tôi rất muốn nghe ý kiến của bạn trong phần bình luận!

Recommended for You

Các tác nhân nhỏ trong Python- một tác nhân được hỗ trợ bởi MCP trong ~70 dòng mã

Các tác nhân nhỏ trong Python- một tác nhân được hỗ trợ bởi MCP trong ~70 dòng mã

Bài đăng trên blog giới thiệu cách tạo các tác nhân nhỏ trong Python bằng cách sử dụng MCP.

Khám phá các backend lượng tử hóa trong Diffusers

Khám phá các backend lượng tử hóa trong Diffusers

Bài viết khám phá các backend lượng tử hóa khác nhau có sẵn trong Diffusers.