Quản lý bối cảnh trên nền tảng nhà phát triển Claude
Quản lý bối cảnh trên nền tảng nhà phát triển Claude
- 6 min read
Quản lý ngữ cảnh trên Nền tảng nhà phát triển Claude
Hôm nay, chúng tôi giới thiệu các khả năng mới để quản lý ngữ cảnh của các tác nhân của bạn trên Nền tảng nhà phát triển Claude: chỉnh sửa ngữ cảnh và công cụ bộ nhớ.
Với mô hình mới nhất của chúng tôi, Claude Sonnet 4.5, những khả năng này cho phép các nhà phát triển xây dựng các tác nhân AI có khả năng xử lý các tác vụ chạy dài với hiệu suất cao hơn và không bị giới hạn ngữ cảnh hoặc mất thông tin quan trọng.
Các cửa sổ ngữ cảnh có giới hạn, nhưng công việc thực tế thì không
Khi các tác nhân sản xuất xử lý các tác vụ phức tạp hơn và tạo ra nhiều kết quả công cụ hơn, chúng thường cạn kiệt các cửa sổ ngữ cảnh hiệu quả của chúng — khiến các nhà phát triển mắc kẹt giữa việc cắt các bản ghi tác nhân hoặc làm giảm hiệu suất. Quản lý ngữ cảnh giải quyết vấn đề này theo hai cách, giúp các nhà phát triển đảm bảo chỉ dữ liệu liên quan mới ở lại trong ngữ cảnh và những hiểu biết có giá trị được lưu giữ trên các phiên.
Chỉnh sửa ngữ cảnh tự động xóa các lệnh gọi và kết quả công cụ cũ khỏi cửa sổ ngữ cảnh khi đạt đến giới hạn mã thông báo. Khi tác nhân của bạn thực hiện các tác vụ và tích lũy kết quả công cụ, chỉnh sửa ngữ cảnh sẽ loại bỏ nội dung cũ đồng thời bảo toàn luồng hội thoại, kéo dài hiệu quả thời gian các tác nhân có thể chạy mà không cần can thiệp thủ công. Điều này cũng làm tăng hiệu suất mô hình hiệu quả vì Claude chỉ tập trung vào ngữ cảnh có liên quan.
Công cụ bộ nhớ cho phép Claude lưu trữ và tham khảo thông tin bên ngoài cửa sổ ngữ cảnh thông qua hệ thống dựa trên tệp. Claude có thể tạo, đọc, cập nhật và xóa các tệp trong thư mục bộ nhớ chuyên dụng được lưu trữ trong cơ sở hạ tầng của bạn, thư mục này vẫn tồn tại trong các cuộc hội thoại. Điều này cho phép các tác nhân xây dựng cơ sở kiến thức theo thời gian, duy trì trạng thái dự án trên các phiên và tham khảo các bài học trước đó mà không cần phải giữ mọi thứ trong ngữ cảnh.
html
Công cụ bộ nhớ hoạt động hoàn toàn phía máy khách thông qua các lệnh gọi công cụ. Các nhà phát triển quản lý phần phụ trợ lưu trữ, cho phép họ kiểm soát hoàn toàn nơi dữ liệu được lưu trữ và cách nó được lưu giữ.
Claude Sonnet 4.5 tăng cường cả hai khả năng với nhận thức ngữ cảnh tích hợp — theo dõi các mã thông báo có sẵn trong suốt các cuộc hội thoại để quản lý ngữ cảnh hiệu quả hơn.
Cùng với nhau, những bản cập nhật này tạo ra một hệ thống cải thiện hiệu suất của tác nhân:
- Cho phép các cuộc hội thoại dài hơn bằng cách tự động loại bỏ các kết quả công cụ cũ khỏi ngữ cảnh
- Tăng độ chính xác bằng cách lưu thông tin quan trọng vào bộ nhớ — và mang lại kiến thức đó trên các phiên agentic liên tiếp
Xây dựng các tác nhân chạy dài
Claude Sonnet 4.5 là mô hình tốt nhất trên thế giới để xây dựng các tác nhân. Các tính năng này mở ra những khả năng mới cho các tác nhân chạy dài — xử lý toàn bộ cơ sở mã, phân tích hàng trăm tài liệu hoặc duy trì lịch sử tương tác công cụ mở rộng. Quản lý ngữ cảnh xây dựng trên nền tảng này, đảm bảo các tác nhân có thể tận dụng dung lượng mở rộng này một cách hiệu quả trong khi vẫn xử lý các quy trình làm việc vượt quá bất kỳ giới hạn cố định nào. Các trường hợp sử dụng bao gồm:
- Mã hóa: Chỉnh sửa ngữ cảnh xóa các lần đọc tệp cũ và kết quả kiểm tra trong khi bộ nhớ lưu giữ những hiểu biết gỡ lỗi và các quyết định kiến trúc, cho phép các tác nhân làm việc trên các cơ sở mã lớn mà không làm mất tiến trình.
- Nghiên cứu: Bộ nhớ lưu trữ những phát hiện chính trong khi chỉnh sửa ngữ cảnh loại bỏ các kết quả tìm kiếm cũ, xây dựng cơ sở kiến thức cải thiện hiệu suất theo thời gian.
- Xử lý dữ liệu: Các tác nhân lưu trữ kết quả trung gian trong bộ nhớ trong khi chỉnh sửa ngữ cảnh xóa dữ liệu thô, xử lý các quy trình làm việc nếu không sẽ vượt quá giới hạn mã thông báo.
Cải thiện hiệu suất với quản lý ngữ cảnh
Trên một bộ đánh giá nội bộ để tìm kiếm agentic, chúng tôi đã kiểm tra cách quản lý ngữ cảnh cải thiện hiệu suất của tác nhân trên các tác vụ phức tạp, nhiều bước. Kết quả cho thấy những lợi ích đáng kể: kết hợp công cụ bộ nhớ với chỉnh sửa ngữ cảnh đã cải thiện hiệu suất lên 39% so với đường cơ sở. Chỉ riêng chỉnh sửa ngữ cảnh đã mang lại mức cải thiện 29%.
Trong một đánh giá tìm kiếm trên web 100 lượt, chỉnh sửa ngữ cảnh đã cho phép các tác nhân hoàn thành các quy trình làm việc nếu không sẽ thất bại do cạn kiệt ngữ cảnh — đồng thời giảm mức tiêu thụ mã thông báo xuống 84%.
Bắt đầu
Các khả năng này hiện có sẵn trong bản beta công khai trên Nền tảng nhà phát triển Claude, nguyên bản và trong Amazon Bedrock và Vertex AI của Google Cloud. Khám phá tài liệu về chỉnh sửa ngữ cảnh và công cụ bộ nhớ, hoặc truy cập sổ tay nấu ăn của chúng tôi để tìm hiểu thêm.
Anthropic không liên kết với, được chứng thực bởi hoặc được tài trợ bởi CATAN GmbH hoặc CATAN Studio. Nhãn hiệu và trò chơi CATAN là tài sản của CATAN GmbH.