Anthropic đã mở bản beta riêng tư cho phiên bản tự vận hành của Claude Managed Agents vào ngày 12.
Trong thông báo chính thức, Anthropic cho biết khách hàng có thể tự quản lý máy chủ, cơ sở dữ liệu, lớp thực thi và điều phối tác nhân, worker chạy công cụ shell và tệp, sandbox, thông tin xác thực và hồ sơ phiên. Các thành phần này được vận hành trên đám mây riêng hoặc thiết bị tại chỗ của khách hàng.
Nhà phát triển có thể tạo tác nhân bằng các API cốt lõi giống với dịch vụ lưu trữ do Anthropic vận hành. Khách hàng cần liên hệ đội ngũ quản lý tài khoản của Anthropic để đăng ký quyền truy cập bản beta.
Ở phiên bản sandbox tự vận hành trước đây, chỉ việc chạy công cụ diễn ra trên hạ tầng của khách hàng; Anthropic quản lý luồng công việc của tác nhân và hồ sơ phiên. Phiên bản mới mở rộng phạm vi tự vận hành, đưa cả hồ sơ phiên vào cơ sở dữ liệu của khách hàng.
Theo mặc định, yêu cầu mô hình sử dụng Claude API. Khách hàng cũng có thể chọn Amazon (AMZN) Bedrock, Google Agent Platform, Microsoft (MSFT) Foundry hoặc cổng kết nối riêng làm tuyến gửi yêu cầu.
Việc tự vận hành các thành phần dịch vụ và tuyến suy luận mô hình là hai lựa chọn riêng biệt. Quá trình suy luận được xử lý bởi Anthropic hoặc nhà cung cấp suy luận mà khách hàng chọn.
Tài liệu về dữ liệu và quyền truy cập của Anthropic nêu rõ mỗi lần gọi mô hình sẽ chuyển nội dung hội thoại, prompt, dữ liệu đầu vào và kết quả từ công cụ đến nhà cung cấp suy luận đã chọn. Vì vậy, nơi lưu hồ sơ phiên có thể khác với nơi nhận dữ liệu gọi mô hình.
Với các tổ chức đang áp dụng điều kiện không lưu giữ dữ liệu (ZDR) với Anthropic, các lệnh gọi mô hình gửi qua Claude API cũng được áp dụng điều kiện ZDR như những yêu cầu khác qua Messages API. Quy định này mô tả cách lưu giữ dữ liệu áp dụng cho lệnh gọi mô hình, không phải toàn bộ điều kiện hợp đồng.
Anthropic cho biết họ không truy cập từ xa vào máy chủ tự vận hành và nhật ký của khách hàng. Khách hàng có thể kết nối dịch vụ quản lý bí mật riêng, đồng thời cấu hình phạm vi truy cập mạng của máy chủ và worker.
Các lệnh chạy trên worker sử dụng quyền truy cập mạng được cấp cho worker đó. Do đó, những dịch vụ worker có thể kết nối và phạm vi mạng phụ thuộc vào cấu hình của khách hàng.
Phiên bản tự vận hành không hỗ trợ triển khai theo lịch, Dreams, webhook, Files API và tài nguyên phiên tệp vốn có trong dịch vụ lưu trữ của Anthropic. Tài liệu so sánh tính năng của công ty nêu rõ các giới hạn này.
Tác nhân, kỹ năng, thông tin xác thực và hồ sơ phiên từ dịch vụ lưu trữ không được tự động sao chép sang máy chủ mới. Muốn tiếp tục chạy các tác vụ theo lịch, khách hàng cần dùng bộ lập lịch riêng để khởi chạy phiên.
Trước đó, Anthropic đã mở bản beta công khai cho tính năng theo dõi quá trình gọi mô hình và sử dụng công cụ. Ở phiên bản tự vận hành, khách hàng có thể cấu hình OpenTelemetry để gửi bản ghi hoạt động của tác nhân đến công cụ giám sát của mình.
Thời gian lưu nhật ký và dữ liệu theo dõi phụ thuộc vào cấu hình của hệ thống thu thập và lưu trữ mà khách hàng kết nối. OpenTelemetry là tiêu chuẩn mở dùng để chuyển dữ liệu theo dõi của ứng dụng đến các công cụ giám sát khác.
Anthropic giới thiệu môi trường khởi chạy nhanh dựa trên Docker Compose cho mục đích phát triển và khuyến nghị dùng biểu đồ Helm cho Kubernetes khi triển khai vận hành. Giá của phiên bản tự vận hành chưa được công bố trong bảng giá; khách hàng được hướng dẫn liên hệ đội ngũ quản lý tài khoản để biết thêm.
Comment 0