Anthropic cấp quyền truy cập nội bộ cho 6 nhà nghiên cứu METR

Anthropic đã cấp cho 6 nhà nghiên cứu thuộc tổ chức đánh giá trí tuệ nhân tạo độc lập METR quyền truy cập nội bộ tương đương nhân viên, đồng thời cho phép họ công bố kết quả đánh giá mà không cần công ty phê duyệt trước.

TechCrunch đưa tin ngày 15 rằng Anthropic đã công bố thỏa thuận này. Các nhà nghiên cứu METR được sử dụng máy tính xách tay và văn phòng của công ty, đồng thời truy cập các công cụ nội bộ. Phạm vi quyền truy cập nhìn chung tương tự nhóm đánh giá rủi ro của Anthropic. Công ty khuyến nghị nhân viên trao đổi với các nhà nghiên cứu METR như cách họ chia sẻ thông tin với đồng nghiệp phụ trách rủi ro căn chỉnh AI.

Điểm đáng chú ý là Anthropic từ bỏ quyền ngăn chặn công bố kết quả đánh giá. METR có thể tự công bố đánh giá về rủi ro, sự cố và hoạt động của Anthropic. Công ty chỉ có thể yêu cầu xóa thông tin thuộc một số nhóm hẹp đã được xác định trước, chẳng hạn dữ liệu khách hàng, thông tin được bảo mật theo quan hệ luật sư-khách hàng và thông tin về cấu trúc mô hình.

METR vẫn có thể đánh giá công khai liệu yêu cầu xóa có chính đáng hay không, miễn là không tiết lộ chính nội dung bị xóa. Quy trình này cho phép tổ chức đánh giá thông báo về sự can thiệp biên tập của doanh nghiệp mà không làm lộ thông tin nhạy cảm.

Anthropic đang xây dựng hệ thống phân quyền truy cập cho đánh giá viên bên ngoài gồm ba cấp. Đánh giá viên ở cấp thấp nhất chỉ xem xét phạm vi hạn chế, như tổ chức phi lợi nhuận về an toàn sinh học SecureBio, và cần công ty phê duyệt trước khi công bố kết quả. Cấp trung được tiếp cận nhiều thông tin hơn và có thể công bố kết quả mà không cần phê duyệt trước.

METR lần đầu được xếp vào cấp cao nhất. Cấp này đi kèm quyền truy cập tương đương nhóm đánh giá rủi ro nội bộ. Anthropic ví mô hình này với các thanh tra của cơ quan giám sát thường trực tại ngân hàng.

Thông báo cụ thể hóa đề xuất của CEO Anthropic Dario Amodei trong bài luận hồi tháng 9 về việc bố trí đánh giá viên bên ngoài làm việc tại chỗ. Amodei xem đây là bước đầu nhằm làm chậm tốc độ phát triển công nghệ tại các phòng nghiên cứu AI. OpenAI cũng đã cam kết theo đuổi một phương án tương tự.

Sau đó, Anthropic, OpenAI, Google, Meta, NVIDIA và xAI đã ký thỏa thuận với Nhà Trắng, cam kết tham gia đánh giá độc lập. Động thái lần này đưa vào thực hiện kế hoạch Anthropic từng công bố về việc cấp quyền truy cập tương đương nhân viên cho đánh giá viên bên ngoài. Tuy nhiên, phạm vi đánh giá trong thỏa thuận trước đó và quyền công bố theo hệ thống ba cấp mới là hai nội dung riêng biệt.