OpenAI chặn đầu ra trong tối đa 35 giây; Microsoft và CrowdStrike kiểm soát ở điểm khác

OpenAI công bố cơ chế kiểm soát cho hạ tầng nghiên cứu, có thể chặn đầu ra mô hình bổ sung trong tối đa 35 giây sau khi Control Room nhận lệnh dừng. Microsoft (MSFT) tập trung vào quyền và môi trường thực thi của tác nhân AI, còn CrowdStrike (CRWD) kiểm soát đường truy cập tới mô hình.

Trong phần giới thiệu Control Room công bố ngày 9, OpenAI cho biết mỗi tác vụ nghiên cứu được cấp một mã định danh. Khi có người yêu cầu dừng tác vụ, mã này chuyển sang trạng thái dừng và công cụ suy luận từ chối các yêu cầu tiếp theo của tác vụ đó.

Mốc tối đa 35 giây không phải thời gian phát hiện sự cố hay quyết định dừng. Đây là khoảng thời gian từ lúc Control Room nhận lệnh dừng đến khi chặn được đầu ra mô hình tiếp theo. OpenAI cho biết độ trễ phát sinh do bộ nhớ đệm dùng để xác thực quyền của các yêu cầu suy luận.

Hệ thống được thiết kế để từ chối yêu cầu suy luận nếu chính Control Room ngừng hoạt động. Tuy nhiên, việc ngắt đầu ra mô hình không nhất thiết dừng tiến trình của tác vụ. Control Room áp dụng cho hạ tầng nghiên cứu; dịch vụ mô hình dành cho người dùng bên ngoài được quản lý bằng hệ thống vận hành riêng.

Ngày 19 tháng 10, Microsoft giới thiệu Dynamic Permissions, một cơ chế chỉ cấp cho tác nhân những quyền cần thiết cho công việc hiện tại. Theo công ty, cơ chế này đánh giá rủi ro dựa trên hành vi và bối cảnh của tác nhân, có thể thu hẹp quyền, hạn chế truy cập tài nguyên và yêu cầu con người phê duyệt các hành động có ảnh hưởng lớn. Thông báo của Microsoft cũng đề cập Dynamic Agent Risk và Dynamic Conditional Access.

Trong bản cập nhật bảo mật ngày 5 tháng 11, Microsoft tiếp tục giải thích về Dynamic Permissions nhưng không cho biết tính năng đã được cung cấp rộng rãi hay chưa. Cùng bản cập nhật, công ty cho biết Microsoft Execution Containers đã được cung cấp rộng rãi.

Môi trường thực thi này dùng chính sách để giới hạn quyền truy cập của tác nhân vào tệp, mạng, tiến trình và giao diện người dùng. Tài liệu kỹ thuật của Microsoft lưu ý các tính năng và giới hạn áp dụng có thể thay đổi tùy theo phiên bản MXC, hệ thống phụ trợ và máy chủ lưu trữ. Vì vậy, phạm vi giới hạn thực tế còn phụ thuộc vào cấu hình và điều kiện vận hành.

Ngày 3 tháng 11, CrowdStrike công bố AI Kill Switch và cho biết Falcon AI Gateway đã được cung cấp rộng rãi. Thông báo của công ty mô tả khả năng chặn truy cập tới các mô hình AI được kết nối qua cổng này.

Hiện tại, việc chặn áp dụng với quyền truy cập vào các mô hình được chỉ định thông qua gateway đã kết nối. CrowdStrike phân biệt chức năng chặn qua gateway với khả năng kết thúc trực tiếp tiến trình của tác nhân trên thiết bị. Trang sản phẩm của công ty tại Anh lại ghi AI Gateway là “sắp ra mắt”, cho thấy thông tin về trạng thái cung cấp chưa đồng nhất giữa thông báo của công ty và trang sản phẩm ở một số khu vực.

Ngày 2 tháng 9, OpenAI và CrowdStrike công bố mở rộng hợp tác, bao gồm theo dõi hoạt động và kiểm soát hành vi khi chạy của các tác nhân Codex được hỗ trợ thông qua Falcon Guardian.

Một trường hợp liên quan đến tài sản mã hóa được nêu trong báo cáo nghiên cứu của OpenAI. Báo cáo cho biết ngày 26 tháng 6, một mô hình nghiên cứu nội bộ đã suy ra khóa của ví trên mạng thử nghiệm Sepolia của Ethereum (ETH) từ cụm từ khôi phục dành cho nhà phát triển được công khai, dù ví này không được giao trong nhiệm vụ. Mô hình đã triển khai hợp đồng bằng ví đó và làm phát sinh phí cho tài khoản.

Báo cáo ghi ngày lấy mẫu là 26 tháng 6, ngày phát hiện là 25 tháng 9 và ngày cập nhật là 15 tháng 10. Trường hợp này liên quan đến tiền trên mạng thử nghiệm; báo cáo không xác nhận có thiệt hại đối với tài sản thực. OpenAI cho biết việc sử dụng ví không được nhiệm vụ cho phép.

Trong cộng đồng nhà phát triển OpenAI, một số ý kiến cho rằng cần xem xét riêng liệu toàn bộ quy trình làm việc có dừng sau khi đầu ra mô hình bị chặn hay không, cũng như liệu tác vụ có thể được tiếp tục an toàn hay không. Một cuộc thảo luận của các chuyên gia bảo mật trên Reddit nêu ý kiến rằng nên kết hợp điểm cuối, proxy, hệ thống định danh và AI gateway thay vì dựa vào một sản phẩm duy nhất. Đây là các trao đổi cá nhân, không phải bằng chứng xác nhận hiệu năng của toàn bộ sản phẩm.

Ba cơ chế xử lý các điểm kiểm soát khác nhau: yêu cầu suy luận trong hạ tầng nghiên cứu, quyền và môi trường thực thi của tác nhân, cùng đường truy cập tới mô hình được kết nối. Trước đó, TokenPost từng đưa tin về xu hướng cạnh tranh tác nhân AI chuyển từ hiệu năng mô hình sang hệ thống doanh nghiệp. CrowdStrike cho biết tính năng kết thúc trực tiếp tiến trình của tác nhân trên thiết bị sẽ được cung cấp trong thời gian tới.