OpenAI chặn đầu ra của AI nghiên cứu trong tối đa 35 giây

OpenAI có thể chặn đầu ra của mô hình trong tối đa 35 giây sau khi nhận lệnh dừng một tác vụ nghiên cứu nội bộ. Công ty đã triển khai hệ thống điều khiển tập trung Control Room trên toàn bộ hạ tầng nghiên cứu.

Trong tài liệu kỹ thuật chính thức, OpenAI cho biết Control Room theo dõi và dừng các tác vụ nghiên cứu khi phát sinh lo ngại về an toàn hoặc bảo mật. Hệ thống áp dụng cho các tác vụ của tác nhân dùng để huấn luyện mô hình, đánh giá hiệu năng và xử lý dữ liệu trong nội bộ.

Các mô hình cung cấp cho người dùng bên ngoài được quản lý theo một cơ chế vận hành riêng. OpenAI cho biết cơ chế này tập trung hơn, nên công ty có khả năng dừng triển khai.

Control Room cấp một mã định danh cho từng tác vụ nghiên cứu. Mỗi khi yêu cầu mô hình phản hồi, tác vụ gửi kèm mã này để bộ máy suy luận kiểm tra xem tác vụ còn được phê duyệt hay không.

Khi con người hoặc hệ thống giám sát yêu cầu dừng tác vụ, Control Room chuyển mã định danh sang trạng thái đã dừng. Sau đó, bộ máy suy luận từ chối các yêu cầu của tác vụ và không gửi thêm phản hồi mới từ mô hình.

Chương trình nghiên cứu vẫn có thể tiếp tục chạy sau khi nhận lệnh dừng. Tuy nhiên, chương trình sẽ không nhận thêm đầu ra từ mô hình; các tác vụ khác đã được phê duyệt và dùng chung bộ máy suy luận vẫn có thể tiếp tục.

Cơ chế chặn được đặt ở khâu suy luận thay vì trong chương trình nghiên cứu. OpenAI cho biết mã của các tác vụ nghiên cứu thường xuyên thay đổi, trong khi đường dẫn suy luận ít hơn và tập trung hơn, nên việc kiểm tra quyền tại khâu này phù hợp hơn để kiểm soát.

Từ lúc lệnh dừng được tiếp nhận đến khi tác vụ không thể tiếp tục nhận đầu ra mất tối đa 35 giây. OpenAI cho biết độ trễ phát sinh do thông tin phê duyệt suy luận được lưu tạm trong bộ nhớ đệm để xử lý nhiều yêu cầu hơn.

Khoảng thời gian 35 giây không phải thời gian cần thiết để phát hiện hành vi bất thường. Việc hệ thống giám sát nhận diện tín hiệu rủi ro và yêu cầu dừng được tách biệt với bước Control Room chặn đầu ra tiếp theo. OpenAI đang tìm cách đưa độ trễ xuống gần 0 giây.

Hệ thống giám sát là một mô hình khác theo dõi hành vi của mô hình. Khi phát hiện vấn đề tiềm ẩn, hệ thống có thể quyết định dừng tác vụ tùy theo chi tiết và mức độ nghiêm trọng của sự việc. Khi quyết định dừng được đưa ra, mã định danh của tác vụ sẽ được gửi đến Control Room.

Nếu Control Room gặp sự cố hoặc bị vô hiệu hóa, hệ thống được thiết kế để từ chối mọi yêu cầu suy luận. Các phản hồi mới từ mô hình cũng sẽ không được phép cho đến khi hệ thống hoạt động bình thường trở lại.

OpenAI cho biết đã áp dụng cơ chế từ chối yêu cầu khi xảy ra sự cố này cho các tác vụ nghiên cứu mô hình tiên tiến nhất. Công ty dự kiến hoàn tất triển khai cho các tác vụ nghiên cứu còn lại trong vài ngày tới.

Hệ thống kiểm soát mới được đưa ra sau khi các trường hợp mô hình nghiên cứu vượt khỏi phạm vi chỉ dẫn được công khai. Trong đợt đánh giá an ninh mạng nội bộ vào tháng 7, các mô hình nghiên cứu đã vượt qua biện pháp cách ly internet và xâm nhập một số hệ thống của Hugging Face. OpenAI đã trình bày diễn biến trong báo cáo điều tra sự cố.

Sau sự cố, OpenAI tạm dừng một phần hoạt động học tăng cường trong 2 tuần và tăng cường kiểm soát bảo mật. Các biện pháp khi đó nhằm tăng cường giám sát hành vi mô hình và kiểm soát quyền truy cập trong môi trường nghiên cứu nội bộ.

Báo cáo sự cố OpenAI công bố vào tháng 10 cũng đề cập việc mô hình nghiên cứu nội bộ tự ý sử dụng ví thử nghiệm. Ngày 26 tháng 6, khi triển khai hợp đồng thông minh trên mạng thử nghiệm Sepolia của Ethereum (ETH), mô hình đã dùng ví không do người vận hành cung cấp hoặc cho phép để trả phí giao dịch. Trong bản tóm tắt công việc cuối cùng, mô hình không đề cập việc đã dùng ví đó.

So với tính năng của CrowdStrike (CRWD) giúp ngắt quyền truy cập vào một mô hình AI hoặc nhà cung cấp được chỉ định trong môi trường doanh nghiệp, Control Room chặn yêu cầu suy luận của các tác vụ nghiên cứu nội bộ OpenAI. Hai hệ thống khác nhau về phạm vi áp dụng và điểm chặn.