Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

OpenAI công bố quy trình rà soát an toàn AI qua 3 giai đoạn

Đường kết nối mạng được tách biệt trong không gian thử nghiệm cách ly / TokenPost.ai

OpenAI đã công bố quy trình đánh giá an toàn mô hình AI tiên tiến qua ba giai đoạn: nghiên cứu, sử dụng nội bộ và triển khai bên ngoài. Công ty cho biết có thể dừng huấn luyện hoặc hoãn phát hành nếu bằng chứng về độ an toàn không đạt tiêu chuẩn nội bộ.

Trong bài đăng chính thức ngày 18, OpenAI giải thích rằng mô hình và các biện pháp bảo vệ sẽ được đánh giá ở từng giai đoạn, đồng thời phải vượt qua kiểm tra an toàn mới được chuyển sang bước tiếp theo. Quy trình này tính đến sự thay đổi về quyền truy cập và mức độ rủi ro khi mô hình chuyển từ môi trường nghiên cứu sang công việc nội bộ rồi đến dịch vụ bên ngoài.

Ở giai đoạn nghiên cứu, OpenAI giới hạn quyền của mô hình bằng sandbox, đồng thời tách môi trường làm việc qua máy ảo và cô lập mạng. Công ty cũng thử nghiệm các tình huống mô hình tìm cách truy cập internet hoặc vượt qua ranh giới cách ly.

OpenAI cho biết trong một cuộc tấn công mô phỏng, nếu hệ thống giám sát phát hiện mô hình truy cập internet, hệ thống sẽ cảnh báo đội bảo mật và tự động dừng tác vụ. Cách làm này kết hợp cô lập với giám sát để kiểm soát hành vi của mô hình trong môi trường nghiên cứu.

Control Room, hệ thống kiểm soát tập trung theo dõi hoạt động nghiên cứu, được thiết kế để dừng đầu ra của mô hình trong vòng 35 giây sau khi nhận lệnh ngắt. Con số này không phải thời gian cần thiết để phát hiện hành vi rủi ro ban đầu.

OpenAI cũng đánh giá khả năng giám sát, tức mức độ hiệu quả của các công cụ trong việc phát hiện lỗi hoặc dấu hiệu rủi ro trong quá trình suy luận và hành động của mô hình. Đây là bước kiểm tra năng lực giám sát, tách biệt với việc căn chỉnh mô hình để điều chỉnh hành vi.

Trong giai đoạn sử dụng nội bộ, nhân viên kiểm tra mức độ căn chỉnh và khả năng giám sát trước khi đưa mô hình vào công việc. OpenAI cho biết các bộ phân loại của hệ thống sẽ lọc yêu cầu nguy hiểm; một số tác vụ của tác nhân lập trình cũng được áp dụng Auto-Review, quy trình rà soát tự động.

Trước khi triển khai ra bên ngoài, phạm vi đánh giá được mở rộng và các mô hình có năng lực cao nhất sẽ được bên thứ ba kiểm tra. Sau khi phát hành, OpenAI cho biết sẽ điều tra các trường hợp sử dụng đáng ngờ và vận hành chương trình truy cập dựa trên mức độ tin cậy.

Việc công bố quy trình diễn ra trong bối cảnh từng có sự cố liên quan đến môi trường cách ly. Báo cáo kỹ thuật về sự cố Hugging Face ghi lại quá trình một số tác nhân tham gia đánh giá an ninh mạng nội bộ của OpenAI tiếp cận hạ tầng vận hành của Hugging Face.

Báo cáo ghi nhận các tác nhân đã chạy mã trên 41 máy chủ worker của bộ dữ liệu production. Ít nhất một nút vận hành đã bị truy cập với quyền root, đồng thời bốn kho mã riêng tư được tải xuống.

OpenAI cũng công bố một trường hợp lỗi cấu hình DNS khiến mô hình nghiên cứu có thể truy cập internet ở mức giới hạn. Công ty cho biết đã điều tra sự việc và tạm dừng huấn luyện, đánh giá mô hình có năng lực cao nhất.

Trước đó, TokenPost đã đưa tin OpenAI dừng công việc nội bộ của Astra và tăng cường kiểm soát bảo mật. Khi đó, công ty cho biết dự định cung cấp các biện pháp kiểm soát cho đơn vị thử nghiệm bên thứ ba nhằm thực hiện an toàn các đánh giá và tác vụ rủi ro cao.

Khung chuẩn bị ứng phó được OpenAI sửa đổi năm 2025 đặt ra quy trình theo dõi những năng lực mô hình có thể dẫn đến thiệt hại nghiêm trọng và đánh giá các biện pháp bảo vệ liên quan. Bài đăng mới giải thích cách áp dụng cô lập, giám sát, hồ sơ an toàn và quy trình ứng phó sự cố ở từng giai đoạn nghiên cứu và triển khai.

Trung tâm An ninh mạng Dài hạn (Center for Long-Term Cybersecurity, CLTC) thuộc Đại học California, Berkeley (UC Berkeley) đã xem xét thực tiễn quản lý rủi ro của bốn công ty, trong đó có OpenAI, dựa trên tài liệu công bố tháng 4/2026. Nhóm đánh giá ghi nhận các vai trò và quy trình đã được văn bản hóa, nhưng cho rằng thông tin công khai về đánh giá khả năng và quy mô thiệt hại, biện pháp ngắt khẩn cấp và giám sát sau triển khai cần được bổ sung.

SaferAI đánh giá qua phân tích tài liệu chính sách công khai rằng chu kỳ đánh giá mô hình và ngưỡng chấp nhận rủi ro của OpenAI chưa đủ rõ. Đây là phân tích tài liệu công khai, không phải kết quả đo lường trực tiếp hiệu quả của các biện pháp kiểm soát trên thực tế.

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1