OpenAI đang mở rộng mảng an ninh mạng với mô hình dành cho doanh nghiệp và các tác nhân trí tuệ nhân tạo (AI) phục vụ mô phỏng tấn công.
Trong cuộc phỏng vấn với The Information, Chủ tịch OpenAI Greg Brockman nói ông “không nghi ngờ gì” rằng mảng an ninh mạng cuối cùng sẽ lớn hơn mảng lập trình. Brockman mô tả mình đang ở “chế độ quản lý toàn diện”, phụ trách nhiều công việc vận hành của công ty và ưu tiên khách hàng doanh nghiệp cùng an ninh mạng.
Brockman cho biết an ninh mạng đã là nguồn doanh thu quan trọng và tăng trưởng nhanh. Tuy nhiên, ông không nêu doanh thu của từng mảng hoặc thời điểm mảng an ninh mạng có thể vượt mảng lập trình.
Trong hướng dẫn Daybreak, OpenAI phân cấp quyền truy cập công cụ bảo mật theo mục đích sử dụng. Blue dành cho công việc phòng thủ như phát hiện, xác minh và khắc phục lỗ hổng. Red hướng đến các tác vụ bảo mật nâng cao như kiểm thử xâm nhập được cấp phép và xác minh khai thác lỗ hổng. Người đăng ký phải xác nhận mục đích sử dụng và qua xét duyệt để được cấp quyền.
Thibault Sottiaux, người đứng đầu nhóm Sản phẩm và Nền tảng của OpenAI, cho biết Brockman “tham gia sâu” vào quyết định hủy phát hành các mô hình không đạt tiêu chuẩn an toàn. Sottiaux nói Brockman đã phê duyệt việc tạm dừng khoảng một phần tư công việc sản phẩm trong vài tuần và điều động các kỹ sư liên quan xây dựng hạ tầng bảo mật nội bộ. Đây là quyết định về vận hành sản phẩm và nhân sự, khác với việc tạm dừng một phần hoạt động huấn luyện tăng cường trong hai tuần sau sự cố xâm nhập tại Hugging Face.
Comment 0