OpenAI tạm dừng một số hoạt động phát triển Astra vì lo ngại rủi ro tấn công mạng

OpenAI cho biết không thể loại trừ khả năng mô hình trí tuệ nhân tạo (AI) thế hệ mới mang tên Astra sở hữu năng lực tấn công mạng ở mức nghiêm trọng, vì vậy công ty đã tạm dừng một số hoạt động phát triển nội bộ liên quan đến mô hình này.

Theo thông báo chính thức của OpenAI ngày 7 (giờ địa phương), kết quả đánh giá nội bộ gần đây cùng quá trình rà soát của các chuyên gia cho thấy Astra có khả năng đã đạt tới ngưỡng năng lực tấn công mạng ở mức “nghiêm trọng” theo khung đánh giá rủi ro (Preparedness Framework) của công ty. Đây là mức độ mà mô hình có thể tự tìm và khai thác lỗ hổng zero-day trên các hệ thống trọng yếu thực tế mà không cần con người can thiệp, hoặc có thể tự thiết kế và thực hiện trọn vẹn một cuộc tấn công mạng mới chỉ từ một mục tiêu cấp cao được đưa ra.

OpenAI đã tạm ngừng các hoạt động nội bộ liên quan đến Astra chưa đáp ứng được các yêu cầu bảo mật nâng cao. Công ty cho biết sẽ triển khai môi trường thử nghiệm biệt lập, giới hạn quyền truy cập mạng và công cụ, mã hóa trọng số mô hình, đồng thời giám sát liên tục các hành vi rủi ro. OpenAI cũng dự kiến phối hợp với các cơ quan chính phủ và các tổ chức an toàn AI để tiến hành thêm các đợt thử nghiệm.