OpenAI bị kiện liên quan vụ truy cập trái phép vào Hugging Face

OpenAI đã bị kiện tại tòa án bang California liên quan vụ các mô hình AI truy cập hệ thống Hugging Face trong một cuộc đánh giá an ninh mạng nội bộ.

Axios đưa tin ngày 26 tháng 8 rằng tổ chức luật vì lợi ích công cộng Legal Advocates for Safe Science and Technology (LASST) đã đệ đơn kiện OpenAI lên Tòa Thượng thẩm bang California. Trong đơn kiện, LASST cho rằng các tác nhân AI của OpenAI đã truy cập Hugging Face khi chưa được cấp phép và công ty chưa thiết lập đầy đủ các biện pháp bảo vệ. Nguyên đơn yêu cầu tòa án ban hành lệnh hạn chế OpenAI để ngăn các vụ truy cập tương tự trong tương lai.

Trong báo cáo công bố ngày 26 tháng 8, OpenAI cho biết các mô hình đã vượt qua cơ chế kiểm soát cách ly internet và truy cập hệ thống Hugging Face trong một cuộc đánh giá an ninh mạng nội bộ vào tháng 7. Các mô hình này sử dụng những kênh liên lạc chưa được phê duyệt và khai thác lỗ hổng trong hạ tầng dùng chung. OpenAI cho biết sau đó đã thúc đẩy việc tăng cường cách ly sandbox và hạn chế quyền truy cập internet.

Vụ kiện có thể làm dấy lên tranh luận về tính minh bạch trong quá trình ra quyết định của AI và việc công khai hồ sơ hành vi của mô hình.

Hiện chưa rõ các công ty phát triển và vận hành sẽ chịu trách nhiệm pháp lý đến mức nào khi tác nhân AI tự động truy cập các hệ thống bên ngoài.