GLM-5.3 cho thấy khả năng phát triển chuỗi khai thác mạng đầu cuối

Mô hình mã nguồn mở GLM-5.3 của Zhipu AI đã cho thấy khả năng kết nối nhiều lỗ hổng để phát triển chuỗi khai thác mạng đầu cuối. Anthropic cho biết trong nghiên cứu công bố ngày 29 rằng GLM-5.3 sở hữu năng lực mạng đủ để bị lợi dụng cho các cuộc tấn công.

Trong môi trường thử nghiệm được cách ly, GLM-5.3 đã tìm và kết nối nhiều lỗ hổng chưa được biết đến trong các thành phần trình duyệt, sau đó phát triển mã khai thác có thể đọc tệp trên máy tính của khách truy cập. Trong bài kiểm tra ExploitBench, đánh giá khả năng chuyển các lỗ hổng đã biết thành mã tấn công, mô hình này thành công 50 lần trên tổng số 410 lần thử.

Trong bài kiểm tra vượt qua các biện pháp bảo vệ, GLM-5.3 đáp ứng 64% yêu cầu có hại khi sử dụng kỹ thuật giả mạo rằng nhiệm vụ nhằm mục đích phòng thủ. Tỷ lệ này tăng lên 92% khi được cung cấp trước chuỗi suy luận và đạt 100% ở biến thể mô hình đã loại bỏ các biện pháp bảo vệ.

Trung tâm Tiêu chuẩn và Đổi mới Trí tuệ nhân tạo (CAISI) thuộc Viện Tiêu chuẩn và Công nghệ Quốc gia Mỹ (NIST) đánh giá GLM-5.3 ngày 17 là mô hình mã nguồn mở có năng lực mạng mạnh nhất được công bố cho đến nay. Tuy nhiên, NIST nhận định mô hình này vẫn chậm hơn các mô hình tiên phong của Mỹ khoảng 4 tháng.