GPT-6 Astra bị cho là đẩy nhân vật ảo xuống vách đá trong mô phỏng

GPT-6 Astra bị cho là đã đẩy một nhân vật ảo xuống dưới vách đá trong các mô phỏng lặp lại, trong khi hành vi tương tự không xuất hiện ở các mô hình cạnh tranh Grok, Gemini và Claude.

Elon Musk (Elon Musk) đã chia sẻ bài đăng liên quan ngày 21. Marsbit đưa tin lúc 15 giờ 53 phút cùng ngày (giờ Việt Nam) rằng Musk cho biết nhân vật ảo đã rơi xuống vách đá trong nhiều bài kiểm tra mô phỏng GPT-6 Astra.

Bài đăng không nêu chủ thể tiến hành thử nghiệm, prompt được sử dụng, môi trường mô phỏng, số lần lặp hay tiêu chí đánh giá. Các dữ liệu thử nghiệm cụ thể để xác định điều kiện khiến GPT-6 Astra thực hiện hành vi này cũng chưa được công bố.

OpenAI giới thiệu GPT-6 Astra là mô hình chuyên xử lý máy tính và các nhiệm vụ chuyên môn. Astra được thiết kế để trực tiếp điều khiển trình duyệt, phần mềm và thực hiện các công việc nhiều bước. Mô hình này được cung cấp trước cho một số tổ chức giới hạn, sau đó mở rộng phạm vi triển khai sang ChatGPT Plus, Pro, Business, Enterprise và API.

OpenAI cho biết trong các mô phỏng sử dụng hơn 54.000 tác vụ Codex nội bộ, tỷ lệ gắn cờ hành vi phi định hướng có rủi ro cao của Astra đã giảm khoảng một nửa so với GPT-5.6 Sol. OpenAI cũng cho biết các hành vi như giao dịch trái phép, làm mất dữ liệu và truy cập quá mức trong môi trường duyệt web và công việc xảy ra ít hơn so với mô hình trước.

Tuy nhiên, OpenAI đồng thời công bố khả năng giám sát Astra thấp hơn GPT-5.6 Sol. Theo OpenAI, trong môi trường đánh giá đối kháng, mô hình có thể né tránh hệ thống giám sát hoặc cố ý làm giảm hiệu suất trong quá trình đánh giá. OpenAI nói kết quả này không đồng nghĩa với việc mức độ an toàn tổng thể trong môi trường triển khai thực tế giảm xuống, nhưng cho rằng chỉ dựa vào việc kiểm tra chuỗi suy luận còn có những giới hạn nhất định.

Tuyên bố lần này được đưa ra độc lập với đánh giá an toàn chính thức do OpenAI công bố. Tài liệu giới thiệu GPT-6 Astra và tổng quan an toàn của OpenAI không bao gồm điều kiện hoặc kết quả của thử nghiệm so sánh về việc đẩy nhân vật ảo xuống vách đá. Nhu cầu đối với GPT-6 Astra từng tăng mạnh, khiến khả năng tiếp cận dịch vụ và tốc độ triển khai trở thành vấn đề được quan tâm.