OpenClaw bắt đầu xóa hơn 200 email, lãnh đạo AI Meta phải tắt trên Mac mini

Một tác nhân OpenClaw do Summer Yue, Giám đốc phụ trách căn chỉnh tại Meta Superintelligence Labs thuộc Meta ($META), kết nối đã bắt đầu xóa hơn 200 email dù được yêu cầu chờ phê duyệt. Lệnh dừng gửi từ điện thoại không có tác dụng, nên Yue phải kết thúc tiến trình trên chiếc Mac mini đang chạy OpenClaw.

Trong bài đăng trên X ngày 23 tháng 2, Yue cho biết tác vụ vẫn tiếp diễn dù bà ra lệnh dừng từ điện thoại. Bà đã đến chiếc Mac mini để chấm dứt tiến trình.

Yue nói bà đã dùng cùng quy trình trên một hộp thư thử nghiệm nhỏ trong vài tuần. Sau khi thử nghiệm không gặp vấn đề, bà áp dụng quy trình vào hộp thư thật, nơi có lượng email cần xử lý lớn hơn.

Yue cho biết trong lúc xử lý hộp thư thật, quá trình nén ngữ cảnh đã diễn ra và chỉ dẫn ban đầu “hãy xác nhận trước khi thực hiện” bị rơi khỏi ngữ cảnh tác vụ. Bà đã công khai cách lý giải này, nhưng chưa có kết quả điều tra độc lập dựa trên nhật ký thực thi tại thời điểm đó.

OpenClaw là một dự án tác nhân AI mã nguồn mở có thể kết nối công cụ và tài khoản để thực hiện công việc. Những việc tác nhân có thể làm phụ thuộc vào công cụ được kết nối và quyền được cấp. Dự án được giới thiệu trong kho mã nguồn và tài liệu chính thức.

Tài liệu chính thức của OpenClaw giải thích rằng khi cuộc trò chuyện kéo dài, hệ thống có thể tóm tắt nội dung cũ để mô hình tiếp tục công việc; quá trình này được gọi là nén ngữ cảnh. Một số chi tiết trong yêu cầu trước đó có thể không còn trong ngữ cảnh hiện tại sau khi tóm tắt.

Tài liệu này mô tả cách nén ngữ cảnh thường hoạt động. Nó không phải nhật ký thực thi chứng minh phiên bản và cấu hình Yue đã dùng, hay câu nào đã bị lược khỏi bản tóm tắt lúc đó.

Tài liệu bảo mật của OpenClaw cho biết người dùng có thể thiết lập chính sách cho phép hoặc chặn theo từng công cụ, cũng như phạm vi truy cập riêng cho từng tác nhân. Tài liệu cũng nêu rằng tính năng chạy trong môi trường cô lập hiện bị tắt theo mặc định.

Nhập vào khung trò chuyện một chỉ dẫn cấm thực hiện trước khi được phê duyệt khác với việc cấu hình quyền thực thi của công cụ hoặc thiết lập một bước phê duyệt riêng. Cách tài khoản và công cụ của Yue được cấu hình trong sự việc này chưa được công khai.

Trong một câu trả lời trên X, Yue thừa nhận bà đã quá tự tin vì quy trình hoạt động tốt trên hộp thư thử nghiệm. Bà cho biết đã chưa tính đủ đến khác biệt giữa môi trường thử nghiệm và môi trường sử dụng thực tế trước khi áp dụng vào tài khoản thật.

Cuộc thảo luận trên Hacker News ghi nhận cả ý kiến cho rằng người dùng phải chịu trách nhiệm khi cấp quyền truy cập tài khoản thật, lẫn câu hỏi liệu các chính sách sao lưu và kiểm soát truy cập hiện có đã đủ cho tác nhân AI hay chưa.

TokenPost từng đưa tin Walmart cho phép thiết lập phê duyệt theo từng giao dịch và hạn mức chi tiêu khi mua hàng bằng tác nhân AI bên ngoài. Trường hợp của Walmart liên quan đến phê duyệt và hạn mức ở khâu mua hàng; sự việc lần này làm nổi bật vấn đề về quyền của công cụ chỉnh sửa email và cách dừng tác vụ.

Sự việc cho thấy cần xem xét vai trò riêng của chỉ dẫn trong cuộc trò chuyện, quyền truy cập công cụ, bước phê duyệt và phương tiện dừng tác vụ. Bài đăng Yue công khai không nêu kết quả cuối cùng của việc xử lý email.