Tác nhân AI Muse của Meta($META) có thể truy cập tin nhắn Signal dù ứng dụng này chưa được thêm vào tính năng kết nối ứng dụng, theo kết quả thử nghiệm. Muse đọc được tin nhắn trên Android và Mac, trong khi yêu cầu tương tự bị chặn trên iPhone.
Reuters cho biết ngày 18 rằng hãng đã xem xét hơn 24 bài đăng nội bộ của Meta và cùng những người thuộc Signal và AI Now Institute tái hiện việc truy cập tin nhắn. Kết quả cho thấy vấn đề nhân viên báo cáo vẫn tiếp diễn và có thể ảnh hưởng đến người dùng khác.
Nhân viên Meta cho biết Muse hiển thị những tin nhắn về chăm sóc con cái, lời khuyên nghề nghiệp và đơn đặt hàng mà họ không yêu cầu. Một trường hợp khác ghi nhận số dư ngân hàng xuất hiện trong cuộc trò chuyện vốn chỉ hỏi về thời tiết và thủy triều.
Nhân viên này nói chưa từng kết nối tài khoản ngân hàng hay trò chuyện về tài chính với Muse. Tuy nhiên, Reuters không xác định được số dư hiển thị là thông tin tài chính thật của người khác hay con số do Muse tạo ra.
Một nhân viên dùng Muse trên điện thoại cá nhân cho biết đã nhận được thông báo yêu cầu trả lời tin nhắn Signal của chị gái. Nhân viên này viết trong bài đăng nội bộ rằng Signal dùng mã hóa đầu cuối và họ không nhớ đã cho phép Muse truy cập ứng dụng khác.
Trong thử nghiệm trên Android, Muse lấy tin nhắn Signal thông qua quyền truy cập thông báo của thiết bị. Ứng dụng Signal chưa được đăng ký trong tính năng kết nối ứng dụng của Meta, nhưng Muse vẫn dùng quyền hệ điều hành được cấp trong quá trình thiết lập ban đầu.
Trên Mac, Muse đọc nội dung tin nhắn bằng các tính năng trợ năng và công cụ chụp màn hình. Yêu cầu tương tự bị chặn trong thử nghiệm trên iPhone.
Đường truy cập được xác nhận trong thử nghiệm không giải mã quá trình mã hóa tin nhắn khi gửi. Thay vào đó, Muse truy cập thông báo hoặc nội dung hiển thị trên màn hình thiết bị. Kết quả cho thấy cài đặt kết nối ứng dụng và quyền của hệ điều hành có thể hoạt động riêng biệt.
Meta từng cho biết khi giới thiệu Muse rằng người dùng có thể chọn ứng dụng muốn kết nối và phạm vi truy cập. Công ty cũng nói tác nhân AI và dữ liệu của từng người dùng hoạt động trong môi trường ảo bảo mật riêng, còn những tác vụ nhạy cảm như gửi email hoặc mua hàng cần được phê duyệt trước.
Daniel Roberts, người phát ngôn của Meta, gọi các trường hợp Reuters nêu là “những trường hợp riêng lẻ”. Ông nói người dùng phải cấp quyền rõ ràng để Muse truy cập ứng dụng khác; Meta đã xử lý nhiều tin nhắn bị báo cáo là nhầm lẫn tài khoản sau khi xác định chúng do AI tạo ra.
Meredith Whittaker, Chủ tịch Signal, nói Meta “không tôn trọng các nguyên tắc cơ bản về quyền riêng tư và an ninh mạng”. Bà kêu gọi trang bị cho nhà phát triển ứng dụng các biện pháp kỹ thuật để hạn chế quyền truy cập của tác nhân AI.
Apple đã cập nhật hệ điều hành Mac trong tuần này để hạn chế việc nhà phát triển sử dụng công cụ trợ năng và bổ sung quyền riêng cho tác nhân AI. Google và Apple cho biết đang xem xét thay đổi để người dùng kiểm soát tốt hơn quyền truy cập mà họ cấp cho các tác nhân AI.
Các báo cáo tương tự của nhân viên Meta xuất hiện từ giữa tháng 9 đến tháng 11. Kể từ khi ra mắt vào tháng 9, Muse đã vượt mốc 10 triệu lượt tải xuống.
Một thành viên của nhóm Superintelligence thuộc Meta đề cập khả năng lời nhắc tích hợp, vốn khiến Muse chủ động nhắn người dùng giữa các phiên, đã gây ra những tin nhắn mang tính ảo giác. Người này cũng viết trong bài đăng nội bộ về các trường hợp liên quan đến tiền mã hóa, chẳng hạn Muse cung cấp số dư Bitcoin(BTC).
Ngày 27 tháng 10, Meta giới thiệu Muse tại Singapore, cho biết người dùng có thể kết nối Gmail và Google Calendar để quản lý email và lịch. Thử nghiệm lần này cho thấy quyền được cấp trong cài đặt thiết bị cũng có thể tạo ra đường truy cập tin nhắn ngoài tính năng kết nối ứng dụng.
Trước đó, TokenPost đã đưa tin về cáo buộc Muse đọc tin nhắn riêng tư trên Mac và giải thích của Meta về cài đặt quyền. Trong thử nghiệm mới, những người thuộc Signal và AI Now Institute đã tái hiện đường truy cập; Apple cũng phát hành bản cập nhật hạn chế việc sử dụng công cụ trợ năng trên Mac.
Comment 0