OpenAI thử nghiệm hệ thống kiểm tra an toàn không lưu dữ liệu doanh nghiệp

OpenAI vừa thử nghiệm một cơ chế an toàn mới cho phép phát hiện các dấu hiệu lạm dụng xuyên suốt nhiều cuộc hội thoại mà không lưu trữ dữ liệu của khách hàng doanh nghiệp. Đây là dấu hiệu cho thấy cuộc đua giữa các mô hình trí tuệ nhân tạo (AI) hiệu năng cao không chỉ dừng ở tốc độ hay độ chính xác, mà còn mở rộng sang cách bảo vệ dữ liệu doanh nghiệp.

Theo TechCrunch đưa tin, OpenAI đã công bố sớm hệ thống mang tên Private Safety Processing cho một số khách hàng doanh nghiệp và khách hàng sử dụng API. Hệ thống này được thiết kế để tự động rà soát nội dung đầu vào và đầu ra trải dài trên nhiều cuộc hội thoại, nhưng không lưu giữ dữ liệu của khách hàng.

Điểm mấu chốt nằm ở phạm vi áp dụng chính sách không lưu dữ liệu (Zero Data Retention - ZDR). Trước đây, OpenAI chỉ kiểm tra hành vi lạm dụng theo từng phiên làm việc riêng lẻ trên API. Còn hệ thống mới sẽ phân tích các mẫu hành vi xuất hiện xuyên suốt nhiều phiên, thay vì chỉ trong một cuộc trò chuyện đơn lẻ.

OpenAI đưa ra ví dụ về trường hợp người dùng có ý đồ xấu chia nhỏ yêu cầu viết mã độc phục vụ tấn công mạng thành nhiều đoạn hội thoại khác nhau để tránh bị phát hiện. Private Safety Processing được xây dựng để tự động nhận diện dấu hiệu lạm dụng ngay cả khi các yêu cầu này bị phân tán trên nhiều phiên làm việc.

Công ty cho biết khi hệ thống phát hiện tín hiệu rủi ro cụ thể, chỉ những tín hiệu được xác định hẹp mới được chuyển đến công ty, chứ không phải toàn bộ nội dung hội thoại. Trong một số trường hợp cần thiết, OpenAI có thể yêu cầu khách hàng cung cấp thêm bối cảnh, nhưng khẳng định đây không phải là quy trình con người trực tiếp đọc nội dung trò chuyện của khách hàng.

Chính sách không lưu dữ liệu (ZDR) nghĩa là dữ liệu đầu vào và đầu ra của khách hàng sẽ không được công ty giữ lại sau khi hoàn tất dịch vụ. Đối với AI phục vụ doanh nghiệp, không chỉ hiệu năng mô hình mà cả việc dữ liệu được lưu ở đâu, có khả năng bị con người xem lại hay không, và nhật ký kiểm toán được quản lý như thế nào cũng là những điều khoản quan trọng trong hợp đồng.

Động thái thử nghiệm này diễn ra song song với chính sách lưu trữ dữ liệu của Anthropic áp dụng cho các mô hình hiệu năng cao. Trong hướng dẫn về quyền riêng tư, Anthropic xếp dòng mô hình Claude Opus và các mô hình tương lai có hiệu năng tương đương vào nhóm mô hình được bao phủ (covered models), đồng thời cho biết có thể lưu trữ prompt và kết quả đầu ra của các mô hình này trong vòng 30 ngày.

Anthropic công bố chính sách này vào tháng 7, với lý do một số hành vi lạm dụng chỉ có thể bị phát hiện khi xem xét đồng thời nhiều yêu cầu khác nhau.

Anthropic giải thích rằng khi hệ thống an toàn tự động đánh dấu nội dung có khả năng gây hại, một nhóm nhỏ người xét duyệt được cấp quyền hạn chế mới có thể xem nội dung đó thông qua một quy trình được kiểm soát chặt chẽ. Công ty khẳng định mọi lượt truy cập đều được ghi lại trong nhật ký không thể chỉnh sửa.

Sự khác biệt giữa hai cách tiếp cận này là vấn đề nhạy cảm đối với các doanh nghiệp hoạt động trong lĩnh vực tài chính, y tế, pháp lý và an ninh. Những doanh nghiệp này đặc biệt quan tâm đến việc dữ liệu họ nhập vào mô hình AI còn tồn tại bên ngoài công ty bao lâu, và ai có thể xem được dữ liệu trong quá trình kiểm tra an toàn.

Trong phần giải thích về bảo vệ dữ liệu doanh nghiệp, OpenAI cũng khẳng định dữ liệu của tổ chức khách hàng về nguyên tắc không được sử dụng để huấn luyện mô hình. Công ty cho biết thêm rằng các tổ chức đủ điều kiện có thể lựa chọn áp dụng chính sách không lưu dữ liệu (ZDR) khi sử dụng API.

Cuộc đua về an toàn AI cũng là bối cảnh phía sau động thái này. Khi các mô hình hiệu năng cao ngày càng có khả năng viết mã, phân tích an ninh mạng và thực hiện các tác vụ dài hơi, việc chỉ dựa vào một cuộc hội thoại đơn lẻ để phát hiện hành vi lạm dụng trở nên khó khăn hơn. TokenPost từng đưa tin về xu hướng OpenAI và Anthropic giới hạn phạm vi tiếp cận với các mô hình AI hiệu năng cao.

Diễn biến lần này nối tiếp xu hướng giới hạn quyền truy cập trước đó, khi việc lưu trữ dữ liệu khách hàng hay không đang trở thành một tiêu chí so sánh mới trong cuộc cạnh tranh AI phục vụ doanh nghiệp. Thông thường, khi cân nhắc triển khai AI, doanh nghiệp sẽ xem xét đồng thời hiệu năng, chi phí, các biện pháp kiểm soát bảo mật và điều kiện lưu trữ dữ liệu.

Hệ thống mới của OpenAI hiện mới chỉ được công bố sớm cho một số khách hàng doanh nghiệp và khách hàng sử dụng API, chứ chưa áp dụng cho người dùng ChatGPT cá nhân. Thời điểm triển khai chính thức cũng như phạm vi mô hình được áp dụng vẫn chưa được công bố.