404 Media: OpenAI thuê hàng trăm cộng tác viên kiểm tra hội thoại ChatGPT

Có thông tin cho biết OpenAI(OpenAI) đã để các cộng tác viên bên ngoài đọc hội thoại thực tế của người dùng ChatGPT(ChatGPT) và đánh giá chất lượng câu trả lời. Các cộng tác viên đã xem xét câu hỏi (prompt) của người dùng và câu trả lời của ChatGPT, trong khi cách thức thông báo về quyền riêng tư trở thành vấn đề gây tranh cãi.

404 Media(404 Media) đưa tin ngày 14, dựa trên tài liệu hướng dẫn nội bộ, kênh Slack và các prompt thực tế của người dùng, rằng OpenAI đã tuyển dụng hàng trăm cộng tác viên thông qua dự án mang tên 'Project Lily'. Theo đó, các cộng tác viên tóm tắt ý định câu hỏi của người dùng, sau đó đọc nhiều phiên bản câu trả lời do ChatGPT tạo ra và chấm điểm chất lượng theo thang từ 1 đến 7.

Các hạng mục đánh giá còn bao gồm cả việc giảm hiện tượng ChatGPT thể hiện thái độ quá giống con người hoặc đồng tình quá mức với người dùng. Tuy nhiên, dự án này nhắm vào mô hình cụ thể nào thì không được công bố.

Các cộng tác viên được cho là đã được tuyển dụng thông qua Crossing Hurdles và Mercor. Một người lao động mà 404 Media liên hệ cho biết nhận được hơn 50 USD mỗi giờ, nhưng tổng số cộng tác viên và cơ cấu thù lao không được công bố.

OpenAI giải thích rằng trước khi hội thoại được chuyển tới cộng tác viên, công ty áp dụng Privacy Filter để phát hiện và xóa các thông tin cá nhân như tên, địa chỉ, email, số điện thoại, số tài khoản. Privacy Filter không phải là công cụ có thể thay thế các công cụ ẩn danh hóa dữ liệu cá nhân hay chứng nhận tuân thủ quy định.

Trong phần giải thích chính thức về Privacy Filter, OpenAI cho biết công cụ này có thể bỏ sót những định danh hiếm gặp hoặc thông tin cá nhân mơ hồ. Công ty cũng bổ sung rằng trong các lĩnh vực nhạy cảm như pháp lý, y tế, tài chính, vẫn cần có sự xem xét của con người và đánh giá riêng.

Ngay cả khi tên hoặc thông tin tài khoản đã bị xóa, vẫn còn khả năng suy đoán được danh tính người dùng chỉ dựa vào ngữ cảnh hội thoại. Bởi lẽ khi kết hợp nhiều thông tin như nghề nghiệp, nơi cư trú, diễn biến sự việc, quan hệ gia đình, có thể xác định được một cá nhân cụ thể.

OpenAI trước đây đã công khai rằng công ty sử dụng cả hệ thống tự động lẫn con người để xem xét, nhằm xác nhận tính an toàn của dịch vụ và việc có vi phạm điều khoản hay không. Tuy nhiên, quy trình xác nhận nội dung vi phạm an toàn và việc cộng tác viên xem xét để cải thiện giọng điệu, độ chính xác và xu hướng đồng tình của mô hình là hai mục đích khác nhau.

404 Media đã hỏi OpenAI liệu công ty có thông báo rõ ràng cho người dùng về khả năng prompt của họ bị con người xem xét hay không, nhưng OpenAI không trả lời trực tiếp câu hỏi này. Vấn đề cốt lõi mà bài báo đặt ra không phải là sự tồn tại của việc con người xem xét, mà là phạm vi và cách thức thông báo về việc đó.

Người dùng cá nhân có thể tắt tùy chọn 'Improve the model for everyone' trong cài đặt để các cuộc hội thoại mới không được sử dụng cho việc cải thiện mô hình. Theo hướng dẫn quản lý dữ liệu của OpenAI, Temporary Chat không được dùng để cải thiện mô hình và sẽ bị xóa sau 30 ngày, nhưng vẫn còn khả năng bị xem xét ở phạm vi giới hạn vì mục đích an toàn.

Việc tắt tùy chọn 'Improve the model for everyone' có được áp dụng hồi tố cho các cuộc hội thoại trước đó hay không cần được xác nhận riêng. 404 Media đưa tin rằng cài đặt này không được áp dụng hồi tố cho các cuộc hội thoại cũ, còn phần trợ giúp của OpenAI chỉ giải thích nguyên tắc xử lý đối với các cuộc hội thoại mới sau khi thay đổi cài đặt.

Đối với các tài khoản doanh nghiệp như ChatGPT Business, Enterprise, Edu, về cơ bản hội thoại không được sử dụng để huấn luyện mô hình. Trong hướng dẫn về quyền riêng tư dành cho doanh nghiệp, OpenAI giải thích rằng vì mục đích an toàn, điều tra hành vi lạm dụng và tuân thủ pháp lý, nhân viên được ủy quyền hoặc cộng tác viên bên ngoài chuyên trách có thể truy cập hội thoại trong phạm vi giới hạn.

Michal Luria(Michal Luria), nhà nghiên cứu tại Trung tâm Dân chủ và Công nghệ, đánh giá rằng việc con người xem xét có thể cần thiết để cải thiện các hành vi phức tạp của chatbot, nhưng đồng thời chỉ ra rằng giao diện dạng hội thoại có thể khiến người dùng có cảm giác về một không gian riêng tư mạnh hơn thực tế. Điều này cho thấy có khoảng cách giữa nhu cầu xem xét và kỳ vọng của người dùng.

Giáo sư Sarah T. Roberts(Sarah T. Roberts) của UCLA đánh giá rằng vai trò của người xem xét trong các dịch vụ AI đang bị đánh giá thấp. Trong khi đó, người dùng Reddit chỉ trích những hạn chế của bộ lọc thông tin cá nhân và việc thiếu thông báo trước về việc cộng tác viên xem xét, nhưng phản ứng từ cộng đồng không thể xem là bằng chứng thực tế độc lập.

Bài báo lần này nhấn mạnh không phải chính sách vốn có rằng hội thoại ChatGPT có thể được sử dụng để cải thiện mô hình, mà là việc con người thực tế đọc hội thoại của người dùng ở phạm vi nào và việc đó được thông báo rõ ràng đến mức nào cho người dùng. Người dùng cần kiểm tra riêng biệt điều kiện xử lý đối với hội thoại mới và hội thoại cũ tùy theo loại tài khoản và cài đặt dữ liệu của mình.