Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

OpenAI ký với 4 đơn vị đánh giá độc lập, công bố phạm vi tiếp cận

Người đánh giá xem xét mã mô hình trên máy tính xách tay trong khu vực an ninh / TokenPost.ai

OpenAI đã ký hợp đồng với bốn đơn vị đánh giá độc lập để kiểm tra mức độ căn chỉnh và các biện pháp an toàn của mô hình AI. Phạm vi tiếp cận hệ thống nội bộ được xác định theo từng hợp đồng.

Trong thông báo ngày 16 tháng 11, OpenAI cho biết đã ký hợp đồng đánh giá giai đoạn đầu với Apollo Research, METR, Transluce và Goodfire. Trong phạm vi cần thiết cho mỗi đợt đánh giá, các đơn vị có thể tiếp cận checkpoint của mô hình, mã nguồn, dữ liệu huấn luyện và đánh giá, hệ thống giám sát cùng tài liệu kỹ thuật.

Căn chỉnh AI là việc làm cho hệ thống hành xử phù hợp với ý định và giá trị của con người. Công việc này không chỉ tập trung nâng cao năng lực mô hình mà còn xem xét liệu hành vi ngoài ý muốn có xuất hiện trong quá trình huấn luyện hoặc khi mô hình vận hành hay không.

Trong cuộc phỏng vấn với 20VC được đăng ngày 26 tháng 10, CEO Microsoft (MSFT) Satya Nadella cho biết trước đây ông nghĩ việc căn chỉnh sẽ diễn ra tự nhiên khi quy mô mô hình tăng lên, nhưng “có thể là một vấn đề khó hơn và tách biệt hơn”. Nhận xét này cho thấy việc mở rộng mô hình không nhất thiết tự giải quyết được bài toán căn chỉnh.

Trong bài phát biểu khai mạc Microsoft Ignite rạng sáng ngày 18 theo giờ Hàn Quốc, Nadella cũng nói rằng dù các quy luật mở rộng tiếp tục có hiệu lực, việc hiểu rõ căn chỉnh và cách mô hình hoạt động vẫn còn là mục tiêu xa. Ông nhấn mạnh cần có thiết kế tách việc cung cấp trí tuệ khỏi quyền quyết định đối với trí tuệ đó. Nội dung được ghi trong bản chép lời chính thức của Microsoft.

Ngày 23 tháng 9, CEO OpenAI Sam Altman phát biểu trước Hội đồng Bảo an Liên Hợp Quốc rằng “AI càng có năng lực, con người càng phải giữ vị trí trung tâm trong quá trình ra quyết định”. Bài phát biểu do OpenAI công bố nêu nguyên tắc không giao phó phán đoán và quyền kiểm soát của con người cho các hệ thống AI.

Altman cũng nói những quyết định quan trọng không nên chỉ do các phòng nghiên cứu của doanh nghiệp đưa ra, mà cần có quy trình dân chủ chịu trách nhiệm trước chính phủ. Ông đề xuất các tiêu chuẩn chung trong nước và quốc tế để đánh giá năng lực, rủi ro, biện pháp an toàn của AI và duy trì sự giám sát của con người.

TokenPost từng đưa tin về thư ngỏ của AI Evaluator Forum kêu gọi bảo đảm tính độc lập và quyền tiếp cận của các đơn vị đánh giá. Khi đó, OpenAI chưa công bố những đơn vị nào sẽ được chọn hoặc phạm vi tiếp cận ra sao. Thông báo lần này nêu tên các bên tham gia hợp đồng đầu tiên và phạm vi đánh giá.

Trong thư ngỏ công bố ngày 18 tháng 9, AI Evaluator Forum kêu gọi bảo đảm quyền biên tập và độc lập tài chính cho người đánh giá, có nhiều đơn vị tham gia, ngăn hành vi trả đũa và cấp đủ quyền tiếp cận nội bộ. Hơn 200 người đã ký thư. Văn bản cũng đề xuất cho phép công bố kết quả và căn cứ đánh giá, đồng thời áp dụng quy trình xóa thông tin nhạy cảm có thời hạn xác định.

Nhiệm vụ của từng đơn vị khác nhau. Apollo Research xem xét khả năng mô hình che giấu hành vi trái với ý định của nhà phát triển và liệu biện pháp an toàn có phát hiện được hành vi đó hay không. METR đánh giá đợt huấn luyện tăng cường lớn nhất của OpenAI để tìm các vấn đề căn chỉnh mà những bài kiểm tra và hệ thống giám sát hiện có có thể bỏ sót.

Transluce kiểm tra chất lượng và phạm vi đánh giá căn chỉnh sau huấn luyện. Goodfire đưa các nhà nghiên cứu về khả năng diễn giải vào phân tích bên trong mô hình, đồng thời tham gia giám sát và gỡ lỗi quá trình huấn luyện cũng như đánh giá căn chỉnh.

Phạm vi tiếp cận và nguồn lực cho từng đợt đánh giá được thống nhất trước. Nếu việc tiếp cận trực tiếp trọng số hoặc cấu trúc mô hình nhạy cảm có nguy cơ làm lộ sở hữu trí tuệ, các bên có thể xem xét phương án phân tích cùng nhà nghiên cứu của OpenAI.

Người đánh giá xử lý tài liệu mật sẽ làm việc tại văn phòng OpenAI bằng thiết bị của công ty; các thử nghiệm áp dụng cùng tiêu chuẩn an ninh như đối với nhân viên OpenAI. Công ty cho biết ủy ban giám sát độc lập thuộc hội đồng quỹ sẽ theo dõi toàn bộ quá trình và kết quả đánh giá, đồng thời nhận báo cáo chưa qua chỉnh sửa.

OpenAI cũng công bố điều kiện thù lao. Apollo Research và Goodfire nhận tiền, nhưng khoản này không phụ thuộc vào kết quả đánh giá. METR và Transluce không nhận thù lao bằng tiền, song có thể được cấp tín dụng API hoặc tài nguyên điện toán phục vụ đánh giá.

OpenAI cho biết các đơn vị có thể tự công bố kết quả. Tuy nhiên, công ty giữ quyền xóa thông tin mật và có thể đề nghị trì hoãn công bố nếu cần thời gian xử lý rủi ro an toàn hoặc an ninh. OpenAI và Transluce cho biết dự định thực hiện đợt đánh giá tiếp theo kéo dài khoảng tám tuần vào đầu năm 2027, tập trung xem xét quyền tiếp cận các mô hình bổ sung và cách kết quả đánh giá được tính đến trong quyết định phát hành.

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1