OpenAI đề xuất tiêu chuẩn an toàn AI quốc tế với RSI và báo cáo sự cố

OpenAI đã đề xuất xây dựng các tiêu chuẩn an toàn trí tuệ nhân tạo (AI) quốc tế, bao gồm đo lường khả năng tự cải thiện đệ quy (RSI), báo cáo sự cố AI và giám sát của con người. Mục tiêu là để các quốc gia cùng áp dụng hệ thống đánh giá và báo cáo chung nhằm ứng phó với những rủi ro AI vượt qua biên giới.

Trong đề xuất chính sách công bố ngày 21, OpenAI cho biết hoạt động phát triển AI đang lan rộng giữa nhiều doanh nghiệp và quốc gia, vì vậy cần hài hòa các tiêu chuẩn đánh giá và báo cáo. Nếu tiêu chuẩn giữa các nước khác nhau, việc so sánh rủi ro của cùng một hệ thống AI và phối hợp ứng phó sự cố sẽ trở nên khó khăn.

Chủ đề thảo luận đầu tiên là khả năng tự cải thiện đệ quy (RSI), chỉ tình huống AI tham gia vào quá trình phát triển các thế hệ AI tiếp theo, qua đó giảm sự can thiệp của con người. OpenAI cho rằng cần có tiêu chuẩn để đo lường mức độ giám sát cần thiết của con người trong nghiên cứu AI tự động hóa và xác định những trường hợp cần được xem xét ngay lập tức.

OpenAI cho biết quá trình tự cải thiện đệ quy hoàn toàn tự chủ hiện chưa diễn ra và không nên theo đuổi cho đến khi có thể thực hiện một cách an toàn. Quan điểm này phản ánh lo ngại tốc độ phát triển AI có thể vượt qua khả năng hiểu và kiểm soát của con người.

Lĩnh vực trọng tâm thứ hai là phân loại và báo cáo sự cố. OpenAI đề xuất cùng phân loại, theo dõi và báo cáo các sự cố phát sinh từ thất bại trong việc căn chỉnh AI và quá trình nghiên cứu AI tự động hóa, đồng thời thống nhất mức độ nghiêm trọng và tiêu chuẩn báo cáo.

Hệ thống báo cáo sai lệch mô hình mà OpenAI công bố ngày 16 cũng bao quát các vấn đề phát sinh trong quá trình huấn luyện, đánh giá, thử nghiệm và triển khai mô hình. Các trường hợp công khai sẽ ghi nhận hành vi, mức độ nghiêm trọng, tác động bên ngoài, thời điểm xảy ra và phạm vi điều tra. Hệ thống cũng cho phép báo cáo khi cần thiết, ngay cả khi vấn đề chưa được giải quyết hoàn toàn.

Trụ cột thứ ba là cơ chế hợp tác quốc tế. OpenAI đề xuất tận dụng Mạng lưới quốc tế về đo lường, đánh giá và khoa học AI do Trung tâm Tiêu chuẩn và Đổi mới AI (CAISI) thuộc Mỹ thành lập năm 2024. Cơ chế này sẽ hợp tác với các cơ quan an toàn AI của Mỹ, Anh, Đức, Pháp, Nhật Bản, Hàn Quốc, Singapore và Ấn Độ.

Đề xuất này cũng liên quan đến một tài liệu chính sách riêng được OpenAI công bố ngày 9. Khi đó, OpenAI cho rằng Quốc hội Mỹ cần xây dựng quy định an toàn AI quốc gia bắt buộc dựa trên năng lực, đồng thời tiêu chuẩn của Mỹ nên tạo nền tảng dẫn dắt các tiêu chuẩn quốc tế.

Tuy nhiên, đề xuất lần này không phải là dự thảo luật cụ thể hay dự thảo hiệp ước quốc tế. Văn bản cũng không quy định việc cấp phép phát hành mô hình AI hoặc thẩm định bắt buộc trước khi phát hành. Cách thức mỗi chính phủ đưa tiêu chuẩn quốc tế vào hệ thống pháp luật trong nước sẽ do từng quốc gia quyết định.

OpenAI cho biết các tiêu chuẩn chung không nên vận hành theo hướng có lợi cho một doanh nghiệp, quốc gia hay mô hình kinh doanh cụ thể. Theo OpenAI, tiêu chuẩn cũng không nên cản trở cạnh tranh của các doanh nghiệp mới và nhà phát triển mô hình mở.

Liên minh châu Âu yêu cầu các nhà cung cấp mô hình AI đa dụng có rủi ro hệ thống phải theo dõi, lập hồ sơ và báo cáo các sự cố nghiêm trọng cho cơ quan liên quan. Ủy ban châu Âu đã công bố biểu mẫu báo cáo sự cố nghiêm trọng theo Điều 55 của Đạo luật AI, qua đó cụ thể hóa các nghĩa vụ liên quan.

Vì vậy, ý tưởng của OpenAI vừa có thể được xem là đề xuất xây dựng tiêu chuẩn mới lấy Mỹ làm trung tâm, vừa có thể mở rộng thành cuộc thảo luận về khả năng tương thích giữa hệ thống quản lý của Mỹ và châu Âu. Tuy nhiên, cơ quan nào sẽ dẫn dắt tiêu chuẩn quốc tế và liệu các quốc gia có chấp nhận cùng một tiêu chuẩn hay không vẫn chưa được quyết định.

Trong ngành AI, thảo luận về nhu cầu có tiêu chuẩn an toàn chung và đánh giá độc lập cũng đang tiếp diễn. Hãng tin AP cho biết các đại diện của những công ty AI lớn, trong đó có OpenAI và Anthropic, đang thảo luận chung về tiêu chuẩn an toàn và việc điều chỉnh tốc độ phát triển.

Ở chiều ngược lại, có ý kiến cho rằng các tiêu chuẩn do doanh nghiệp đưa ra phải được một cơ quan độc lập kiểm chứng. Một số người dùng mạng xã hội chỉ trích OpenAI vừa kêu gọi quản lý vừa muốn tác động đến quá trình thiết kế tiêu chuẩn. Một số ý kiến khác cho rằng quy định có lợi cho các doanh nghiệp lớn có thể gây khó khăn cho đối thủ mới gia nhập. Đây là phản ứng của người dùng mạng xã hội và chưa được xác nhận như một sự thật độc lập.

Cuộc thảo luận về tiêu chuẩn an toàn AI quốc tế nối tiếp định hướng chính sách của OpenAI, vốn nhiều lần kêu gọi xây dựng tiêu chuẩn an toàn AI ở cấp quốc gia. Định hướng yêu cầu các biện pháp bảo vệ như kiểm toán độc lập và báo cáo sự cố an toàn nghiêm trọng đang được mở rộng sang thảo luận về tiêu chuẩn quốc tế.

Đối với các doanh nghiệp trong nước, quy trình phát triển, đánh giá và báo cáo sự cố của mô hình AI có thể chịu ảnh hưởng nếu các tiêu chuẩn quốc tế hoặc quy định của từng quốc gia được áp dụng trong tương lai. Việc xác minh mô hình AI và an ninh mạng cũng liên quan đến hạ tầng tài chính, sàn giao dịch và ví, nhưng đề xuất lần này chưa tác động trực tiếp đến giá tài sản số hay thị trường giao dịch.

Đề xuất của OpenAI hiện là một định hướng chính sách, chưa phải tiêu chuẩn chính thức được chính phủ Mỹ hay tổ chức quốc tế thông qua. Vấn đề còn lại là liệu các chính phủ và cơ quan đánh giá độc lập có đưa hệ thống đo lường và báo cáo được đề xuất vào quy định và tiêu chuẩn thực tế hay không.