Chris Hughes đề xuất cơ quan giám sát AI đặt quan chức chính phủ thường trú

Chris Hughes đề xuất thành lập 'Cơ quan Giám sát AI' (Office of AI Supervision), với các quan chức chính phủ thường trú tại những phòng nghiên cứu AI lớn như OpenAI, Anthropic và Google DeepMind. Theo đề xuất, các nhóm giám sát sẽ được bố trí bên trong phòng nghiên cứu để theo dõi quá trình phát triển mô hình trí tuệ nhân tạo theo thời gian thực.

Crypto Briefing đưa tin đề xuất của Hughes được trình bày trong một bài viết đăng trên Financial Times (FT). Theo kế hoạch này, nhóm giám sát sẽ được cử trực tiếp đến từng phòng nghiên cứu và thay đổi nhân sự mỗi 3 năm.

Việc luân chuyển định kỳ nhằm ngăn 'bắt giữ cơ quan quản lý', tức tình trạng quan hệ gắn bó lâu dài giữa quan chức giám sát và doanh nghiệp dẫn đến xung đột lợi ích. Tuy nhiên, Cơ quan Giám sát AI chưa phải là một cơ quan chính phủ đã được thành lập, đồng thời chưa có lịch trình lập pháp hay triển khai cụ thể.

Đề xuất này nhằm áp dụng mô hình kiểm tra thường xuyên trong lĩnh vực tài chính vào ngành AI. Thay vì phụ thuộc vào báo cáo sau sự việc hoặc các cuộc đánh giá một lần, nhân sự chính phủ sẽ được tiếp cận hiện trường phát triển mô hình để kiểm tra rủi ro.

Trong một bài viết công bố vào tháng 2 năm 2025, Hughes cho rằng các mô hình AI lớn có chi phí huấn luyện từ 100 triệu USD (khoảng 135,4 triệu USD) trở lên cần có quy trình an toàn, xác minh của bên thứ ba, cơ chế báo cáo sự cố và 'nút dừng khẩn cấp'. Bài viết khi đó nhấn mạnh rủi ro của các mô hình lớn cần được quản lý từ giai đoạn phát triển, thay vì chỉ sau khi ra mắt.

Đề xuất Cơ quan Giám sát AI có thể được xem là phương án mở rộng, nhằm thành lập riêng tổ chức và nhân sự để thực thi các biện pháp an toàn nói trên. Tuy nhiên, chưa có thông tin xác nhận hai ý tưởng này đã được hợp nhất thành một dự luật.

Liên minh châu Âu đang vận hành AI Office trực thuộc Ủy ban châu Âu. Ủy ban châu Âu cho biết AI Office có thể đánh giá các mô hình AI đa dụng, yêu cầu nhà cung cấp nộp tài liệu và thực hiện biện pháp khắc phục, đồng thời áp dụng chế tài khi có vi phạm.

AI Office có quyền yêu cầu doanh nghiệp cung cấp tài liệu và thực hiện biện pháp nhất định, tương tự các cơ quan giám sát hiện có, nhưng không bố trí quan chức thường trú bên trong doanh nghiệp. Điểm khác biệt trong đề xuất của Hughes là nhấn mạnh khả năng tiếp cận nội bộ và giám sát theo thời gian thực.

Viện An ninh AI Anh Quốc (UK AI Security Institute) cũng đã đánh giá năng lực liên quan đến an ninh quốc gia và an toàn công cộng của các mô hình AI tiên tiến từ tháng 11 năm 2023. Cơ quan này tiến hành thử nghiệm các hệ thống AI tiên phong từ bên ngoài, do các cơ quan chính phủ thực hiện.

Cơ quan này báo cáo rằng các mô hình tiên tiến đang nhanh chóng nâng cao năng lực trong các lĩnh vực mạng, hóa học, sinh học và tự chủ, đồng thời đã phát hiện điểm yếu trong tất cả mô hình được thử nghiệm. Ý tưởng bố trí quan chức giám sát tại nơi phát triển mô hình gắn với quan điểm cần kiểm tra những rủi ro này trong quá trình phát triển, thay vì chờ đến sau khi mô hình được phát hành.

Những người ủng hộ cho rằng áp dụng mô hình kiểm tra thường xuyên của ngành tài chính vào AI có thể giúp phát hiện sớm rủi ro và làm rõ trách nhiệm. Ngược lại, cũng có ý kiến cho rằng khó áp dụng nguyên trạng mô hình giám sát tài chính vì cấu trúc AI phức tạp và tốc độ cập nhật nhanh.

Đề xuất chưa nêu cụ thể cơ quan giám sát sẽ thuộc về đơn vị nào, có quyền hạn pháp lý và ngân sách ra sao, tiêu chuẩn tuyển dụng quan chức thế nào, cũng như phạm vi tiếp cận bí mật doanh nghiệp. OpenAI, Anthropic và Google DeepMind chưa công bố lập trường chính thức ủng hộ hoặc phản đối đề xuất này.

Dự luật SB 1047 về an toàn các mô hình AI lớn tại California cho thấy những khó khăn trong thiết kế quy định. Thống đốc California Gavin Newsom(Gavin Newsom) đã phủ quyết dự luật vào năm 2024 và cho rằng dự luật chưa phân biệt đầy đủ môi trường sử dụng thực tế và mức độ rủi ro của các hệ thống AI. AP đưa tin về quyết định phủ quyết khi đó.

Đề xuất Cơ quan Giám sát AI không liên quan trực tiếp đến ngành tài sản số, blockchain hay bán dẫn. Trọng tâm thảo luận hiện nay là liệu có thể bố trí nhân sự chính phủ bên trong các phòng nghiên cứu AI hay không và nên xác định quyền hạn của họ đến mức nào.

Nội dung đầy đủ bài viết trên Financial Times, toàn bộ phát biểu trực tiếp của Hughes và phản hồi chính thức từ các công ty AI lớn chưa được xác nhận công khai. Cơ quan Giám sát AI hiện mới dừng ở giai đoạn đề xuất chính sách, nhấn mạnh khả năng tiếp cận nội bộ doanh nghiệp và giám sát theo thời gian thực.