Jensen Huang: Chỉ nên quản lý AI dựa trên thiệt hại thực tế, OpenAI yêu cầu đánh giá độc lập

Jensen Huang, nhà sáng lập kiêm CEO Nvidia($NVDA), cho rằng quy định về trí tuệ nhân tạo (AI) nên dựa trên thiệt hại thực tế thay vì những rủi ro giả định. OpenAI và Anthropic đưa ra hướng tiếp cận khác khi yêu cầu đánh giá an toàn độc lập và các tiêu chuẩn an toàn bắt buộc.

Jensen Huang phát biểu tại Hội nghị Bộ trưởng Đổi mới G20 ở Chapel Hill, bang North Carolina, Mỹ, ngày 2 tháng 9: “Không nên quản lý những thiệt hại giả định hay mang tính lý thuyết, mà nên quản lý những thiệt hại thực tế và hiện hữu”. Video và bản chép lời phát biểu cũng xác nhận nội dung tương tự.

Ông Huang nhấn mạnh rằng rủi ro lớn nhất là các quốc gia bị tụt lại trong việc ứng dụng AI. Theo quan điểm này, thay vì áp dụng quy định phòng ngừa toàn diện có thể làm chậm tốc độ phát triển AI, các cơ quan quản lý nên xử lý những lĩnh vực đã xác định có thiệt hại để vừa duy trì đổi mới vừa bảo đảm an toàn.

Cách tiếp cận này có thể được mô tả là 'quản lý nhẹ tay', tập trung xử lý vấn đề thực tế sau khi phát sinh thay vì áp dụng quy định trên diện rộng trước khi rủi ro xuất hiện. Trọng tâm tranh luận nằm ở việc mở rộng phạm vi quản lý từ đầu hay chỉ phản ứng có giới hạn sau khi thiệt hại xảy ra.

Nhà Trắng đã nêu 'khung chính sách thúc đẩy đổi mới' và việc triển khai công nghệ đáng tin cậy là những nguyên tắc chủ chốt trong tuyên bố chung của Hội nghị Bộ trưởng Đổi mới G20. Tuyên bố đề cập khả năng công nghệ mới nổi cải thiện năng suất và mở rộng cơ hội, cùng các nguyên tắc về tiêu chuẩn AI và đầu tư vào chuỗi cung ứng.

Nvidia cung cấp GPU và hạ tầng điện toán tăng tốc cho các công ty phát triển mô hình AI và các nhà vận hành trung tâm dữ liệu. Nếu quy định được áp dụng cho việc phát hành mô hình AI hoặc xây dựng trung tâm dữ liệu, lịch đầu tư của khách hàng có thể bị ảnh hưởng. Tuy nhiên, chưa thể xác định quy mô và thời điểm tác động thực tế chỉ từ phát biểu này.

Trong tranh luận về quản lý AI, quản lý phòng ngừa là cách đưa cả những rủi ro chưa xảy ra vào diện kiểm soát. Ngược lại, quản lý dựa trên thiệt hại thực tế tập trung ứng phó với thiệt hại và hành vi vi phạm đã được xác nhận.

Ngày 9 tháng 9, OpenAI cho biết sẽ thúc đẩy cùng Quốc hội việc xây dựng các quy định an toàn AI bắt buộc ở cấp quốc gia, được áp dụng tùy theo năng lực của hệ thống. Đề xuất chính sách của OpenAI yêu cầu các tiêu chuẩn bắt buộc ở cấp quốc gia, bao gồm đánh giá an toàn độc lập và các biện pháp bảo vệ theo từng lĩnh vực rủi ro cao.

Đề xuất của OpenAI cho rằng tiêu chuẩn an toàn cần được áp dụng theo cấp độ khi năng lực của mô hình AI tăng lên. Quan điểm này cho thấy chỉ ứng phó sau khi rủi ro trở thành hiện thực có thể là chưa đủ.

Dario Amodei, đồng sáng lập kiêm CEO Anthropic, cũng cho rằng các nhà đánh giá bên ngoài cần được tiếp cận liên tục với những mô hình AI tiên tiến nhất. AP đưa tin Amodei nói tốc độ phát triển AI cần được làm chậm lại để có thêm thời gian triển khai các biện pháp an toàn.

Nhà đánh giá độc lập là chủ thể kiểm tra an toàn mô hình từ bên ngoài, tách biệt với quy trình đánh giá nội bộ của doanh nghiệp. OpenAI và Anthropic nhấn mạnh cơ chế xác minh bên ngoài cùng các biện pháp an toàn có sự tham gia của chính phủ.

Phát biểu của Huang đặt trọng tâm vào tốc độ đổi mới và quyền tự chủ của thị trường AI. Trong khi đó, OpenAI và Anthropic nghiêng về việc áp dụng tiêu chuẩn an toàn trước khi triển khai và đánh giá độc lập đối với các mô hình có rủi ro cao.

Nvidia trước đây đã mô tả các trung tâm dữ liệu AI và nhà máy AI là hạ tầng sản xuất. Đây là bối cảnh khiến tranh luận về quản lý AI có thể mở rộng từ phát triển mô hình sang hạ tầng điện toán và đầu tư chuỗi cung ứng.

Đề xuất hướng dẫn chia sẻ sự cố của Open Secure AI Alliance, với sự tham gia của Nvidia, cũng phản ánh quan điểm rằng không thể chỉ giao trách nhiệm bảo đảm an toàn AI cho từng doanh nghiệp. Tuy nhiên, cơ chế chia sẻ sự cố và nghĩa vụ đánh giá độc lập trước khi phát hành mô hình là hai vấn đề có phạm vi áp dụng khác nhau.

Vấn đề hiện nay là tiêu chuẩn quản lý AI sẽ chỉ dựa trên 'thiệt hại đã xảy ra' hay bao gồm cả 'rủi ro có thể xảy ra'.