Tốc độ phát triển AI: Zuckerberg, Huang ủng hộ song hành; Amodei đề xuất giảm tốc

Mark Zuckerberg (Mark Zuckerberg), CEO Meta(META), và Jensen Huang (Jensen Huang), nhà sáng lập kiêm CEO Nvidia(NVDA), bác bỏ đề xuất giảm tốc độ phát triển trên toàn ngành trí tuệ nhân tạo (AI). Trong khi đó, CEO Anthropic Dario Amodei (Dario Amodei) cho rằng ngành cần điều chỉnh tốc độ chung để nghiên cứu an toàn có thời gian bắt kịp.

Ngày 15 tháng 9, Zuckerberg viết trên mạng xã hội rằng mọi phòng nghiên cứu có trách nhiệm và động lực để vận hành ở tốc độ cần thiết nhằm đào tạo mô hình an toàn, đồng thời có khả năng tự triển khai các biện pháp phù hợp. Quan điểm này cho rằng mỗi doanh nghiệp có thể tự đánh giá tiêu chuẩn an toàn và tốc độ phát triển.

Zuckerberg nhận định người dùng sẽ không lựa chọn các AI agent không phù hợp với họ hoặc không thể thực hiện yêu cầu. Theo lập luận này, các sản phẩm có mức độ an toàn và khả năng điều chỉnh tốt hơn sẽ được người dùng lựa chọn, tạo động lực kinh tế để doanh nghiệp tăng cường biện pháp an toàn.

Khả năng phát sinh trách nhiệm pháp lý cũng được đưa ra như một động lực để từng doanh nghiệp tăng cường an toàn. Nếu sản phẩm AI gây thiệt hại cho người dùng, doanh nghiệp có thể phải chịu trách nhiệm, vì vậy mỗi công ty vẫn có thể quản lý an toàn ngay cả khi toàn ngành chưa đạt được đồng thuận.

Zuckerberg cho biết Meta đã trì hoãn việc ra mắt AI agent cá nhân Muse trong vài tháng để tiến hành đánh giá an toàn và bảo mật. Khi công bố Muse ngày 8 tháng 9, Meta cho biết agent này được vận hành trong máy ảo chuyên dụng, trong khi một agent Sentinel riêng biệt sẽ phê duyệt quyền truy cập internet.

Muse yêu cầu người dùng phê duyệt trước khi thực hiện các tác vụ nhạy cảm như gửi email hoặc mua hàng. Người dùng có thể quyết định ứng dụng kết nối và phạm vi quyền hạn, đồng thời kiểm tra trong nhật ký kiểm toán những tác vụ agent đã thực hiện hoặc dự kiến thực hiện.

Meta dự kiến cuối năm nay cũng triển khai 'Confidential VM', trong đó chỉ người dùng nắm giữ khóa mã hóa. Đây được xem là ví dụ cho việc các biện pháp kiểm chứng an toàn riêng của doanh nghiệp được phản ánh trong thiết kế sản phẩm.

Zuckerberg đề xuất sử dụng các bên đánh giá độc lập và hội đồng cố vấn như một thông lệ tốt, thay vì đồng loạt giảm tốc độ trên toàn ngành. Bộ phận AI của Meta đang sử dụng bên đánh giá độc lập trong một số lĩnh vực, và các doanh nghiệp khác cũng có thể áp dụng cách tiếp cận tương tự. Điều này mở rộng lập luận về tự điều chỉnh của từng doanh nghiệp trong phát biểu trước đây của Zuckerberg về đánh giá độc lập.

Huang cũng không xem tốc độ phát triển và an toàn là hai lựa chọn loại trừ lẫn nhau. Tại sự kiện Dreamforce của Salesforce ngày 15 tháng 9, ông nói: “Đổi mới, tốc độ và sản phẩm an toàn không phải là những lựa chọn loại trừ lẫn nhau”, đồng thời kêu gọi “chạy nhanh nhất có thể”.

Huang nói thêm rằng doanh nghiệp phải dừng lại để khắc phục nếu nhận thấy mình mất quyền kiểm soát hoặc sản phẩm không an toàn. Ông xem an toàn là một vấn đề cần được giải quyết bằng kỹ thuật, thay vì là khái niệm đối lập với tốc độ phát triển.

Ngược lại, trong bài viết đăng trên trang cá nhân ngày 12 tháng 9, Amodei cho rằng cần làm chậm tốc độ nâng cao năng lực của các mô hình AI để nghiên cứu an toàn có thời gian bắt kịp. Ông đề xuất kế hoạch ba giai đoạn nhằm điều chỉnh tốc độ của AI tiên tiến, thay vì dừng hoàn toàn hoạt động phát triển.

Amodei phân biệt giữa các biện pháp an toàn riêng trong từng doanh nghiệp và một cơ chế phối hợp có thể kiểm chứng trên toàn ngành. Ông lo ngại việc mỗi công ty tự xây dựng biện pháp bảo vệ có thể không đủ để ngăn chặn 'cuộc đua hạ thấp tiêu chuẩn an toàn' do áp lực cạnh tranh.

Anthropic cho biết sẽ cung cấp quyền truy cập hệ thống cho các bên đánh giá độc lập, nhưng chưa xác nhận liệu một cơ chế phối hợp chung có sự tham gia của toàn ngành đã được thiết lập hay chưa. Amodei đề xuất chính phủ và doanh nghiệp hợp tác xây dựng các tiêu chuẩn an toàn chung cùng cơ chế kiểm chứng bên ngoài.

Tranh luận này cho thấy sự khác biệt trong quan điểm của ngành về tốc độ phát triển và an toàn AI. Zuckerberg nhấn mạnh các biện pháp an toàn riêng của doanh nghiệp và cạnh tranh thị trường, Huang đề cao việc theo đuổi tốc độ song hành với an toàn, còn Amodei tập trung vào điều chỉnh tốc độ chung và kiểm chứng bên ngoài.

Khi AI agent bắt đầu thực hiện các hành động thực tế như gửi email và mua hàng, tầm quan trọng của việc cấp quyền và lưu nhật ký kiểm toán cũng tăng lên. Trong lúc thảo luận về biện pháp an toàn riêng của doanh nghiệp và kiểm soát AI agent tiếp diễn, sự chú ý sẽ tập trung vào việc liệu ngành có xây dựng được tiêu chuẩn chung hay không.