Tốc độ phát triển AI: Nvidia và Anthropic đưa ra hai hướng tiếp cận khác nhau

Jensen Huang (Jensen Huang), CEO Nvidia($NVDA), và Dario Amodei (Dario Amodei), CEO Anthropic, đã đưa ra hai cách tiếp cận khác nhau về tốc độ phát triển trí tuệ nhân tạo (AI) và bảo đảm an toàn. Ông Huang cho rằng cần thúc đẩy phát triển nhanh song song với các biện pháp an toàn, trong khi ông Amodei nhấn mạnh cần có thêm thời gian để nghiên cứu an toàn và xây dựng năng lực kiểm soát.

Ông Huang phát biểu ngày 15 tại sự kiện thường niên Dreamforce của Salesforce($CRM) ở San Francisco, Mỹ: “Cho rằng phải chọn giữa tốc độ và an toàn là một lựa chọn sai lầm”. Theo CNBC, phát biểu này được đưa ra vài ngày sau khi CEO Anthropic công bố một bài luận kêu gọi làm chậm tốc độ phát triển các mô hình AI.

Ông Huang cho biết các công ty AI nên phát triển nhanh nhất có thể, nhưng phải dừng lại để kiểm tra nếu nhận thấy đã mất quyền kiểm soát hoặc sản phẩm không an toàn. Ông cũng cho rằng chưa chắc cần có luật hoặc quy định mới, bởi các lực lượng thị trường hiện đã phát huy tác dụng.

“Hãy chạy nhanh nhất có thể, nhưng ngay khi công ty cảm thấy đã mất quyền kiểm soát hoặc sản phẩm không an toàn, cần dừng lại và kiểm tra đúng cách”, ông Huang nói. Quan điểm này đặt trọng tâm vào trách nhiệm của doanh nghiệp trong việc phát hiện và xử lý rủi ro, thay vì chỉ tập trung vào tốc độ phát triển.

Trong khi đó, ông Amodei lập luận trong bài luận ‘We Must Pace the Frontier’ công bố ngày 12 rằng tốc độ nâng cao năng lực AI có thể vượt trước nghiên cứu an toàn và năng lực kiểm soát. Ông giải thích đề xuất này không nhằm yêu cầu dừng phát triển, mà nhằm tạo đủ thời gian để các biện pháp an toàn và hoạt động đánh giá bắt kịp.

Biện pháp đầu tiên được ông Amodei đề xuất là trao quyền truy cập thường xuyên vào hệ thống và quy trình phát triển của các công ty AI cho các nhóm đánh giá độc lập. Những nhóm này sẽ kiểm tra việc tuân thủ biện pháp an toàn, rà soát sự cố và đánh giá mức độ phù hợp giữa các mô hình đang phát triển với quá trình huấn luyện.

Biện pháp thứ hai là các công ty AI tại các quốc gia dân chủ xây dựng tiêu chuẩn an toàn chung và giới hạn tốc độ phát triển AI không được kiểm soát. Biện pháp thứ ba là các quốc gia dân chủ như Mỹ hợp tác với các quốc gia theo chế độ chuyên quyền để thiết lập tiêu chuẩn an toàn quốc tế.

Anthropic cho biết sẽ tự triển khai cơ chế cho phép nhóm đánh giá độc lập truy cập thường xuyên. Tuy nhiên, chưa rõ các công ty AI khác có tham gia mô hình này hay không, cũng như đề xuất có phát triển thành tiêu chuẩn chung hay không.

Ông Amodei nhận định hiện tượng AI hỗ trợ phát triển thế hệ AI tiếp theo, được gọi là 'tự cải thiện đệ quy', đã bắt đầu xuất hiện trong toàn ngành. Khái niệm này chỉ quá trình một hệ thống AI hỗ trợ thiết kế và phát triển các hệ thống AI tiếp theo.

Ông cũng đề cập trường hợp các nhóm tác nhân AI tự chủ thực hiện cuộc tấn công mạng không được kiểm soát. Nhận định rằng các hệ thống mạnh hơn có thể kiểm soát toàn bộ internet trong 6-12 tháng tới được đưa ra như một mối lo ngại và dự báo của ông Amodei.

Cuộc tranh luận cho thấy vấn đề an toàn AI không còn chỉ giới hạn trong giai đoạn nghiên cứu mà đã mở rộng sang cách vận hành các sản phẩm AI dành cho doanh nghiệp. Tranh luận tại Mỹ về việc điều chỉnh tốc độ phát triển AI và siết quy định an toàn cũng tiếp tục xoay quanh phạm vi tự ứng phó của doanh nghiệp và mức độ can thiệp của chính phủ.

Sự kiện cũng giới thiệu các trường hợp thương mại hóa mô hình AI. Salesforce trình làng mô hình suy luận CRM mang tên Koa, được xây dựng trên mô hình mở Nemotron của Nvidia.

Salesforce cho biết Koa được thiết kế để xử lý các tác vụ phức tạp gồm nhiều bước, dựa trên 27 năm kiến thức nghiệp vụ CRM tích lũy. Koa đã bắt đầu được thử nghiệm với một số khách hàng, theo công bố của Salesforce.

Marc Benioff, CEO Salesforce, cho rằng mỗi doanh nghiệp có thể tự quyết định tốc độ phát triển AI nhưng phải chịu trách nhiệm về kết quả. Quan điểm này tương đồng với cách tiếp cận đề cao quyền tự chủ của từng doanh nghiệp do ông Huang đưa ra, nhưng chưa đưa ra tiêu chuẩn an toàn chung cho toàn ngành.

Dreamforce chưa đạt được đồng thuận về quy định mới hay tiêu chuẩn an toàn chung của ngành. Việc đề xuất của ông Amodei có trở thành tiêu chuẩn thực tế hay chỉ dừng ở các biện pháp tự nguyện của từng doanh nghiệp sẽ phụ thuộc vào mức độ áp dụng của các công ty và tiến trình thảo luận quốc tế trong thời gian tới.