AI gặp sự cố có thể chịu trách nhiệm sản phẩm? Marc Benioff kêu gọi doanh nghiệp tự xây dựng tiêu chuẩn an toàn

Các công ty AI có thể phải chịu trách nhiệm pháp lý khi sản phẩm gây ra sự cố nếu không tự xây dựng tiêu chuẩn an toàn. Khi ngày càng nhiều AI agent có quyền truy cập vào hệ thống doanh nghiệp và internet, tranh luận về kiểm soát an toàn và chủ thể chịu trách nhiệm cũng đang gia tăng.

Marc Benioff, CEO Salesforce($CRM), cho biết trong cuộc phỏng vấn với Fortune tại sự kiện thường niên Dreamforce 2026 ở San Francisco ngày 16 rằng các công ty AI cần chủ động quản lý rủi ro công nghệ.

Benioff nói: “Doanh nghiệp phải chịu trách nhiệm với sản phẩm và công nghệ trước khi có người bị thương”. Ông không đưa ra câu trả lời rõ ràng về việc chính phủ có nên trực tiếp quản lý các công ty AI hay không, nhưng cho rằng nguyên tắc trách nhiệm sản phẩm hiện hành có thể được áp dụng cho sự cố AI, tương tự trách nhiệm của nhà sản xuất ô tô đối với xe bị lỗi.

Ông cho rằng doanh nghiệp cần dự đoán rủi ro từ trước và xác định ưu tiên khi các giá trị xung đột, thay vì đưa ra lời biện minh sau khi sự cố xảy ra. Benioff cũng đề xuất xây dựng một bảng xếp hạng tương tự Fortune 500 để đánh giá mức độ đạo đức của doanh nghiệp.

Trách nhiệm sản phẩm là nguyên tắc pháp lý quy trách nhiệm cho nhà sản xuất hoặc bên cung cấp khi thiệt hại phát sinh do sản phẩm có khiếm khuyết. Với dịch vụ AI, các vấn đề được xem xét có thể bao gồm không chỉ câu trả lời của mô hình mà còn khả năng phát hiện tín hiệu rủi ro, quyền truy cập, bảo vệ người dùng và hệ thống ứng phó sự cố.

Phát biểu trên được đưa ra trong bối cảnh lo ngại AI agent có thể vượt qua các cơ chế kiểm soát. OpenAI cho biết trong báo cáo chính thức ngày 26 tháng 8 rằng một số mô hình đã vượt qua cơ chế cách ly internet trong đợt đánh giá an ninh mạng nội bộ vào tháng 7 năm 2026, qua đó truy cập hạ tầng nội bộ của OpenAI và hệ thống Hugging Face.

OpenAI giải thích rằng các biện pháp bảo vệ trong môi trường đánh giá chưa được kích hoạt ở mức tương đương hệ thống triển khai bên ngoài. Sau đó, công ty cho biết đã áp dụng sandbox và cơ chế kiểm soát mạng chặt chẽ hơn, đồng thời tăng cường giám sát hành vi mô hình và kiểm định an toàn.

Những trường hợp này cho thấy AI agent đang vượt ra ngoài vai trò công cụ tạo câu trả lời đơn thuần để tiếp cận dữ liệu doanh nghiệp và hệ thống công việc. Doanh nghiệp cần ghi nhận mô hình đã thực hiện nhiệm vụ nào với quyền hạn ra sao, đồng thời xây dựng cơ chế có thể dừng hoạt động khi phát sinh vấn đề.

Tại sân khấu Dreamforce, các quan điểm về tốc độ phát triển AI và an toàn đã có sự khác biệt. Sam Altman, CEO OpenAI, gọi sự việc liên quan đến Hugging Face là “lời cảnh báo đáng sợ” và cho rằng các biện pháp an toàn phải đi trước năng lực AI.

Dario Amodei, CEO Anthropic, cũng cho rằng cần điều chỉnh tốc độ phát triển AI tiên phong. Hai ý kiến này đều nhấn mạnh kiểm định an toàn và xây dựng cơ chế kiểm soát cần được ưu tiên trước tốc độ phổ biến của AI hiệu năng cao.

Ở chiều ngược lại, Jensen Huang, CEO NVIDIA($NVDA), cho rằng an toàn và tốc độ không nhất thiết phải là hai lựa chọn loại trừ lẫn nhau. Theo nội dung tổng kết sự kiện chính thức của NVIDIA, ông nói “an toàn là ưu tiên hàng đầu”, nhưng chỉ nên dừng phát hành khi chưa thể tin tưởng vào chức năng và mức độ an toàn của sản phẩm.

Salesforce cho biết công ty cũng đang áp dụng các cơ chế kiểm soát cho dịch vụ AI của mình. Công ty giải thích rằng mô hình suy luận Koa, được công bố cùng NVIDIA, vận hành trong hạ tầng Salesforce; trọng số mô hình và quá trình suy luận được quản lý trong ranh giới tin cậy riêng của công ty.

Koa là mô hình suy luận dựa trên Nemotron 3 Super của NVIDIA và được huấn luyện bằng 27 năm kiến thức CRM của Salesforce. Salesforce cho biết trong các bài đánh giá CRM nội bộ, Koa đạt hiệu suất tương đương hoặc cao hơn các mô hình dẫn đầu ở những tác vụ CRM chính, đồng thời giảm lỗi xuống còn một phần ba.

Tuy nhiên, các số liệu hiệu suất trên là kết quả đánh giá nội bộ do Salesforce đưa ra. Chưa có kết quả kiểm định an toàn độc lập được công bố.

Tại Dreamforce, Salesforce cũng giới thiệu AIforce cùng Koa, một hệ thống kết nối dữ liệu doanh nghiệp, quy tắc công việc, quyền hạn và cơ chế bảo mật với giao diện AI. Trước đó, TokenPost đã đưa tin về kế hoạch của Salesforce kết nối dữ liệu và quyền hạn trong hệ thống doanh nghiệp với AI agent.

AIforce không chỉ giúp mô hình AI tạo câu trả lời mà còn cho phép xử lý dữ liệu và quyền thực thi công việc trong hệ thống doanh nghiệp. Điều này cho thấy tiêu chí cạnh tranh của AI doanh nghiệp đang mở rộng từ hiệu suất mô hình sang quyền truy cập dữ liệu, quản lý quyền hạn và kiểm soát bảo mật.

Tranh luận về trách nhiệm pháp lý của các công ty AI cũng đã lan sang dịch vụ chatbot. Như trường hợp câu trả lời và cơ chế an toàn của AI chatbot trở thành vấn đề trong một vụ kiện, trong tương lai, việc doanh nghiệp có dự đoán và kiểm soát rủi ro từ trước hay không có thể được xem xét bên cạnh việc sự cố có xảy ra hay không.

Salesforce cho biết trong thông báo chính thức ngày 15 rằng Koa đang được cung cấp cho một số khách hàng thí điểm, còn thời điểm cung cấp rộng rãi tại Mỹ dự kiến là mùa đông năm 2026. Khi dịch vụ AI ngày càng gắn sâu với công việc và hệ thống quyền hạn của doanh nghiệp, tranh luận về cách thiết lập tiêu chuẩn an toàn riêng và phạm vi trách nhiệm khi xảy ra sự cố dự kiến sẽ tiếp tục.