CEO Salesforce: AI không được lặp lại thất bại của mạng xã hội

Mark Benioff, CEO Salesforce($CRM), kêu gọi ngành trí tuệ nhân tạo (AI) không lặp lại những thất bại của mạng xã hội và phải phát triển các mô hình AI ngày càng mạnh mẽ một cách có trách nhiệm.

Phát biểu ngày 15 tại sự kiện thường niên Dreamforce ở San Francisco và trong cuộc phỏng vấn với CNBC, Benioff nhấn mạnh vấn đề an toàn AI và trách nhiệm xã hội của doanh nghiệp.

Mark Benioff (Marc Benioff), CEO Salesforce($CRM), nói: “Mạng xã hội đã gây tổn hại cho nhiều doanh nghiệp và cá nhân. Tôi hy vọng điều đó sẽ không xảy ra với AI”. Ông lấy những trường hợp các công ty mạng xã hội chưa đánh giá đầy đủ tác động xã hội trong quá khứ làm cảnh báo cho ngành AI.

Benioff không cho rằng cần dừng hoặc làm chậm hoạt động phát triển AI. Ông nhấn mạnh các doanh nghiệp công nghệ phải xem xét những tác động rộng lớn mà AI có thể gây ra và chịu trách nhiệm với các vấn đề phát sinh trong quá trình sử dụng thực tế.

Ông nói: “Chúng ta phải bảo đảm AI xử lý những vấn đề này một cách có trách nhiệm và hành động theo đạo đức. Cốt lõi của đạo đức là trách nhiệm”. Điều này cho thấy khi ảnh hưởng của AI ngày càng lớn, doanh nghiệp cần xem xét không chỉ hiệu suất sản phẩm mà cả tác động đối với cộng đồng và xã hội.

Benioff nói thêm: “Công nghệ này rất mạnh mẽ”, đồng thời kêu gọi các doanh nghiệp hành xử có đạo đức trong cách họ đối xử với cộng đồng và thế giới. Ông không đưa ra đề xuất quy định cụ thể hay tiêu chuẩn chung cho toàn ngành.

Phát biểu được đưa ra trong bối cảnh tranh luận về an toàn AI ngày càng gia tăng. Dario Amodei, CEO Anthropic, đã đề xuất làm chậm tốc độ phát triển các mô hình AI tiên tiến để dành thời gian xây dựng các biện pháp an toàn.

Amodei cũng xuất hiện trên sân khấu Dreamforce. Về quan điểm trách nhiệm của Benioff, ông nói theo hướng ngành cần làm gương và liên tục cải thiện.

Benioff không chính thức ủng hộ quan điểm điều chỉnh tốc độ phát triển của Amodei và cũng không chỉ trích một công ty AI cụ thể. Những phát biểu này cho thấy tranh luận về trách nhiệm của doanh nghiệp trong việc cân bằng tốc độ phát triển AI với việc bảo đảm các biện pháp an toàn đang tiếp diễn trong giới lãnh đạo ngành.

Salesforce đề cập đến rủi ro AI trong bối cảnh công ty đang mở rộng hợp tác với Anthropic. Hai bên đã công bố “ClaudeForce”, dịch vụ kết nối các tính năng suy luận của Claude với dữ liệu doanh nghiệp và quy tắc công việc của Salesforce.

ClaudeForce giúp Claude sử dụng dữ liệu khách hàng lưu trên Salesforce để thực hiện các công việc như soạn email và cập nhật hồ sơ. Cốt lõi của dịch vụ là kết nối dữ liệu doanh nghiệp, quy trình làm việc và hệ thống phân quyền với môi trường sử dụng AI.

Động thái này tiếp nối chiến lược Salesforce kết nối dữ liệu doanh nghiệp và quy trình làm việc với các tác nhân AI tại Dreamforce. Salesforce đang mở rộng AI theo hướng tích hợp công nghệ này vào CRM, dữ liệu và hệ thống thực thi công việc, thay vì coi AI là một tính năng riêng biệt.

Trong cấu trúc này, quyền truy cập dữ liệu nội bộ, quy tắc công việc và hệ thống kiểm soát kết quả quan trọng không kém hiệu suất mô hình. Khi AI trực tiếp thực hiện công việc trong hệ thống doanh nghiệp, trách nhiệm khi xảy ra lỗi hoặc lạm dụng cũng cần được xác định.

Cổ phiếu Salesforce đã trả lại một phần mức tăng hơn 4,5% của phiên giao dịch liền trước vào ngày 15. Cổ phiếu hiện cao hơn hơn 50% so với mức thấp nhất 52 tuần là 146 USD ghi nhận cuối tháng 6, nhưng chưa có số liệu cho thấy phát biểu lần này đã làm thay đổi hướng đi của cổ phiếu.

Phát biểu của Benioff cho thấy Salesforce không chủ trương dừng việc phổ biến AI mà xem trách nhiệm và đạo đức là điều kiện cốt lõi trong vận hành sản phẩm. Phiên bản beta công khai của ClaudeForce dự kiến ra mắt vào tháng 9 năm 2026, qua đó việc áp dụng các nguyên tắc an toàn khi kết nối dữ liệu doanh nghiệp và quyền hạn công việc với AI sẽ tiếp tục được quan tâm.