CEO Palantir: Cần hướng dẫn có thể thực thi về quản lý AI

Alex Karp, CEO Palantir Technologies(PLTR), cho rằng quản lý trí tuệ nhân tạo(AI) cần những hướng dẫn hợp lý và có thể thực thi, đồng thời nhấn mạnh mỗi chủ thể phải chịu trách nhiệm về kết quả phát sinh trong quá trình sử dụng AI.

Alex Karp(Alex Karp) CEO Palantir Technologies(PLTR) nói trong cuộc phỏng vấn với chương trình ‘Squawk on the Street’ của CNBC: “Chúng ta cần tìm cách xây dựng những hướng dẫn hợp lý có thể được thực thi”. CNBC đưa tin về cuộc phỏng vấn này ngày 17 (giờ địa phương).

Trong bối cảnh các cuộc thảo luận về công nghệ và chính sách AI tiếp diễn, Karp cho rằng cần xác lập đồng thời các nguyên tắc quản lý và trách nhiệm liên quan. Tuy nhiên, ông không đưa ra phương thức quản lý cụ thể, đối tượng áp dụng hay lịch trình triển khai.

Ông cho biết trách nhiệm về kết quả phát sinh trong quá trình sử dụng AI nên được quy cho từng chủ thể, như doanh nghiệp hoặc tổ chức. Karp giải thích: “Tuyến phòng thủ đầu tiên là tự chịu trách nhiệm về hành động của mình”.

Phát biểu này được xem là tập trung vào các hướng dẫn có thể thực thi và trách nhiệm của chủ thể sử dụng AI, thay vì một phương thức quản lý cụ thể. Dù vậy, phạm vi của ‘hướng dẫn hợp lý’ và chủ thể có thẩm quyền xác định trách nhiệm vẫn chưa được nêu rõ.

Palantir Technologies(PLTR) từng xem ‘chủ quyền AI’, tức doanh nghiệp và tổ chức trực tiếp kiểm soát dữ liệu, mô hình AI và môi trường tính toán của mình, là trọng tâm trong chiến lược tăng trưởng. Trong các báo cáo kết quả kinh doanh trước đó, Karp cũng nói rằng khách hàng cần có quyền kiểm soát hoạt động vận hành, dữ liệu và việc ra quyết định.

Chiến lược chủ quyền AI của Palantir Technologies(PLTR) được mô tả theo hướng giúp doanh nghiệp trực tiếp kiểm soát dữ liệu, mô hình AI và môi trường tính toán. Khái niệm này tập trung vào việc giảm sự phụ thuộc vào dữ liệu và mô hình của các nhà cung cấp AI bên ngoài, đồng thời tăng quyền kiểm soát nội bộ.

Ngày 8 tháng 9, Palantir Technologies(PLTR) thông báo lựa chọn Nebius Group(NBIS) làm đối tác hạ tầng chủ quyền AI ưu tiên. Hai bên dự kiến kết hợp hạ tầng và phần mềm để khách hàng có thể vận hành mô hình AI của riêng mình trong môi trường do họ kiểm soát.

Trong quản lý AI, tốc độ phát triển, các biện pháp an toàn và cách xác định chủ thể chịu trách nhiệm khi xảy ra sự cố vẫn là những vấn đề chính. Phát biểu của Karp vừa thừa nhận nhu cầu quản lý, vừa đưa ra quan điểm cần giao trách nhiệm cho từng chủ thể.

Cuộc phỏng vấn không công bố đề xuất quản lý mới hay lịch trình chính sách. Việc các hướng dẫn và nguyên tắc trách nhiệm do Karp nêu ra có dẫn tới thiết kế制度 cụ thể hay không sẽ được làm rõ qua những công bố tiếp theo.