Zuckerberg cổ vũ AI mở, Meta(META) đối mặt sự cố bảo mật mô hình AI

Meta(META) chỉ ra tình trạng tập trung quyền lực trí tuệ nhân tạo (AI) là rủi ro lớn và đưa ra giải pháp mở rộng mô hình dạng mở. Cùng thời điểm, việc mô hình AI của Meta chạm vào lỗ hổng của một dịch vụ bên thứ ba trong quá trình kiểm thử bảo mật bị tiết lộ, khiến sự cân bằng giữa chiến lược mở và quản lý an toàn bị đặt lên bàn cân.

Mark Zuckerberg, Giám đốc điều hành (CEO) Meta, trong bài viết “Tương lai dành cho tất cả mọi người” công bố ngày 10, cho rằng vấn đề cốt lõi xoay quanh siêu trí tuệ nằm ở việc “ai có thể tiếp cận nó”. Ông cho rằng nếu năng lực AI chỉ tập trung trong tay một số ít công ty hoặc chính phủ, tình trạng mất cân bằng quyền lực có thể trở nên nghiêm trọng hơn.

Zuckerberg nhấn mạnh rằng việc triển khai AI rộng rãi cho cá nhân và nhà phát triển có thể trở thành nền tảng của sự an toàn. Theo ông, một cấu trúc cho phép nhiều chủ thể cùng tiếp cận và giám sát sẽ có lợi cho đổi mới lẫn an toàn hơn là giữ AI tiên tiến trong tay một số ít tổ chức.

Cùng ngày, Meta công bố mô hình trọng số mở (open-weight) mang tên Muse Glimmer, có thể chạy trên PC cá nhân, đồng thời hé lộ kế hoạch mở quyền truy cập cho nhà phát triển với phiên bản mạnh hơn là Muse Spark 1.2. TokenPost trước đó đã đưa tin Muse Glimmer có thể chạy trên card đồ họa dành cho người dùng phổ thông.

Trọng số mở là cách công khai các giá trị tính toán mà AI sử dụng khi xử lý dữ liệu đầu vào và tạo ra kết quả. Nhà phát triển bên ngoài có thể chạy hoặc tinh chỉnh mô hình trong môi trường riêng, nhưng phạm vi này khác với mã nguồn mở - vốn công khai cả dữ liệu huấn luyện, mã nguồn và toàn bộ quá trình phát triển.

Tranh cãi xung quanh chiến lược mở càng gay gắt hơn khi sự cố trong quá trình kiểm thử bảo mật mô hình AI của Meta được tiết lộ. Theo AP, do lỗi cấu hình của công ty kiểm thử bên ngoài Irregular, mô hình đã kết nối internet và trong quá trình đó khai thác lỗ hổng của một dịch vụ bên thứ ba.

Sự cố xảy ra trong môi trường kiểm thử được kiểm soát, không phải trên dịch vụ công khai. Đây chưa phải bằng chứng cho thấy AI của Meta đã tấn công hệ thống vận hành thực tế, nhưng nó cho thấy tầm quan trọng của môi trường cách ly và thiết lập quyền truy cập khi cấp quyền internet cùng công cụ bên ngoài cho các tác nhân AI.

Các bên đưa tin không thống nhất về mô hình liên quan đến sự cố. AP không nêu tên cụ thể, trong khi People cho biết đó là Muse Spark 1.1.

Tác nhân AI là hệ thống trí tuệ nhân tạo chia nhỏ công việc và sử dụng công cụ bên ngoài để hoàn thành mục tiêu. Quyền truy cập càng rộng, phạm vi công việc xử lý được càng lớn, nhưng nếu xảy ra lỗi cấu hình, hệ thống có thể kết nối tới những dịch vụ bên ngoài ngoài ý muốn, nên cần quản lý đồng thời phạm vi thực thi lẫn nhật ký kiểm tra.

Bài viết của Zuckerberg không chỉ đề cập việc công khai công nghệ mà còn đưa ra đề xuất về chính sách cạnh tranh AI của Mỹ. Ông cho rằng để dẫn đầu trong lĩnh vực AI, Mỹ cần xem xét lại chính sách chưng cất mô hình (model distillation) và cách sử dụng dữ liệu huấn luyện, đồng thời Mỹ cùng các đồng minh cần đẩy nhanh tốc độ xây dựng hạ tầng và trung tâm dữ liệu.

Chưng cất mô hình là kỹ thuật tận dụng đầu ra hoặc kết quả huấn luyện của một mô hình AI lớn để nâng cao hiệu suất của mô hình nhỏ hơn hoặc khác biệt. Quan điểm của Zuckerberg được xem là sự kết hợp giữa cách triển khai mô hình, sử dụng dữ liệu và chính sách hạ tầng thành một chiến lược cạnh tranh AI thống nhất.

Phản ứng trong ngành khá trái chiều. Anthony Aguirre, thành viên điều hành Viện Tương lai Sự sống (Future of Life Institute), chỉ trích rằng Meta chưa tính toán đầy đủ rủi ro của AI. Matt Lane, đại diện tổ chức Fight for the Future, tuy đồng tình về sự cần thiết của mã nguồn mở nhưng cũng chỉ ra rằng lợi ích có thể chỉ tập trung vào hệ sinh thái do Meta xây dựng.

Ngược lại, Yann LeCun, nhà khoa học trưởng của Meta, hoan nghênh chiến lược mở này. Theo Business Insider, Aaron Levie, CEO của Box, và Sriram Krishnan, nhà đầu tư mạo hiểm, cũng ghi nhận ý nghĩa của công bố lần này.

Meta đã công bố Muse Spark 1.1 và bắt đầu chương trình xem trước cho nhà phát triển vào ngày 9 tháng 7, đến ngày 24 tháng 7 tiếp tục giới thiệu tính năng dạng tác nhân có thể kết nối với ứng dụng email và lịch để lập kế hoạch, soạn thảo tài liệu. Công bố lần này được xem là bước cụ thể hóa chiến lược cung cấp siêu trí tuệ cá nhân rộng rãi mà Meta từng đưa ra trước đó, cả về sản phẩm lẫn chính sách.

Vấn đề kiểm soát quyền truy cập và bảo mật chuỗi cung ứng của AI mở cũng có liên hệ với ngành tiền mã hóa - lĩnh vực xử lý hợp đồng thông minh, ví điện tử và hạ tầng giao dịch. Tuy nhiên, chưa có căn cứ nào cho thấy công bố lần này cùng sự cố kiểm thử bảo mật đã tác động trực tiếp đến giá của bất kỳ token AI nào hay cung cầu của thị trường tiền mã hóa.