Microsoft đưa AI cục bộ và đám mây lên Windows 11

Microsoft($MSFT) công bố các tính năng AI trên Windows 11, kết hợp mô hình chạy trên thiết bị với mô hình đám mây tùy theo tác vụ. Nếu được người dùng cho phép, Copilot có thể tham khảo tệp trên PC để sắp xếp tệp hoặc chẩn đoán thiết bị.

Ngày 7 tháng 10, Microsoft mô tả ý tưởng này là “trí tuệ lai” trên blog Windows Experience. Cách tiếp cận này sử dụng mô hình trên thiết bị hoặc mô hình đám mây tùy theo công việc; công ty cho biết việc đó cũng giúp quản lý chi phí xử lý trên đám mây.

Ví dụ về mô hình chạy cục bộ là MAI Code 1.1 Flash, mô hình dành cho lập trình. Microsoft cho biết mô hình có tổng cộng 137 tỷ tham số, trong đó 6,8 tỷ tham số hoạt động, và áp dụng độ chính xác 3 bit để giảm kích thước gần 80%. Tham số là các giá trị được điều chỉnh trong quá trình huấn luyện AI; giảm kích thước mô hình có thể giảm lượng bộ nhớ cần thiết khi chạy trên thiết bị.

Các tính năng dành cho nhà phát triển sẽ ra mắt trước dưới dạng bản thử nghiệm. Khả năng kết nối mô hình cục bộ và đám mây theo từng tác vụ trên ứng dụng GitHub Copilot, CLI và Visual Studio Code dự kiến được cung cấp vào cuối tháng 10.

Microsoft cũng công bố cơ chế giới hạn phạm vi truy cập của tác nhân AI. Microsoft Execution Containers (MXC) sẽ được cung cấp chính thức trên Windows 11. Tổ chức có thể dùng chính sách để chỉ định các tệp và mạng mà tác nhân được phép truy cập. Microsoft cho biết chính sách này được áp dụng cả trong khi tác nhân đang chạy để kiểm soát quyền truy cập.

Copilot được thiết kế để tham khảo tệp trên PC và hoạt động gần đây khi được người dùng cho phép, sau đó hỗ trợ sắp xếp tệp hoặc chẩn đoán thiết bị. Tính năng này dự kiến được triển khai dần cho Copilot+ PC trong vài tháng tới. Tại thời điểm công bố, tính năng chưa khả dụng trên tất cả PC chạy Windows 11.