Apple(AAPL) phát triển Harbor, ứng dụng AI cục bộ kết nối nhiều máy Mac

Apple đang phát triển Harbor, ứng dụng giúp chạy và quản lý các mô hình AI có trọng số mở trên máy Mac dùng chip Apple, đồng thời kết nối nhiều máy Mac qua Thunderbolt 5.

9to5Mac đưa tin ngày 10, dựa trên mô tả ứng dụng do một người cung cấp thông tin chia sẻ, rằng Harbor có thể biến máy Mac thành máy chủ suy luận AI cá nhân. Người dùng có thể tìm, tải xuống, chạy và quản lý mô hình ngay trong ứng dụng.

Mô tả ứng dụng cho biết dữ liệu đầu vào được xử lý trên máy Mac, không gửi lên đám mây. Các tác vụ cần thiết để chạy mô hình đều được thực hiện trên thiết bị.

Mô hình có trọng số mở là mô hình AI có các tham số đã huấn luyện được công khai để người dùng tải xuống và chạy. Harbor tập trung vào việc tìm, chạy và quản lý những mô hình này trên máy Mac.

Khi kết nối từ hai máy Mac hỗ trợ Thunderbolt 5 trở lên, ứng dụng được giới thiệu là có thể tự tìm thiết bị, tạo cụm xử lý và dùng chung bộ nhớ hợp nhất của từng máy. Cách này gom nhiều máy Mac vào một môi trường làm việc.

Mô tả ứng dụng nêu hai mục đích sử dụng cấu hình này: chạy mô hình có dung lượng vượt quá bộ nhớ của một máy Mac hoặc xử lý đồng thời nhiều yêu cầu hơn.

Việc kết nối thiết bị và tạo cụm được cho là thực hiện ngay trong ứng dụng, không cần thiết lập thủ công riêng hoặc nhập lệnh. Cách làm này giảm các bước người dùng phải tự cấu hình từng máy Mac bằng tệp thiết lập.

Suy luận là quá trình mô hình AI đã huấn luyện tiếp nhận dữ liệu đầu vào và tạo kết quả. Harbor được giới thiệu là ứng dụng chạy các mô hình công khai trên máy Mac, thay vì huấn luyện mô hình mới.

Apple đã công bố công nghệ kết nối tài nguyên của nhiều máy Mac trước đó. Trong thông cáo về Mac Studio ngày 25 tháng 8, Apple mô tả cấu hình kết nối nhiều thiết bị bằng Thunderbolt 5 và RDMA để chia sẻ tài nguyên bộ nhớ.

Apple cho biết thử nghiệm kết nối bốn máy Mac Studio đạt tốc độ suy luận AI tối đa gấp ba lần so với một thiết bị. Đây là kết quả của cấu hình Mac Studio được nêu trong thông cáo, không phải thử nghiệm hiệu năng của Harbor.

RDMA là công nghệ truyền dữ liệu giữa các thiết bị. Apple áp dụng công nghệ này cho các tác vụ phân tán khai thác tài nguyên bộ nhớ của nhiều máy Mac.

Trong báo cáo kỹ thuật MLX công bố ngày 15 tháng 10, Apple cũng mô tả cách phân bổ mô hình lớn không thể chứa trên một máy Mac cho nhiều máy Mac Studio. Mỗi thiết bị xử lý một phần mô hình và trao đổi kết quả tính toán qua kết nối Thunderbolt.

Báo cáo cũng đề cập đến chi phí liên lạc giữa các thiết bị. Hiệu năng khi kết nối nhiều máy Mac có thể thay đổi tùy theo mô hình và cách xử lý công việc.

Tài liệu dành cho nhà phát triển của Apple cho biết macOS 26.2 hỗ trợ giao tiếp RDMA giữa các máy Mac dùng chip Apple và Thunderbolt 5. Trong các ví dụ sử dụng MLX do Apple công bố, người dùng khởi chạy tác vụ phân tán bằng lệnh và tệp cấu hình thiết bị.

Trước đó, TokenPost đã đề cập trong một phiên WWDC26 đến cấu trúc cung cấp mô hình cục bộ qua API tiêu chuẩn để công cụ phát triển gọi đến. Tin về Harbor lần này giới thiệu quy trình tìm và chạy mô hình công khai, đồng thời kết nối nhiều máy Mac.

Harbor được cho là đang ở giai đoạn xem trước riêng tư dưới tên Claris, công ty phần mềm thuộc Apple. Ngày phát hành chính thức chưa được công bố.