Tin tức 
Thông tin Coin 
Về chúng tôi 
Các công ty AI muốn smartphone có thể chạy thường trực mô hình 100 tỷ tham số vào năm 2028. Đây là yêu cầu ngành được Qualcomm truyền đạt, không phải cam kết ra mắt sản phẩm của hãng.
CEO Qualcomm Cristiano Amon (Cristiano Amon) cho biết trong cuộc phỏng vấn với Alex Heath: “Các công ty AI yêu cầu hỗ trợ thường trực ít nhất mô hình 100 tỷ tham số trên smartphone vào năm 2028”. Cuộc phỏng vấn được công bố ngày 8 tháng 10.
Hình dung mà Amon chia sẻ là dịch vụ dạng tác nhân AI, có thể nắm bắt ngữ cảnh người dùng và thực hiện công việc qua nhiều ứng dụng. Năm 2028 là mốc thời gian do các công ty AI đưa ra, chưa được xác nhận là lịch ra mắt sản phẩm của Qualcomm.
Ngày 22 tháng 9, Qualcomm công bố Snapdragon 8 Elite Extreme thế hệ 6 và Snapdragon 8 Elite thế hệ 6. Hai nền tảng di động này được thiết kế để chạy trên thiết bị các mô hình hỗn hợp chuyên gia (MoE) có hơn 30 tỷ tham số.
Mô hình MoE có thể kích hoạt một phần trong tổng số tham số tùy theo tác vụ. Qualcomm đưa ra ví dụ mô hình MoE 30 tỷ tham số chỉ kích hoạt khoảng 3 tỷ tham số khi tạo token.
Vì vậy, chỉ dựa vào tổng số tham số thì khó so sánh trực tiếp mức tải tính toán thực tế. Tài nguyên cần thiết trên thiết bị còn tùy thuộc cấu trúc mô hình, độ chính xác, mức sử dụng bộ nhớ và tốc độ tạo nội dung.
Để chạy AI thường trực trên smartphone, cũng cần tính đến áp lực lên bộ nhớ và điện năng. Qualcomm mô tả bộ nhớ dùng chung được mở rộng và thiết kế tiết kiệm điện của bộ xử lý thần kinh (NPU) mới là nền tảng cho AI chạy trực tiếp trên thiết bị.
AI trên thiết bị xử lý thông tin ngay trên smartphone hoặc thiết bị tương tự. Cách này có thể giảm số lần gửi dữ liệu đến máy chủ bên ngoài và độ trễ phản hồi, nhưng mô hình càng lớn thì nhu cầu bộ nhớ và năng lực tính toán càng tăng.
Mô tả thiết kế Qualcomm công bố cho thấy định hướng công nghệ của công ty. Tuy nhiên, hãng chưa đưa ra thông số sản phẩm có thể chạy thường trực mô hình 100 tỷ tham số trên smartphone hay kết quả kiểm định hiệu năng độc lập.
Bình luận 0