Marvell($MRVL) đã công bố hai bộ mở rộng bộ nhớ CXL dành cho suy luận AI. Mẫu DDR4 hỗ trợ tối đa 9TB, còn mẫu DDR5 hỗ trợ tối đa 6TB; hãng dự kiến cung cấp mẫu thử cho khách hàng trong quý I/2027.
Hai sản phẩm là Structera X 3406 và Structera X 3506, thuộc thế hệ thứ hai của bộ điều khiển mở rộng bộ nhớ Structera X. Marvell cho biết trong thông cáo báo chí ngày 12 rằng các sản phẩm hướng tới trung tâm dữ liệu đám mây, doanh nghiệp và AI.
Cả hai hỗ trợ kết nối CXL 3.2 và PCIe 6.0, đồng thời cung cấp sáu kênh bộ nhớ DDR4 hoặc DDR5, tăng 50% so với thế hệ trước. Mẫu 3406 hỗ trợ tối đa 9TB qua 18 khe DDR4 RDIMM; mẫu 3506 hỗ trợ tối đa 6TB qua 12 khe.
CXL là chuẩn kết nối giúp mở rộng tài nguyên bộ nhớ của máy chủ và cho phép nhiều máy chủ cùng chia sẻ. Bộ điều khiển mới hỗ trợ chia sẻ bộ nhớ giữa tối đa bốn máy chủ. Với kết nối máy chủ PCIe 6.0 x16, băng thông đạt tối đa 256GB mỗi giây.
Marvell cho biết hai sản phẩm tích hợp chức năng nén và giải nén LZ4, với thông lượng xử lý tối đa 250GB mỗi giây. Tùy khối lượng công việc, dung lượng bộ nhớ hữu dụng có thể tăng gấp 2–3 lần. Tuy nhiên, thông báo lần này không kèm dữ liệu độc lập xác minh hiệu năng trong môi trường khách hàng.
Theo Marvell, với cùng độ dài ngữ cảnh, thời gian phản hồi đến token đầu tiên (TTFT) có thể giảm tối đa 40–50%; hoặc độ dài ngữ cảnh được hỗ trợ có thể tăng gấp đôi trong khi vẫn duy trì độ trễ. Đây là các số liệu hiệu năng do công ty đưa ra.
Mô hình ngôn ngữ lớn (LLM) sử dụng bộ nhớ đệm KV để xử lý nội dung đầu vào trước đó. Khi độ dài ngữ cảnh tăng, bộ nhớ cần cho bộ đệm này cũng tăng, khiến dung lượng và băng thông bộ nhớ trở thành yếu tố quan trọng đối với máy chủ suy luận.
Việc mở rộng hoặc chia sẻ bộ nhớ thay vì cố định dung lượng cho từng máy chủ có thể giúp giảm lượng bộ nhớ không được sử dụng. Dù vậy, thông báo chưa đưa ra dữ liệu độc lập kiểm chứng hiệu năng trong môi trường khách hàng.
Các tính năng bảo mật và độ tin cậy gồm mật mã hậu lượng tử, Caliptra 2.0, CXL IDE, mã hóa bộ nhớ AES-256 và StructGuard RAS. Marvell cho biết Samsung Electronics và SK hynix đã xác minh khả năng tương thích với bộ nhớ của họ.
Sản phẩm được công bố tại OCP Global Summit 2026. Marvell đặt mục tiêu cung cấp mẫu thử cho khách hàng trong quý I/2027.
Bình luận 0