AMD bổ sung 58 TB bộ nhớ, giảm 82% chi phí so với mở rộng DRAM

AMD cho biết phần mềm quản lý bộ nhớ MEXT giúp bổ sung khoảng 58 TB bộ nhớ khả dụng cho các máy chủ nội bộ, đồng thời giảm 82% chi phí so với việc mở rộng DRAM thêm cùng dung lượng.

AMD ước tính chi phí mở rộng DRAM ở mức khoảng 3,3 triệu USD (khoảng 4,43 tỷ won), trong khi chi phí triển khai MEXT là khoảng 601.000 USD (khoảng 807 triệu won).

Giá mỗi bit của bộ nhớ flash NVMe bằng khoảng 1/50 DRAM, còn mức tiêu thụ điện vào khoảng 1/30.

MEXT được thành lập năm 2023. Phần mềm bộ nhớ dự đoán của công ty ra mắt vào tháng 4 năm 2026. AMD mua lại MEXT ngày 15 tháng 6 năm 2026, khoảng hai tháng sau khi sản phẩm chủ lực ra mắt.

MEXT chuyển các trang bộ nhớ ít được sử dụng sang thiết bị lưu trữ flash NVMe để giải phóng dung lượng DRAM.

Mô hình AI dự đoán phần dữ liệu trên flash mà ứng dụng sắp yêu cầu. MEXT đưa dữ liệu đó trở lại DRAM trước khi ứng dụng cần đến.

Flash không trở thành linh kiện có tốc độ tương đương DRAM. MEXT dùng DRAM cho dữ liệu cần tốc độ, còn flash đảm nhiệm phần dung lượng bổ sung.

Các mô hình AI lớn và tác vụ xử lý nhiều dữ liệu cần lượng bộ nhớ tốc độ cao rất lớn, khiến dung lượng bộ nhớ trở thành điểm nghẽn trong AI và điện toán hiệu năng cao. Giá DRAM cũng tăng cùng với nhu cầu.

AMD cho biết trong một số tác vụ, hệ thống có thể giảm một nửa dung lượng DRAM mà vẫn duy trì tối đa 99% hiệu năng trước đó. Kết quả này chỉ áp dụng cho một số tác vụ và cấu hình, không thể mặc định áp dụng cho mọi trung tâm dữ liệu; hiệu quả thực tế có thể khác nhau tùy cách tác vụ sử dụng bộ nhớ.

AMD cho biết cấu hình kết hợp DRAM và MEXT có thể cải thiện hiệu năng trên mỗi USD từ 1,9 đến 3,5 lần.

Cơ chế swap của Linux và tệp phân trang của Windows cũng chuyển dữ liệu sang thiết bị lưu trữ khi bộ nhớ thiếu. Tuy nhiên, chúng hoạt động sau khi có yêu cầu dữ liệu, khiến hệ thống phải chờ tải dữ liệu trở lại từ thiết bị lưu trữ.

MEXT gọi phương pháp dùng mô hình AI để dự đoán yêu cầu dữ liệu là “bộ nhớ dự đoán” (Predictive Memory).

Mức giảm 82% là kết quả so sánh chi phí dự kiến để có thêm cùng dung lượng bằng DRAM với chi phí triển khai MEXT. Con số này không có nghĩa là tổng chi phí mua máy chủ hoặc vận hành trung tâm dữ liệu giảm 82%.

Crypto Briefing đưa tin ngày 11 rằng AMD đặt mục tiêu mở rộng MEXT lên hàng nghìn máy chủ vào cuối năm 2027.