Back to top
  • 링크복사 Sao chép liên kết
  • 공유 Chia sẻ
  • 인쇄 In
  • 글자크기 Cỡ chữ
URL đã được sao chép

Chia sẻ

x
chuỗi khối

DeepSeek mở toàn bộ mã nguồn DeepInfer, hỗ trợ cả chip Nvidia lẫn Huawei

Bo mạch có gắn chip tính toán AI với tản nhiệt / TokenPost.ai

DeepSeek vừa công bố mở toàn bộ mã nguồn DeepInfer, khung suy luận (inference) nội bộ của hãng, đồng thời phát hành thành phần mã hóa và giải mã token dùng cho dịch vụ thực tế có tên 'deepseek-recipe'. Thông tin được ChainCatcher đưa tin.

Theo ChainCatcher, DeepInfer là khung tích hợp các toán tử hiệu năng cao với một công cụ suy luận đã được tối ưu. Khung này hỗ trợ suy luận phân tán, giải mã suy đoán (speculative decoding), SWA Bounded Replay và đầu ra có cấu trúc, đồng thời chạy được trên cả nền tảng của Nvidia lẫn Huawei Ascend (昇腾).

DeepSeek cho biết đã dùng DeepInfer để triển khai dịch vụ suy luận quy mô lớn, thông lượng cao và độ trễ thấp cho mô hình DeepSeek V4.1 Flash. Mã suy luận cùng các nội dung tối ưu hóa của những mô hình mới cũng sẽ tiếp tục được cập nhật tại kho mã nguồn này trong thời gian tới.

ChainCatcher bổ sung rằng deepseek-recipe được xây dựng để khớp hoàn toàn với logic xử lý của API chính thức do DeepSeek cung cấp.

<Bản quyền ⓒ TokenPost, nghiêm cấm sao chép và phân phối trái phép>

#DeepSeek #DeepInfer #mã nguồn mở #Nvidia #Huawei Ascend #suy luận AI

Phổ biến nhất

1
Micron(MU) phát triển bộ nhớ suy luận biên EIM cho AI vật lý, nghiên cứu áp dụng LPDDR6
2
Anh: 3 người bị tuyên án vì đột nhập nhà để trộm tiền mã hóa, mức cao nhất 6 năm tù
3
Quốc hội Pháp thông qua đề xuất đánh thuế một số giao dịch hoán đổi stablecoin
4
Alana Levin: Đáy thị trường tiền mã hóa đã hình thành vào tháng 7, dòng tiền biên sẽ đổ vào Bitcoin(BTC) và giao thức tạo doanh thu
5
ENS DAO bỏ phiếu kích hoạt ENSv2 trên mainnet: gần 100% ủng hộ nhưng chưa đủ túc số
6
Công tố viên Mỹ gọi người vận hành nút Ethereum(ETH) ra làm chứng nhờ dấu vết IP
7
Revolut được cấp giấy phép DLT tại Gibraltar, cho phép giao dịch, lưu ký và staking tiền mã hóa
8
Cá voi Hyperliquid chốt lệnh long 1.355,6 Bitcoin(BTC), mở long Tesla(TSLA)
9
Kho bạc USDD lần đầu vượt 30 triệu USD, đạt 31,24 triệu USD
10
Rambus(RMBS) tăng 6,20% lên 92,66 USD, chưa rõ chất xúc tác

Các bài viết liên quan khác

Trung Quốc phản đối Mỹ yêu cầu ngừng dùng DeepSeek: 'Sẽ bảo vệ quyền lợi doanh nghiệp'

Công cụ REA đạt 340.000 sao GitHub sau hai tuần, thử nghiệm độc lập chỉ ra nhiều thiếu sót

Amazon: Morgan Stanley nâng giá mục tiêu lên 350 USD, tăng dự báo tăng trưởng AWS

Cá voi mở vị thế bán khống 12,61 triệu USD cổ phiếu Nvidia(NVDA) trước thềm GTC

Jensen Huang phản đối “phanh gấp” AI, đề xuất thắt dây an toàn

Bài viết theo chuyên mục

Xem thêm

15 hợp đồng tương lai Binance bị điều chỉnh đòn bẩy, ký quỹ

Ví Qubic có thể lộ khóa riêng tư, tuyên bố khôi phục chỉ sau 6 lần kết nối

Cổ phiếu Strategy(MSTR) giảm 4,2% ngày 16 sau khi MSCI chốt tiêu chuẩn doanh nghiệp phi hoạt động

Michael Saylor nói Strategy(MSTR) sẽ lấy tín dụng số làm hoạt động kinh doanh chính

NEAR Protocol(NEAR) giảm 6,04% trong 24 giờ, còn 4,73 USD

Ondo Finance niêm yết trái phiếu token hóa gắn với OpenAI, giao dịch 24 giờ

1,397 triệu ASTER được chuyển từ Binance sang Aster DEX

Qubic Wallet: Lỗ hổng Math.random() có thể giúp khôi phục khóa riêng sau 6 lần quan sát

Bitcoin(BTC) giảm 0,5% xuống quanh 81.400 USD, dòng vốn ETF vào ngày đạt cao nhất gần một tháng

Mt. Gox lần thứ tư gia hạn thời hạn hoàn trả cho chủ nợ đến tháng 10/2027

Bình luận 0

Mẹo bình luận

Bài viết tuyệt vời. Mong có bài tiếp theo. Phân tích xuất sắc.

0/1000

Mẹo bình luận

Bài viết tuyệt vời. Mong có bài tiếp theo. Phân tích xuất sắc.
1