Back to top
  • 링크복사 Copy link
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

Share

x
chuỗi khối

Google Add as a preferred source on Google

Kimi đạt tốc độ suy luận nhanh gần 3 lần nhờ AI viết lại kernel attention

Kiểm tra bo mạch tăng tốc GPU hiệu năng cao / TokenPost.ai

Kernel attention của Kimi được AI viết lại để tối ưu cho GPU Nvidia, ghi nhận tốc độ suy luận nhanh gần 3 lần so với phiên bản chính thức, theo một báo cáo.

BlockBeats đưa tin AI đã tối ưu kernel GPU được sử dụng cho phép tính attention của Kimi, trong đó phiên bản viết lại đạt tốc độ nhanh gần 3 lần so với bản chính thức. Kernel là đoạn mã cấp thấp giúp chạy phép tính attention của các mô hình trí tuệ nhân tạo trên GPU.

Moonshot AI đã công khai FlashKDA dành cho Kimi Delta Attention, được xây dựng trên nền tảng CUTLASS của Nvidia. vLLM cũng cho biết đã áp dụng kernel CUDA hợp nhất cùng kernel được phát triển trong hợp tác với Nvidia cho Kimi K3.

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

#Kimi #Trí tuệ nhân tạo #GPU Nvidia #kernel attention #Moonshot AI

Most Popular

1
CoreWeave đạt doanh thu 3,7 tỷ USD trong quý III, nâng dự báo cả năm
2
Lao động Brazil quay video việc nhà để huấn luyện AI, chỉ phần được duyệt mới được trả công
3
IREN giảm 3,3% trong phiên ngày 10, CCB Int’l hạ khuyến nghị xuống 'Trung lập'
4
Grok: SpaceX viết lại phần mềm huấn luyện và suy luận bằng C, C++
5
10/12 loại hình kết hợp bị lo ngại hạn chế cạnh tranh, KFTC thẩm định thương vụ Naver Financial–Dunamu
6
Đầu năm 2027, Samsung Electronics đặt mục tiêu hoàn tất 3D Cube-H
7
Vàng giao ngay tăng 2,07% ngày 9; CPI Mỹ tháng 10 có thể thiếu dữ liệu so sánh
8
Coinbase(COIN), Kalshi và Payward xin nộp ý kiến ủng hộ CFTC trong vụ kiện về hợp đồng tương lai vĩnh cửu theo cổ phiếu
9
ETF Bitcoin giao ngay Mỹ rút ròng 1,4827 tỷ USD trong 6 phiên, cùng các tin đáng chú ý
10
Số ví Bitcoin có số dư giảm khoảng 108.700 kể từ ngày 16 tháng 10

Other related articles

Anthropic cảnh báo AI có thể gây rủi ro hiện hữu cho nhân loại trong hồ sơ IPO

ChatGPT Pro 200 USD/tháng được báo cáo sẽ mở lại, hạn mức quy đổi API giảm một nửa

OpenAI đề xuất ghi chép 'lập luận an toàn' trước khi huấn luyện AI bằng tăng cường tiên tiến

Jensen Huang: “Chưng cất mô hình AI là cạnh tranh, không phải ăn cắp”

EU yêu cầu mở 11 tính năng Android, xung đột quyền AI với Google

Category article

See more

Binance Futures dự kiến niêm yết HYPEUSDC, TRXUSDC ngày 11, đòn bẩy tối đa 75x

Hơn 100 GW trong kế hoạch mở rộng thiết bị sản xuất của SINGULUS; SpaceX ký hợp đồng HJT

Anthropic tự đánh giá đạt chuẩn năng lực R&D AI; 4 mô hình truy cập trái phép hệ thống bên thứ ba

DRAM, SSD doanh nghiệp có tín hiệu tăng giá trước thông báo chính thức

6.087 ETH được cá voi mua lại, nhiều hơn 719 ETH so với lượng bán trước

4,89 triệu máy chủ toàn cầu quý IV/2026, Quanta Computer (2382) được dự báo chiếm 25%

Báo cáo: Hệ thống FSI bị hack, lộ khoảng 300 mục dữ liệu nhân viên

Gate bổ sung giao dịch hợp đồng MIHAO, bot và copy trading vào khu vực hợp đồng meme

Tăng hơn 16% so với giá đóng cửa phiên trước, Cambridge Technology (06166.HK)

Across Protocol khôi phục quyền kiểm soát tên miền, hệ thống hoạt động bình thường

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1