MegEngine/InferLLM

a lightweight LLM model inference framework

LLM & mô hình nền tảngC++ Apache-2.0 94tạo 2023-05-04

Sao

752

Tăng 1 ngày

Tăng 7 ngày

—

Tăng 30 ngày

—

Lịch sử sao

Bắt đầu theo dõi: 2026-11-13

#deeplearning#inference#llm#mobile

Người đóng góp nhiều nhất

Chưa thu thập (chạy job contributors).

MegEngine/InferLLM · AI Repo Stats