alibaba/rtp-llm

RTP-LLM: Alibaba's high-performance LLM inference engine for diverse applications.

LLM & mô hình nền tảngPython Apache-2.0 304tạo 2023-12-27

Sao

1.398

Tăng 1 ngày

—

Tăng 7 ngày

—

Tăng 30 ngày

—

Lịch sử sao

Bắt đầu theo dõi: 2026-11-13

Đồ thị xuất hiện sau ít nhất 2 ngày thu thập.

#gpt#inference#llama#llm#llm-serving#llmops#model-serving

Người đóng góp nhiều nhất

Chưa thu thập (chạy job contributors).

alibaba/rtp-llm · AI Repo Stats