PaddlePaddle/FastDeploy

High-performance Inference and Deployment Toolkit for LLMs and VLMs based on PaddlePaddle

LLM & mô hình nền tảng Suy luận & chạy LLM cục bộĐang phát triển (push trong 90 ngày)Python Apache-2.0 757tạo 2022-06-27

Sao

3.723

Tăng 1 ngày

Tăng 7 ngày

—

Tăng 30 ngày

—

Lịch sử sao

Bắt đầu theo dõi: 2026-11-13

#ernie#ernie-45#ernie-45-vl#inference#llm#llm-serving#openai#serving#vllm

Người đóng góp nhiều nhất

Chưa thu thập (chạy job contributors).