pjlab-sys4nlp/llama-moe

⛷️ LLaMA-MoE: Building Mixture-of-Experts from LLaMA with Continual Pre-training (EMNLP 2024)

LLM & mô hình nền tảngPython Apache-2.0 60tạo 2023-07-24

Sao

1.005

Tăng 1 ngày

Tăng 7 ngày

—

Tăng 30 ngày

—

Lịch sử sao

Bắt đầu theo dõi: 2026-11-13

#continual-pre-training#expert-partition#llama#llm#mixture-of-experts#moe

Người đóng góp nhiều nhất

Chưa thu thập (chạy job contributors).

pjlab-sys4nlp/llama-moe · AI Repo Stats