← 返回项目导航
推理部署huggingface/text-generation-inference已归档
TGI
Hugging Face 官方推理容器,开箱即用
- Star
- 11k
- 主要语言
- Python
- 许可证
- Apache-2.0
- 最近提交
- 2026-03-21
这是什么
镜像拉起来就能对外提供接口,带监控和批处理。不想自己调推理参数的话最省心。
官方入口
数据同步于 2026-11-21,来源 GitHub 公开接口。