跳到正文
← 返回项目导航
推理部署huggingface/text-generation-inference已归档

TGI

Hugging Face 官方推理容器,开箱即用

Star
11k
主要语言
Python
许可证
Apache-2.0
最近提交
2026-03-21

这是什么

镜像拉起来就能对外提供接口,带监控和批处理。不想自己调推理参数的话最省心。

官方入口

数据同步于 2026-11-21,来源 GitHub 公开接口。