搜索“vLLM”

当Token成为一门生意：NVIDIA谈企业如何算清AI这笔账

NVIDIA中国区工程和解决方案副总裁赖俊杰提出"Token经济学"四支柱——价值、需求、供给、变现，用于衡量企业AI投入的产出效率。他指出一个智能体任务可能涉及50到500次连续模型调用，多智能体协作会进一步放大Token消耗。中国日均Token调用量已从2024年初的1000亿增至今年3月的140万亿。