跳到正文
热点事件持续更新

AWS 演示用 Bedrock 与 LiteLLM 搭 LLM 网关

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

AWS Machine Learning Blog 发布文章,演示如何用 Amazon Bedrock Application Inference Profiles 配合运行在 AWS Fargate 上的 LiteLLM,搭建一个把 Bedrock 封装为 OpenAI 兼容 API 的自助式 LLM 网关。 该方案面向希望以 OpenAI 兼容接口调用 Bedrock 模型的用户,网关运行在 AWS Fargate 上。文章为技术演示,未给出实际部署后的效果数据。

AI 根据报道生成 · 31 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月13日
  1. AWS Machine Learning Blog
    用 Amazon Bedrock 和 LiteLLM 构建自助式 LLM 网关

    文章演示如何用 Amazon Bedrock Application Inference Profiles 配合运行在 AWS Fargate 上的 LiteLLM,搭建把 Bedrock 封装为 OpenAI 兼容 API 的自助式 LLM 网关。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。