AWS Machine Learning Blog· Sitaraman Vijay Krishna·· 3 小时前AI 评分36
用 Amazon Bedrock 和 LiteLLM 构建自助式 LLM 网关
Building a self-service LLM gateway with Amazon Bedrock and LiteLLM
AI 导读
在 AWS Fargate 上运行 LiteLLM，可将 Amazon Bedrock 封装为 OpenAI 兼容 API，开发者用专属 API key 通过单一入口访问 Claude Sonnet、Claude Haiku 等模型。
来源：AWS Machine Learning Blog · aws.amazon.com