LiteLLM
免费 + $1.7976931348623157e+308/次 起
LiteLLM用来处理大模型、自动化和金融相关的事。常见用法是免费 + $1.7976931348623157e+308/次 起，目前更适合能读英文界面的人。
1 次使用11个月前更新webEnglish
关于此工具
LiteLLM是大模型、自动化和金融方向的工具，被放在大模型、自动化和金融分类下。
从公开能力看，它更常被提到的是统一的 API 接入网关、费用追踪与预算控制和模型回退与负载均衡。
实际使用多出现在统一模型调用接口、企业级大模型平台建设和快速上线新模型。选型时对照输入输出，而不是只看名字。常见用法是免费 + $1.7976931348623157e+308/次 起。
工具截图
核心功能 ( 5 )
统一的 API 接入网关
「统一的 API 接入网关」是LiteLLM对外展示的能力之一，适合已经知道自己要这个结果的人。
费用追踪与预算控制
如果你的工作正好卡在费用追踪与预算控制，可以先拿LiteLLM试这一项。
模型回退与负载均衡
如果你的工作正好卡在模型回退与负载均衡，可以先拿LiteLLM试这一项。
企业级功能支持
「企业级功能支持」是LiteLLM对外展示的能力之一，适合已经知道自己要这个结果的人。
开源可自部署
如果你的工作正好卡在开源可自部署，可以先拿LiteLLM试这一项。
应用场景 ( 3 )
1
统一模型调用接口
在「统一模型调用接口」这类任务里，LiteLLM可以当作起点，先跑通再改细节。
2
企业级大模型平台建设
企业级大模型平台建设不是LiteLLM的全部，但很适合用来判断它是否符合你的工作方式。
3
快速上线新模型
如果你经常处理快速上线新模型，可以把LiteLLM放进候选，对比成本和出稿质量。
替代工具推荐
功能接近或能互补的选项，适合和当前工具对照试用。
对照理由：和LiteLLM一样都在大模型里，适合并排试用。
免费 + $1.7976931348623157e+308/次 起中文
APIPark
需要大模型、金融和数据工程时，先看APIPark能不能接进现有流程。常见用法是免费 + $1.7976931348623157e+308/次 起。
对照理由：和LiteLLM一样都在大模型里，适合并排试用。