项目标题：LiteLLM-Python SDK与代理服务器调用100 + LLM APIs
项目简介
LiteLLM是一个Python SDK以及代理服务器（LLM网关），能够以OpenAI格式调用100多种大型语言模型（LLM）的API，这些API包括但不限于Bedrock、Azure、OpenAI、VertexAI、Cohere、Anthropic、Sagemaker、HuggingFace、Replicate、Groq等。它可以管理将输入转换为提供者的补全、嵌入和图像生成端点，确保一致的输出（文本响应始终可在[‘choices’][0][‘message’][‘content’]获取），并且具备跨多个部署（如Azure/OpenAI）的重试/回退逻辑，还可以为每个项目、API密钥、模型设置预算和速率限制等功能。
核心技术
从提供的信息来看，它主要是基于Python进行开发构建的SDK，利用相关技术将不同的LLM API整合，实现以OpenAI格式统一调用。在代理服务器方面，涉及到对不同端点的管理，例如提供身份验证、日志记录的钩子（hooks），成本跟踪以及速率限制等功能的实现技术。
实践案例
文档中给出了如进行常规调用（同步、异步、流式）、日志观察、代理服务器的快速启动、密钥管理等实践操作示例。例如在调用方面，展示了如何调用不同模型（如OpenAI的gpt-3.5-turbo、Cohere的command-nightly等），无论是同步还是异步调用都给出了示例代码；在日志观察方面，设置环境变量来将数据发送到不同的工具（如Lunary、Langfuse等）；代理服务器方面，展示了如何使用代理进行聊天补全请求，包括如何启动代理服务器、连接代理与PostgresDB进行代理密钥创建等操作。
项目总结
LiteLLM项目为开发者提供了一个便捷的方式来与众多的LLM API进行交互，整合多种功能于一身，无论是对于个人开发者还是企业级用户在处理多源LLM API调用场景下都具有一定的实用价值。希望大家能够在评论区积极留言，分享使用LiteLLM过程中的经验或者遇到的问题等。
项目地址
数据统计
数据评估
本站链氪巴士提供的LiteLLM-Python SDK与代理服务器调用100 + LLM APIs都来源于网络，不保证外部链接的准确性和完整性，同时，对于该外部链接的指向，不由链氪巴士实际控制，在2024年12月6日 上午12:00收录时，该网页上的内容，都属于合规合法，后期网页的内容如出现违规，可以直接联系网站管理员进行删除，链氪巴士不承担任何责任。
相关导航
DocViewer是一个在GitHub上开源的项目，采用MIT license许可证。这个项目专注于文档查看，能够支持如word、excel、pdf、rtf等多种格式的文件，这些文件来源可以是本地或者其他app分享过来的。项目基于Objective - C语言开发，使用了WebKit.framework系统库并涉及AFNetworking3.x三方库（需自行添加）。项目包含如文档列表显示、文档详情显示、与其他应用交互等功能相关的多个模块，每个模块有各自的配置和操作方式。在使用过程中可能遇到iOS9下HTTP请求等问题，需要特定的Info.plist配置解决，也欢迎使用者反馈问题来改进项目。
