aisuite是開源的Python庫，吳恩達（Andrew Ng）發布的，旨在提供一個統一的接口來調用多個大型語言模型（LLM）服務。支持包括OpenAI、Anthropic、Azure等在內的11個模型平臺，開發者能輕松切換和測試不同提供商的模型。通過aisuite，用戶可以便捷地獲取API密鑰并設置環境變量，實現對不同語言模型的訪問和調用。簡化了多模型管理和測試的工作，促進了人工智能技術的應用和發展。
aisuite的主要功能統一接口設計：aisuite提供了一個統一的接口，開發者能以相同的方式調用不同大型語言模型（LLM）平臺的模型。支持多個模型平臺：aisuite 支持包括 OpenAI、Anthropic、Azure、Google、AWS、Groq、Mistral、HuggingFace 和 Ollama 在內的多個模型平臺。簡化模型切換：用戶只需通過更改一個字符串，即可選擇不同提供商的模型，極大地簡化了模型切換和對比測試的過程。易于安裝和配置：aisuite的安裝過程簡便，用戶只需準備Python環境和所需的API密鑰，可通過簡單的命令安裝框架。主要關注聊天功能：目前，aisuite主要關注于增強聊天功能，未來計劃擴展到更多使用場景。擴展性：aisuite計劃增加更多功能模塊，例如函數調用等，以進一步豐富其實用性。使用HTTP端點或SDK調用：為了確保穩定性，aisuite使用HTTP端點或SDK來與提供商進行調用。aisuite的項目地址Github倉庫：https://github.com/andrewyng/aisuite/pulse如何使用aisuite安裝aisuite：可以通過pip命令來安裝aisuite。只安裝基礎包，不涉及任何提供商的SDK，使用命令pip install aisuite。需要特定提供商的支持，比如Anthropic，可以使用命令pip install 'aisuite (anthropic)'。要安裝所有特定于提供商的庫，使用命令pip install 'aisuite (all)'。獲取API密鑰：安裝后，需要為所選的提供商獲取API密鑰，通過環境變量進行配置。編寫Python客戶端：配置好API密鑰后，可以使用標準的Python客戶端來請求聊天補全等功能。例如，以下是使用aisuite生成聊天補全響應的Python客戶端示例代碼：import aisuite as aiclient = ai.Client()models = ["openai:gpt-4o", "anthropic:claude-3-5-sonnet-20241022"]messages = [ {"role": "system", "content": "Respond in Pirate English."}, {"role": "user", "content": "Tell me a joke."},]for model in models: response = client.chat.completions.create( model=model, messages=messages, temperature=0.75 ) print(response.choices[0].message.content)
