AISuite：简化跨多个 LLM 提供商的 GenAI 集成

wufei123 2025-01-05 阅读:41 评论:0

生成式人工智能 (gen ai) 正在凭借其创造力、解决问题和自动化的潜力重塑行业。然而，由于 api 和配置分散，开发人员在集成来自不同提供商的大型语言模型 (llm) 时经常面临重大挑战。互操作性的缺乏使工作流程变得复杂，延长了开发时间...

生成式人工智能 (gen ai) 正在凭借其创造力、解决问题和自动化的潜力重塑行业。然而，由于 api 和配置分散，开发人员在集成来自不同提供商的大型语言模型 (llm) 时经常面临重大挑战。互操作性的缺乏使工作流程变得复杂，延长了开发时间，并阻碍了有效的 gen ai 应用程序的创建。

为了解决这个问题，andrew ng 的团队推出了 aisuite，这是一个开源 python 库，可以简化 openai、anthropic 和 ollama 等提供商之间的法学硕士集成。 aisuite 使开发人员能够使用简单的“provider:model”字符串（例如 openai:gpt-4o 或 anthropic:claude-3-5）在模型之间切换，从而无需大量重写代码。通过提供统一的接口，aisuite 显着降低了复杂性，加速了开发，并为构建多功能 gen ai 应用程序开辟了新的可能性。

在本文中，我们将探讨 aisuite 的工作原理、实际应用以及它在解决与不同法学硕士合作的挑战方面的有效性。

入门目录

什么是aisuite
为什么aisuite很重要
使用 aisuite 进行实验
创建聊天完成
创建通用查询函数

什么是aisuite

aisuite 是由 andrew ng 团队开发的开源 python 库，用于简化来自多个提供商的大型语言模型 (llm) 的集成和管理。它抽象化了使用不同 api、配置和数据格式的复杂性，为开发人员提供了一个统一的框架来简化他们的工作流程。

aisuite的主要特点：

简单的界面：aisuite 提供了一个简单且一致的界面来管理各种 llm。开发者只需几行代码即可将模型集成到他们的应用程序中，大大降低了 gen ai 项目的进入门槛。
统一框架：通过抽象多个api之间的差异，aisuite无缝处理不同类型的请求和响应。这减少了开发开销并加速了原型设计和部署。
轻松模型切换：使用aisuite，模型之间的切换就像更改代码中的单个字符串一样简单。例如，开发人员可以指定“provider:model”组合，如 openai:gpt-4o 或 anthropic:claude-3-5，而无需重写应用程序的重要部分。
可扩展性：aisuite 旨在适应不断发展的 gen ai 环境。开发人员可以在新模型和提供程序可用时添加它们，确保应用程序保持最新的人工智能功能。

为什么aisuite很重要？

aisuite 解决了 gen ai 生态系统中的一个关键痛点：不同提供商的法学硕士之间缺乏互操作性。通过提供统一的接口，它简化了开发过程，节省了时间并降低了成本。这种灵活性允许团队通过为特定任务选择最佳模型来优化性能。

早期基准测试和社区反馈凸显了 aisuite 减少多模型应用程序集成时间、提高开发人员效率和生产力的能力。随着 gen ai 生态系统的发展，aisuite 降低了实验、构建和扩展人工智能驱动的解决方案的障碍。

尝试 aisuite

让我们通过安装必要的依赖项开始探索 aisuite。

安装依赖项

通过执行以下命令创建并激活虚拟环境。

PHP

python -m venv venv
source venv/bin/activate #for ubuntu
venv/scripts/activate #for windows

使用 pip 安装 aisuite、openai 和 python-dotenv 库。

PHP

pip install aisuite[all] openai python-dotenv

AISuite：简化跨多个 LLM 提供商的 GenAI 集成

设置环境和凭据

创建一个名为 .env 的文件。该文件将存储您的环境变量，包括 openai 密钥。

打开 .env 文件并添加以下代码来指定您的 openai api 密钥：

PHP

openai_api_key=sk-proj-7xypjkdag_gdl0_...
groq_api_key=gsk_8nigj24k2p0j5rwrwoobw...

将 api 密钥添加到环境变量中。

PHP

import os
from dotenv import load_dotenv
load_dotenv()
os.environ['openai_api_key'] = os.getenv('openai_api_key')
os.environ['anthropic_api_key'] = getpass('enter your anthropic api key: ')

初始化aisuite客户端

创建 aisuite 客户端实例，实现与多个 llm 的标准化交互。

PHP

client = ai.client()
defining the prompt
the prompt syntax closely resembles openai’s structure, incorporating roles and content.

messages = [
   {"role": "system", "content": "you are a helpful assistant."},
   {"role": "user", "content": "tell a joke in 1 line."}
]

查询型号

用户可以使用aisuite查询模型，如下。

PHP

# openai model
response = client.chat.completions.create(model="openai:gpt-4o", messages=messages, temperature=0.75)
# ollama model
response = client.chat.completions.create(model="ollama:llama3.1:8b", messages=messages, temperature=0.75)
# anthropic model
response = client.chat.completions.create(model="anthropic:claude-3-5-sonnet-20241022", messages=messages, temperature=0.75)
# groq model
response = client.chat.completions.create(model="groq:llama-3.2-3b-preview", messages=messages, temperature=0.75)
print(response.choices[0].message.content)

model="openai:gpt-4o"：指定模型的类型和版本。
messages=messages：将之前定义的提示发送到模型。
温度=0.75：调整响应的随机性。较高的值鼓励创造性输出，而较低的值会产生更具确定性的结果。
response.choices[0].message.content：从模型的响应中检索文本内容。

创建聊天完成

让我们使用 openai 模型创建聊天完成代码。

PHP

import os
from dotenv import load_dotenv
load_dotenv()
os.environ['openai_api_key'] = os.getenv('openai_api_key')

import aisuite as ai

client = ai.client()

provider = "openai"
model_id = "gpt-4o"

messages = [
    {"role": "system", "content": "you are a helpful assistant"},
    {"role": "user", "content": "provide an overview of the latest trends in ai"},
]

response = client.chat.completions.create(
    model = f"{provider}:{model_id}",
    messages = messages,
)

print(response.choices[0].message.content)

使用以下命令运行应用程序。

PHP

python app.py

您将得到如下输出，

AISuite：简化跨多个 LLM 提供商的 GenAI 集成

创建用于查询的通用函数

与其编写单独的代码来调用不同的模型，不如创建一个通用函数来消除代码重复并提高效率。

PHP

def ask(message, sys_message="you are a helpful assistant", model="openai:gpt-4o"):
    client = ai.client()
    messages = [
        {"role": "system", "content": sys_message},
        {"role": "user", "content": message}
    ]
    response = client.chat.completions.create(model=model, messages=messages)
    return response.choices[0].message.content

print(ask("provide an overview of the latest trends in ai"))

ask 函数是一个可重用的实用程序，设计用于向 ai 模型发送查询。它接受以下参数：

消息：用户的查询或提示。 sys_message（可选）：指导模型行为的系统级指令。
model：指定要使用的ai模型。该函数处理输入参数，将其发送到指定模型，并返回 ai 的响应，使其成为与各种模型交互的多功能工具。

下面是使用通用询问函数与 openai 模型交互的完整代码。

PHP

import os
from dotenv import load_dotenv
load_dotenv()
os.environ['openai_api_key'] = os.getenv('openai_api_key')

import aisuite as ai

def ask(message, sys_message="you are a helpful assistant", model="openai:gpt-4o"):
    client = ai.client()
    messages = [
        {"role": "system", "content": sys_message},
        {"role": "user", "content": message}
    ]
    response = client.chat.completions.create(model=model, messages=messages)
    return response.choices[0].message.content

print(ask("provide an overview of the latest trends in ai"))

运行代码将产生以下输出。

AISuite：简化跨多个 LLM 提供商的 GenAI 集成

与多个 api 交互

让我们通过以下代码探索使用 aisuite 与多个模型进行交互。

PHP

import os
from dotenv import load_dotenv
load_dotenv()
os.environ['OPENAI_API_KEY'] = os.getenv('OPENAI_API_KEY')
os.environ['GROQ_API_KEY'] = os.getenv('GROQ_API_KEY')

import aisuite as ai

def ask(message, sys_message="You are a helpful assistant", model="openai:gpt-4o"):
    client = ai.Client()
    messages = [
        {"role": "system", "content": sys_message},
        {"role": "user", "content": message}
    ]
    response = client.chat.completions.create(model=model, messages=messages)
    return response.choices[0].message.content

print(ask("Who is your creator?"))
print(ask('Who is your creator?', model='ollama:qwen2:1.5b'))
print(ask('Who is your creator?', model='groq:llama-3.1-8b-instant'))
print(ask('Who is your creator?', model='anthropic:claude-3-5-sonnet-20241022'))