ccruiの博客

ccruiの博客

豆包大模型转换为 OpenAI 接口

298
2024-06-29

豆包大模型转换为 OpenAI 接口

前言

在国内 AI 浪潮中,字节跳动旗下的豆包大模型以独特的策略吸引了广泛关注,特别是其极具竞争力的价格。新用户首次开通服务即可享受 50 万 token 的免费试用额度,以便亲身体验其强大功能。此外,豆包大模型在 5 月 15 日至 8 月 30 日期间,还推出了高达 5 亿 token 的免费活动。唯一的要求是,参与用户需同意提供其聊天数据,以便豆包大模型进行进一步的训练与优化。

豆包大模型定价

豆包大模型定价

豆包大模型接入方法

1. 注册豆包大模型账号

首先,注册一个豆包大模型账号。打开字节跳动火山引擎官网,并进行注册。

2. 开通服务

进入 火山方舟 控制台,点击 开通管理,查看当前可使用的全部模型与当前免费额度,点击模型右侧的开通服务,即可开通对应模型的服务。

3. 获取 5 亿 token(可选)

火山方舟 控制台 开通管理界面 上方,点击获取 5 亿 token 活动的链接,点击 去参加,即可参与活动。

获取5亿token活动

4. 创建推理接入点

豆包大模型的接入方法与 OpenAI 的有所不同,需要先在 火山方舟 控制台 模型推理 页面创建一个推理接入点。

创建推理接入点

推理接入点创建完成后,会生成一个 ID 作为模型名称进行使用。例如,我创建的推理接入点模型 ID 为 ep-202406xxxxxxxxx,在请求模型时,需要将其作为模型名称使用。

5. 获取 API Key

火山方舟 控制台 API Key 管理 页面,点击 创建API Key,即可生成一个用于调用模型的 API Key。

使用兼容层转换接口

豆包大模型的接口与 OpenAI 的接口有所不同,可以使用兼容层转换接口来实现兼容。推荐使用 One Api 进行转换。

部署 OneApi

OneApi 部署方法相当简单,使用 Docker 直接运行即可。

docker run --name one-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v ./data:/data justsong/one-api

OneApi 默认监听 3000 端口,可以通过 -p 参数指定端口,首次登录账号密码为 root 123456

配置 OneApi

  1. 登录 OneApi 后,点击 渠道,选择 添加新的渠道,并选择 字节跳动豆包 模型。

  2. 由于豆包模型接入的特殊性,我们需要通过 模型重定向 的方式来方便调用模型。在 模型重定向 中定义一个 JSON,用于将模型 ID 转换为模型名称。

    {
    "Doubao-pro-128k": "ep-2024xxxxxxxx",
    "Doubao-pro-32k": "ep-2024xxxxxxxx",
    "Doubao-lite-128k": "ep-2024xxxxxxxx",
    "Doubao-lite-32k": "ep-2024xxxxxxxx"
    }
    

    模型重定向配置

  3. 添加完成后,点击 令牌,创建一个新的令牌,用于调用模型。

    创建令牌

通过上述步骤,便可成功将豆包大模型转换为 OpenAI 接口,实现无缝兼容。