One-Api安装配置指南

最近我打算学习一下Semantic Kernel和OpenAI的Api,但申请过程有些麻烦。因此,我决定先通过One-api对接国内的在线大模型,以便熟悉Semantic Kernel的基本用法。本文将重点记录OneApi的安装配置过程。

讯飞星火提供了3.5版本的模型和200w个人免费token,非常适合学习使用。

讯飞星火申请链接

什么是 One-Api?

One-Api是一个通过标准的OpenAI API格式访问所有大模型的工具。它支持多种大模型,包括OpenAI ChatGPT系列模型、Anthropic Claude系列模型、Google PaLM2/Gemini系列模型、Mistral系列模型、百度文心一言系列模型、阿里通义千问系列模型、讯飞星火认知大模型等。详情请参阅One-Api的github repo。

本地 Docker Destop 安装 One-Api

首先,拉取One-Api镜像。

docker pull justsong/one-api

使用SQLite的部署命令:

启动容器,默认宿主机端口为3000。

docker run --name one-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v C:/LLM/OneApi-V-Data:/data justsong/one-api

由于我的宿主机是Windows操作系统,因此数据卷映射的宿主机盘需要注意是带Windows盘符。

One-Api配置界面

在浏览器中打开http://localhost:3000/。

默认情况下,One-Api提供了一个默认的root账号,密码是123456。第一次登录后需要修改密码。

配置渠道

配置讯飞星火3.5模型。

查看渠道列表。

密钥这个地方需要注意格式:APPID|APISecret|APIKey。

申请令牌。

拿到密钥就可以在我们项目中以OpenAI格式去请求我们的大模型接口。

测试

在接口测试工具先看一下效果。


地址

http://localhost:3000/v1/chat/completions


请求头

Authorization:Bearer {OneApiToken}

接口管理工具查看效果。


接口入参

{
  "model": "SparkDesk-v3.5",
  "messages": [
    {
      "role": "user",
      "content": "给我讲个笑话吧。"
    }
  ],
  "temperature": 0.7
}


接口回参

{
  "id": "chatcmpl-04025f1484c54770a8d854de360fd06e",
  "object": "chat.completion",
  "created": 1715000959,
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "当然可以,这是一个我最近听到的笑话:\n\n有一天,一只猫走进了一个酒吧,然后走到吧台前坐下,对酒保说:“我要一杯牛奶。”\n\n酒保惊讶地看着猫,然后说:“你是我见过的第一只会说话的猫。”\n\n猫看着酒保,回答说:“考虑到你的服务速度,我也没什么好惊讶的。”"
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 6,
    "completion_tokens": 75,
    "total_tokens": 81
  }
}

最后

到现在为止,我们已经成功地将One-Api对接讯飞星火。接下来,我们可以愉快地进入Semantic Kernel的入门学习教程。社区内也有大佬提供了星火大模型的SDK(Sdcb.SparkDesk),通过SK的CustomLLM实现ITextGenerationService等接口,也可以愉快地使用SK。当然,这也是我们后面要学习的内容。


参考文献

实战教学:用Semantic Kernel框架集成腾讯混元大模型应用

未经允许不得转载:大白鲨游戏网 » One-Api安装配置指南