目 录CONTENT

文章目录
AI

【第十八期】-手把手部署个人AI对话平台之-智谱篇

项目背景

在上一篇中,我用Oneapi对接Agnes大模型后, 部署了Halo博客AI助手,及结合Chatgpt-next-web部署了个人AI对话平台,经过一天的体验使用,因Agnes属于国外大模型, 动不动就连不上,想着改成国内免费的大模型,最终锁定了智谱,永久免费模型:glm-4-flash、glm-4.7-flash

640-VsGX
640-ziVh

正式部署

首先一样需要进行账号注册并成生成一组ONEAPI专用

图片

接下去再oneapi管理界面添加智谱渠道

图片

注意,渠道里面大模型要设定别名,直接使用会绕过oneapi

640-NulN

令牌这边不用做改动

图片

接下来重建chatgpt-next-web,默认模型设定为glm4-flash,oneapi会自动转发到真实模型名称glm-4-flash

docker rm -f chatgpt-next-web
docker run -d \
  --name chatgpt-next-web \
  --restart unless-stopped \
  -p 3900:3000 \
  -e OPENAI_API_KEY="xxx" \
  -e BASE_URL="xxx" \
  -e DEFAULT_MODEL="glm4-flash" \
  -e CUSTOM_MODELS="-all,+glm4-flash,+glm4.7-flash,+agnes-2.0-flash,+agnes-2.5-flash,+agnes-image-2.0-flash,+agnes-image-2.1-flash,+agnes-video-v2.0" \
  -e DISABLE_FAST_LINK="1" \
  yidadaa/chatgpt-next-web:latest

部署完成后,测试了一下速度,比agnes快太多了

640-kpOK
640-CtMV

Halo博客一样AI模型添加智谱大模型

640-CWPf
640-ruow

测试一下,速度快了很多,OKK,先到这里,后面会结合AI来做一些事情

640-Txep
640-xUeC


0
AI
  1. 支付宝打赏

    qrcode alipay
  2. 微信打赏

    qrcode weixin

评论区