项目背景
在上一篇中,我用Oneapi对接Agnes大模型后, 部署了Halo博客AI助手,及结合Chatgpt-next-web部署了个人AI对话平台,经过一天的体验使用,因Agnes属于国外大模型, 动不动就连不上,想着改成国内免费的大模型,最终锁定了智谱,永久免费模型:glm-4-flash、glm-4.7-flash
正式部署
首先一样需要进行账号注册并成生成一组ONEAPI专用
接下去再oneapi管理界面添加智谱渠道
注意,渠道里面大模型要设定别名,直接使用会绕过oneapi
令牌这边不用做改动
接下来重建chatgpt-next-web,默认模型设定为glm4-flash,oneapi会自动转发到真实模型名称glm-4-flash
docker rm -f chatgpt-next-web
docker run -d \
--name chatgpt-next-web \
--restart unless-stopped \
-p 3900:3000 \
-e OPENAI_API_KEY="xxx" \
-e BASE_URL="xxx" \
-e DEFAULT_MODEL="glm4-flash" \
-e CUSTOM_MODELS="-all,+glm4-flash,+glm4.7-flash,+agnes-2.0-flash,+agnes-2.5-flash,+agnes-image-2.0-flash,+agnes-image-2.1-flash,+agnes-video-v2.0" \
-e DISABLE_FAST_LINK="1" \
yidadaa/chatgpt-next-web:latest部署完成后,测试了一下速度,比agnes快太多了
Halo博客一样AI模型添加智谱大模型
测试一下,速度快了很多,OKK,先到这里,后面会结合AI来做一些事情
评论区