Site icon VGoods

用群晖的Docker搭建可以支持Microsoft Azure的ChatGPT,并支持ChatGPT 4模式。

Spread the love

前言:

Microsoft Azure 是除了 OpenAI 官方以外,唯一家的提供 OpenAI 云服务的云厂商,Azure OpenAI 提供的 API 服务使我们可以很方便部署自己的 群晖NAS里 。

Azure OpenAI API的优点:

缺点:

Azure OpenAI API 申请链接,申请不难请小伙伴自行研究。

正文

1、言归正传,我们需使用2个docker容器来实现,一个是chatgpt-web容器,github地址是:https://github.com/Chanzhaoyu/chatgpt-web。之前我有专门写过一篇文章,介绍如何安装配置,这里就不再赘述了。点击查看《小白用AI-用群晖docker搭建一个专用AI助手》

2、但chatgpt-web免费版不直接支持Azure OpenAI Key,所以我们需要使用azure-openai-proxy来做转换。github地址:https://github.com/stulzq/azure-openai-proxy

安装:

参数获取:打开部署好的azure官方的测试演示地址,点击“View Code”,在弹出窗口就可以看要用的参数(红色划线部分),然后再把下面的key复制保存到电脑上。

需要注意的是,Azure OpenAI 部署的模型名称是自定义的,所以需要做模型名称映射。

例子:

AZURE_OPENAI_MODEL_MAPPER: (OpenAI 模型名称)gpt-3.5-turbo=gpt-35-turbo(Azure OpenAI 部署模型名称)

最后检查参数无误就可以启动2个容器,用浏览器打开页面测试了。

总结:我们为什么要用azure-openai-proxy来做代理转换?因为这样可以让原先大多数应用经过简单修改就可以接入使用Azure OpenAI 。而不用重新搭建Azure OpenAI 专用的。

Exit mobile version