公司内部部署本地共享版ChatGPT,一次搭建,多人免费使用,支持gpt-4.0,支持训练自己的知识库,定制各类AI系统
很多小伙伴来问怎么实现在公司内部部署一个本地版的ChatGPT,在公司内网部署和搭建,给全公司来使用。
今天 小智 分享下怎么来实现,快来一起看看吧。
(如果还有问题,或者想要联系智增增训练自己的知识库,欢迎联系我们定制需求,支持训练私有化大模型,支持定制各类AI系统:)
下面进入正文
一、问题的提出
要想能在公司(或内部)搭建一个本地版的ChatGPT,并让多人同时使用ChatGPT,主要有两个问题要解决:
- 一是前端的访问界面。这是终端用户直接的触点,能够让用户拥有类似ChatGPT的访问体验的。
- 二是通往ChatGPT的通道。这需要能科学上网,解决魔法上网的问题,同时还要能解决ChatGPT账号的并发问题。
问题一的解决,有这么一些考虑点:
- 因为并不对外提供服务,其实没必要部署在公网
- 而且在公网部署其实有风险的,首先ChatGPT因为大家都知道的原因,在国内是访问不了的。所以一切网站,一切在线的方式理论上都不稳定,容易莫名就访问不了了。而公司内部稳定的访问很重要。所以最好是部署在公司内网,仅提供给内部使用。
所以问题一可以通过这样来解决:将ChatGPT项目直接部署在内网,全员通过给定网址链接url来访问。
接下来是问题二的解决:ChatGPT通道的问题。可以使用我们智增增API的方式来解决。
最终实现公司内部所有人无缝同时访问chatgpt,当然也包括chatgpt的所有强大模型,包括GPT-3.5,GPT-4.0等。
下面分别再详细讲一下这两个问题都怎么来解决。
首先是问题一,这里我们举个例子,可以使用我们这个web项目chatgpt-web。当然如果前端页面的样式不是企业想要的,那也简单,联系我们来定制开发页面也是可以的。
一、chatgpt-web是什么?
简介:
用 Express 和 Vue3 搭建的 ChatGPT 网页
使用截图
部署使用
本项目,还实现了这些功能:
[✓] 双模型
[✓] 多会话储存和上下文逻辑
[✓] 对代码等消息类型的格式化美化处理
[✓] 访问权限控制
[✓] 数据导入、导出
[✓] 保存消息到本地图片
[✓] 界面多语言
[✓] 界面主题
到这里,问题一,就算是解决了。
接下来是问题二,ChatGPT通道的问题。使用智增增API的方式。最终直接在上面部署的chatgpt-web中配置key和url,即可实现公司内部所有人无缝同时访问chatgpt。
二、智增增Api是什么?
智增增API是智增增官方推出的大模型的API接口,
- 优质稳定的各类大模型的API接口
- 支持百度文心一言、阿里、讯飞星火、清华ChatGLM、ChatGPT等
- 不限制使用,可以用微信充值和对公付款等,没有封号风险。
- 不用买openai的账号,不用美元的银行卡。
- 无需代理即可访问。不用科学上网,不用魔法
- 强大的接口能力,支持openai所有接口和模型:支持assistant,gpt-4-1106,gpt-4-vision,GPT-3.5,GPT-4,Embedding,Whisper,TTS, Fine-tuning,DALL-E-3, Image等
Github地址:https://github.com/xing61/zzz-api
智增增API登录地址:https://gpt.zhizengzeng.com/
那么最终怎么来部署使用呢?
- 第1步:用手机号登录智增增,获取复制出key和url,地址:https://gpt.zhizengzeng.com/#/login
-
第2步:部署chatgpt-web,需要在环境变量中设置,将上一步复制的key和url填入,即可正常使用。注意配置的主机地址是:
https://api.zhizengzeng.com
- 第3步,启动服务就可以访问了!
安装 node、pnpm 等略过。
安装依赖:
后端,进入文件夹 /service 运行以下命令:pnpm install
前端,根目录下运行以下命令:pnpm bootstrap
上述处理完后,基本可以运行了:
后端服务,进入文件夹 /service 运行以下命令:pnpm start
前端网页,根目录下运行以下命令:pnpm dev
按照这个照做,运行在那,然后访问:http://ip:1002,就可以了,内网 IP 也是 OK 的,只要能访问。
至此算是完成了,把 http://ip:1002 分享给同学们,就可以 high 起来了。
大功告成!
联系智增增来搭建
如果部署还是有问题,或者想要联系智增增来搭建,也欢迎联系我们定制需求: