首先我想告诉你,从事编程开发这一行,要学会的是学习的方式方法。方向对了,才能事半功倍。而我认为最快且行之有效的技术技能学习,就是上手实践。先不要搞太多的理论,买回来的自行车不能上来就拆,得先想办法骑起来。
所以小傅哥就是这样,学东西嘛。以目标为驱动,搭建可运行测试的最小单元版本。因为康威定律说;问题越小,越容易被理解和处理。所以在接触ChatGPT以后,我时常都在想怎么自己训练和部署一个这样的聊天对话模型,哪怕是很少的训练数据,让我测试也好。所以这个会喷人的傻狗机器人来了!
此页面为小傅哥所编程的WEB版聊天对话窗口
之后通过打开你的宝塔地址,创建站点和上传Web代码。
注意:目前的这份代码中访问websocket的配置在index.js中,你需要修改成你的服务器地址。
上传模型:这里你需要在本机安装一个SFTP工具,或者使用IntelliJIDEA提供的工具进行链接。链接后就可以把解压的模型上传到/home/GPT2-chitchat/model下。
这里小傅哥通过macnuoshell连接工具,进行模型启动;模型路径:/home/GPT2-chitchat/model/model_epoch40_50w
python3interact.py--no_cuda--model_path/home/GPT2-chitchat/model/model_epoch40_50w
以上就是整个GPT2-chitchat一个闲聊模型的部署,你也可以尝试使用Docker部署。如果在部署过程中实在很难部署成功,也可以找小傅哥买云服务,这样我可以直接把镜像部署到你的云服务上,就可以直接使用了。
THE END