返回列表
ChatGLM-Infer-Pytorch1.11-Cann6.3.rc1-Python3.7-Euler2.8
PyTorch
Others
ModelArts
下载量:47
上传者:用户16556355
点赞
0
有改进之处
0
收藏
收藏
版本信息
Python版本:3.7
CANN版本:6.3.RC1
操作系统版本:Euler2.8
Pytorch:1.11
使用说明

Chatglm镜像

 

使用说明:

1)  本地选择ARM服务器拉取该镜像,镜像已预置成Public,无需登录,直接拉取即可;

2)  将拉取的镜像推到本局点的SWR,然后通过ModelArts的自定义镜像功能使用;

3)  创建实例后,以ma-user用户启动后,会自动下载迁移好的chatglm推理代码

用户只需运行taskset -c 0-23 python3 test_glm.py 即可推理

镜像地址
在其他AICC使用本镜像时,
1) 在本地arm宿主机通过docker pull 拉取上面镜像到本地(即执行docker pull swr.cn-central-221.ovaijisuan.com/wuh-aicc_dxy/chatglm:v7)
2) 用docker tag 将局点信息和组织名替换成对应版本(即执行 docker tag swr.cn-central-221.ovaijisuan.com/wuh-aicc_dxy/chatglm:v7 swr.cn-northeast-226.syaicenter.com/sypublic/ chatglm:v7),
3) 用docker push 将修改后的镜像名称推送到局点的swr服务中(即执行docker push swr.cn-northeast-226.syaicenter.com/sypublic/ chatglm:v7)
这里swr.cn-central-221.ovaijisuan.com表示局点信息, wuh-aicc_dxy为组织名,mindspore_sponge_r0_2_0:cann6.3rc1-python3.7.10-Euler2.8为镜像名称。
备用镜像地址
在其他AICC使用本镜像时,
1) 在本地arm宿主机通过docker pull 拉取上面镜像到本地(即执行docker pull swr.cn-central-221.ovaijisuan.com/wuh-aicc_dxy/chatglm:v7)
2) 用docker tag 将局点信息和组织名替换成对应版本(即执行 docker tag swr.cn-central-221.ovaijisuan.com/wuh-aicc_dxy/chatglm:v7 swr.cn-northeast-226.syaicenter.com/sypublic/ chatglm:v7),
3) 用docker push 将修改后的镜像名称推送到局点的swr服务中(即执行docker push swr.cn-northeast-226.syaicenter.com/sypublic/ chatglm:v7)
这里swr.cn-central-221.ovaijisuan.com表示局点信息, wuh-aicc_dxy为组织名,mindspore_sponge_r0_2_0:cann6.3rc1-python3.7.10-Euler2.8为镜像名称。
评论
若您有任何疑虑,您可以在这里反馈您的建议。
发布
用户40231899
这是chatglm的什么版本啊,6b,130b?
2023-05-29 11:49
用户16556355
6b
2023-06-07 12:25
发布
0.045965s