金山云发布三款大模型镜像 赋能云端高效部署“算力+模型”
跟着生成式人工智能手艺的络续成熟,人们的创作体式获得了络续的刷新,经由输入一段文字就能创作一幅高质量的画作、一段代码或一首古诗。在垂直专业范畴,经由对生成式人工智能大模型进行微调也能赋能专业范畴的生产力。
是以,各行各业都在积极索求生成式人工智能大模型的落地应用,这鞭策生成式人工智能大模型所对应较量资源的需求日益增进。跟着需求的井喷,若何快速高效地获取和布置生成式人工智能大模型成为诸多企业与斥地者的主要诉求。
为了有效知足客户对生成式人工智能大模型的算力与快速布置需求,金山云近期发布了ChatGLM-6B、Stable Diffusion及Alpaca-Lora三款生成式人工智能大模型镜像。当前所有大模型均免费供应,客户只需要为选择的GPU云办事器付费,经由几个简洁的步伐,可分钟级完成生成式人工智能大模型微调或推理情况的搭建,赋能各范畴的生产力需求。
生成式人工智能大模型布置步伐
1.登录金山云「云办事器KEC掌握台」
2.单击「新建实例」,按需完成相关 GPU 云办事器设置
GPU云办事器选型参考:
https://docs.ksyun.com/documents/6526
3.镜像类型选择镜像市场-对象软件,选择需要布置的大模型所对应的市场镜像,如ChatGLM-6B
4.完成收集与系统设置并提交订单以建立GPU云办事器
5.保持登录GPU云办事器,按照选择的市场镜像对应的使用指南,执行历程启动号令
使用指南获取方式:
进入云市场https://market.ksyun.com/list,搜刮对应的市场镜像名称,点击进入后下载使用指南
镜像市场生成式人工智能模型介绍
01
ChatGLM-6B
ChatGLM-6B是由清华大学开源发布的具有62亿参数的入门级中英双语开源模型。经由对大量数据进行练习,ChatGLM具备中英文问答和对话能力。ChatGLM-6B在1:1比例的中英语料上练习了1T的token量,与国外模型比拟,具有加倍超卓的中文对话能力,加倍适合国内企业与斥地者索求落地应用偏向。
同时,ChatGLM-6B优化了模型的参数和巨细,连系金山云供应的ChatGLM-6B镜像和对应GPU云办事供应的快速布置能力,各企业及斥地者微和谐布置ChatGLM-6B的门槛大大降低。
ChatGLM-6B在金山如此办事器上的实机布置后推理演示示例:
例如输入「请创作一首古诗」,输出:
02
Stable Diffusion
Stable Diffusion是由Stability人工智能公司开源发布的生成式人工智能模型,可以凭据文本或已有图片生成高差别率的图像。Stable Diffusion模型经由大量高质量图像练习且高度天真,可以生成各类类型(如人物、景致等)的图像,生成的图像具有较高的真切度和细节示意力,为斥地者供应了普遍的应用场景。
经由金山云供应的Stable Diffusion镜像和GPU云办事,斥地者能够快速布置该开源预练习模型的情况并进行对应的微和谐推理,降低了进修和使用门槛。
Stable Diffusion在金山如此办事器上的实机布置后推理演示示例:
例如输入
「masterpiece,best quality 1squirrel,cute,hat,tree」
输出:
03
Alpaca-Lora
Alpaca-Lora是使用Lora(Low-rank Adaptation)手艺在Meta的LLaMA 7B模型上微调而生成的轻量级开源模型。其优势是速度更快、使用的显存更少,连系金山云供应的Alpaca-Lora镜像和GPU云办事大大降低了企业和斥地者布置类ChatGPT模型微和谐推理情况的使用门槛。
Alpaca-Lora在金山如此办事器上的实机布置后推理演示示例:
例如输入「make a poem」,输出: