平台快速开始
本节以 LLaMA2-7B模型为例简单介绍如何使用VastTrain 平台。
前提条件
使用 VastTrain 平台前,需要单击注册入口注册账号。
如果您已是开发者,可直接登录使用。关于平台计费标准可参考计费概述。
流程说明
VastTrain 平台覆盖从数据管理、模型训练、模型评估、量化编译、服务部署全流程,接入了业内通用和领域专用模型,降低全流程AI开发门槛。

图 4 训练流程
操作步骤
步骤 1. 创建训练数据集。
在“控制台”页面的左侧导航树选择“数据工程 > 数据管理”,进入“数据管理”页面,单击“创建数据集”。

图 5 创建数据集
在“创建数据集”页面按页面提示配置参数,单击“创建数据集”。参数详细说明可参考创建数据集。
假设创建的数据集为训练类型为Pretrain的训练数据集。

图 6 配置数据集信息
在“数据管理”页面单击刚创建的数据集,进入“详情”页面。
在“详情 > 数据集文件”页面上传已准备的数据集。

图 7 上传数据集
待数据集自动生成预览后,可在“详情 > 数据集预览”页面查看。

图 8 预览数据集
待生成预览数据集后,在“统计分析”页面单击“创建分析任务”,对已上传的数据集进行分析。

图 9 分析数据集
待分析完成后,可在当前页面查看数据分析结果。

图 10 分析数据集
待分析完成后,在“详情”页面“处理”下拉菜单选择“去处理”,进入“创建数据处理任务”页面。

图 11 处理数据集
在“创建数据处理任务”页面根据页面提示对数据进行处理。详细说明请参考数据处理。
备注
当前数据集已对数据进行分析,所以可对过滤算子开启智能参数设置。

图 12 处理数据

图 13 开启智能参数设置
步骤 2. 创建训练任务。
待数据处理完后进行模型训练。
在“控制台”页面的左侧导航树选择“模型开发 > 模型训练”,进入“模型训练”页面,单击“创建训练任务”。

图 14 创建训练任务
在“创建训练任务”页面配置训练参数。参数详细说明请参考模型训练。

图 15 配置训练参数
启动训练任务后,VastTrain会根据训练时长进行扣费。

图 16 训练计费
步骤 4. (可选) 创建模型评估任务。
待模型训练完成后可对已训练的模型进行评测。
在“控制台”页面的左侧导航树选择“模型开发 > 模型评估”,进入“模型评估”页面,单击“创建评估任务”。

图 17 创建评估任务
在“创建评估任务”页面配置评估参数。参数详细说明请参考模型评估。本节中假设使用两个评测数据集。

图 18 配置评估参数
步骤 5. 创建模型编译任务。
模型训练完成后需对模型进行编译,以便部署服务。
在“控制台”页面的左侧导航树选择“模型开发 > 模型编译”,进入“模型编译”页面,单击“创建模型编译任务”。

图 19 创建模型编译任务
在“创建模型编译任务”页面配置编译参数。参数详细说明请参考模型编译。

图 20 配置编译参数
启动模型编译后,VastTrain会根据编译时长进行扣费。
模型量化编译完成后可部署服务或导出模型。详细可参考模型编译。
步骤 6. 部署服务。
在“控制台”页面的左侧导航树选择“模型服务 > 部署服务”,进入“部署服务”页面,单击“创建部署服务”。

图 21 创建部署服务
在“创建部署服务”页面配置部署服务参数。参数详细说明请参考部署服务。

图 22 配置部署服务参数
在“部署服务”页面选择已部署的服务,单击“启动”启动服务。

图 23 启动服务
启动后,VastTrain会根据服务运行时长扣费。
步骤 7. 待服务状态变为“运行中”,可在线体验服务或复制服务的API。

图 24 服务启动成功