平台快速开始

本节以 LLaMA2-7B模型为例简单介绍如何使用VastTrain 平台。

前提条件

使用 VastTrain 平台前,需要单击注册入口注册账号。

如果您已是开发者,可直接登录使用。关于平台计费标准可参考计费概述

流程说明

VastTrain 平台覆盖从数据管理、模型训练、模型评估、量化编译、服务部署全流程,接入了业内通用和领域专用模型,降低全流程AI开发门槛。

../_images/process.png

图 4 训练流程

操作步骤

步骤 1. 创建训练数据集。

  1. 在“控制台”页面的左侧导航树选择“数据工程 > 数据管理”,进入“数据管理”页面,单击“创建数据集”。

../_images/quickstart_create_dataset.png

图 5 创建数据集

  1. 在“创建数据集”页面按页面提示配置参数,单击“创建数据集”。参数详细说明可参考创建数据集

假设创建的数据集为训练类型为Pretrain的训练数据集。

../_images/quickstart_create_dataset_detail.png

图 6 配置数据集信息

  1. 在“数据管理”页面单击刚创建的数据集,进入“详情”页面。

  2. 在“详情 > 数据集文件”页面上传已准备的数据集。

../_images/quickstart_upload_dataset.png

图 7 上传数据集

待数据集自动生成预览后,可在“详情 > 数据集预览”页面查看。

../_images/quickstart_preview_dataset.png

图 8 预览数据集

  1. 待生成预览数据集后,在“统计分析”页面单击“创建分析任务”,对已上传的数据集进行分析。

../_images/quickstart_analysis_dataset.png

图 9 分析数据集

待分析完成后,可在当前页面查看数据分析结果。

../_images/quickstart_analysis_result.png

图 10 分析数据集

  1. 待分析完成后,在“详情”页面“处理”下拉菜单选择“去处理”,进入“创建数据处理任务”页面。

../_images/quickstart_clean_dataset.png

图 11 处理数据集

  1. 在“创建数据处理任务”页面根据页面提示对数据进行处理。详细说明请参考数据处理

备注

当前数据集已对数据进行分析,所以可对过滤算子开启智能参数设置。

../_images/quickstart_clean_dataset_detail.png

图 12 处理数据

../_images/quickstart_clean_filter.png

图 13 开启智能参数设置

步骤 2. 创建训练任务。

待数据处理完后进行模型训练。

  1. 在“控制台”页面的左侧导航树选择“模型开发 > 模型训练”,进入“模型训练”页面,单击“创建训练任务”。

../_images/quickstart_create_model.png

图 14 创建训练任务

  1. 在“创建训练任务”页面配置训练参数。参数详细说明请参考模型训练

../_images/quickstart_create_model_detail.png

图 15 配置训练参数

启动训练任务后,VastTrain会根据训练时长进行扣费。

../_images/quickstart_train_charge.png

图 16 训练计费

步骤 4. (可选) 创建模型评估任务。

待模型训练完成后可对已训练的模型进行评测。

  1. 在“控制台”页面的左侧导航树选择“模型开发 > 模型评估”,进入“模型评估”页面,单击“创建评估任务”。

../_images/quickstart_create_eva.png

图 17 创建评估任务

  1. 在“创建评估任务”页面配置评估参数。参数详细说明请参考模型评估。本节中假设使用两个评测数据集。

../_images/quickstart_create_eva_detail.png

图 18 配置评估参数

步骤 5. 创建模型编译任务。

模型训练完成后需对模型进行编译,以便部署服务。

  1. 在“控制台”页面的左侧导航树选择“模型开发 > 模型编译”,进入“模型编译”页面,单击“创建模型编译任务”。

../_images/quickstart_create_quant.png

图 19 创建模型编译任务

  1. 在“创建模型编译任务”页面配置编译参数。参数详细说明请参考模型编译

../_images/quickstart_create_quant_detail.png

图 20 配置编译参数

启动模型编译后,VastTrain会根据编译时长进行扣费。

模型量化编译完成后可部署服务或导出模型。详细可参考模型编译

步骤 6. 部署服务。

  1. 在“控制台”页面的左侧导航树选择“模型服务 > 部署服务”,进入“部署服务”页面,单击“创建部署服务”。

../_images/quickstart_create_server.png

图 21 创建部署服务

  1. 在“创建部署服务”页面配置部署服务参数。参数详细说明请参考部署服务

../_images/quickstart_create_server_detail.png

图 22 配置部署服务参数

  1. 在“部署服务”页面选择已部署的服务,单击“启动”启动服务。

../_images/quickstart_start_server.png

图 23 启动服务

启动后,VastTrain会根据服务运行时长扣费。

步骤 7. 待服务状态变为“运行中”,可在线体验服务或复制服务的API。

../_images/quickstart_server_sucess.png

图 24 服务启动成功