功能介绍

大模型训练平台(以下简称 VastTrain)是面向AI开发者的一站式大模型开发及服务运行平台,基于云管基座平台和算力平台,为用户提供从数据管理、模型训练、模型管理到模型服务的全流程开发支持。该平台汇集了行业内知名的大模型,通过轻量级的训练和丰富的训练方法,帮助AI开发者快速构建专属的大模型,助力大模型在各大行业快速应用落地。

  • 数据工程:提供数据导入、数据清洗、数据增强、数据管理等功能,并支持开源已处理的数据集。用户可以根据实际需求,依照平台数据格式要求上传数据信息或使用平台内的开源数据集,为后续训练、评估、编译等流程提供支撑。

  • 模型开发:提供模型训练、模型调优、模型评测、模型量化编译等功能。平台提供丰富的预训练大模型,用户可在平台上采用不同的训练方式(预训练、监督微调SFT)进行模型训练,不断调优迭代模型效果,从而提升模型性能。

  • 服务部署:提供模型部署、在线体验、动态监控等功能;并且支持应用级的应用授权和管理,为服务调用保驾护航。

  • Prompt工程:提供Prompt模板,用户可以通过不同Prompt模板来满足垂直场景需求,无需每次拼接完整Prompt。还支持对Prompt语料进行内容质量和结构上的优化,便于获得更符合期望的大模型推理结果。