briefguide.md

快速上手

前提条件

1. 需要注册成为UCloud用户，并完成实名认证。
2. 目前UModelVerse处于邀请测试阶段，如需体验功能，请联系客户经理或技术支持申请开通功能权限。

操作步骤

仅需四步，即可完成行业模型上线：数据导入——>模型微调 ——> 发布模型 ——>服务部署

第一步：数据导入

1. 点击产品「对象存储 US3」—— 创建存储空间——文件管理，将需要用于训练的数据或模型存放至US3中。具体操作可见US3操作文档

2. 创建US3令牌：UCloud文档中心

   ?> 注意：令牌权限需包含下载、文件列表、上传、删除；且目前仅支持华北二存储空间。

3. 点击产品「模型服务平台 UModelVerse」—— 功能菜单「数据集管理」——创建数据集

   

4. 选择已导入US3的训练数据，用于微调训练时使用

   

第二步：模型微调

通过模型微调，可将模型与训练数据集结合，通过参数的设置优化模型在行业、业务方面的专业性，是训练行业模型的关键步骤。

!> 目前仅支持SFT训练。

1. 点击产品「模型服务平台 UModelVerse」—— 功能菜单「模型微调」——创建任务

2. 根据步骤条提示，完成对应参数配置

   1. 模型选择：选择预置开源模型或US3中上传的私有模型

   2. 数据配置：选择第一步中创建的训练数据集

   3. 参数配置：配置训练参数

   4. 输出配置：配置模型训练完成后导出的路径

   5. 确认配置：确认所有参数和计费信息，确认后下发任务即可

      

3. 确认后任务将自动下发并调用训练算力进行模型训练。待状态变为「已完成」后，表示训练任务已结束，可查看模型详情。在训练过程中，也可以随时查看监控图，观察训练过程，若有异常可随时停止训练任务。

   

第三步：发布模型

对训练完符合预期的模型可进行发布，发布成功后进入「模型管理」界面，便于管理各个模型版本，并选择特定的模型进行后续评估。

第四步：模型评估

1. 点击产品「模型服务平台 UModelVerse」—— 功能菜单「模型评估」—— 创建评估任务
2. 评估模式：默认当前模型评估方式为「基线评估」。
3. 选择数据集：选择「预置数据集」或「自定义数据集」（数据集管理中已发布的数据集）。
4. 评估模型：选择「基线模型」（必选）和「对比模型」。
5. 停用词表：选择「预置停用词表」或上传「自定义停用词表」（自定义数据集适用）。若选择「预置数据集」，则跳过这一步。
6. 存储设置：通过授权令牌，选择存储空间，目前仅支持华北二区域。

创建评估任务后将自动进行评估。待状态变为「已完成」后，表示评估任务已结束，可查看评估结果。当前支持的评估结果分为 2 种：

1. 预置数据集评估报告：支持查看评估报告。指标打分（STEM、Social Sciences、Humanities、Other、Average）和结果可视化。

   

2. 自定义数据集评估报告：支持查看评估报告和评估详情。指标打分（ROUGE-1、ROUGE-2、ROUGE-L、BLEU）、可视化结果、和评估详情。

   

第五步：服务部署

1. 点击产品「模型服务平台 UModelVerse」—— 功能菜单「服务管理」——创建服务

2. 选择预置模型或我的模型（模型管理中已发布的模型）

3. 选择资源副本数，确认计费信息后即可创建服务

   

​ 创建完成的服务将自动进入部署状态，部署成功后将生成API Key，可用于服务调用

​ 也可对部署成功的服务进行在线访问，通过对话进行服务验证