跳到主要内容
版本：Next

大模型平台使用指南（模型用户）

准备工作​

  • 确认希姆云平台已部署完毕，能够正常访问登录页面。

  • 确认大模型平台模型管理员已完成模型部署。

典型使用流程​

  1. 配置API密钥。

  2. 查看可用积分和积分增加记录。

  3. 浏览和选择已部署的模型。

  4. 在体验中心或者通过API调用体验基于大模型的智能问答等服务。

  5. 查看模型调用记录。

登录大模型平台用户端​

  1. 进入大模型平台用户端登录页面。

  2. 注册账号。

    1. 单击立即注册。

    2. 输入账号。

    3. 输入邮箱。

    4. 输入密码并确认密码。

    5. 单击注册，注册成功并自动跳转回登录页面。

  3. 登录账号。

    1. 输入账号和密码。

    2. 输入验证码。

    3. 单击登录。

    4. 默认进入模型广场页面，您可以在该页面探索和体验已经部署的模型。

管理API密钥​

API密钥是当前用户调用大模型时的身份凭证。

  1. 在大模型平台用户端左侧，选择账户 > API密钥。

  2. 单击新建API Key。

  3. 输入API Key的名称。

  4. 单击创建。

  5. 复制API Key，然后单击我已保存，关闭。

    说明：API Key是用户调用模型的身份凭证，在体验中心或者通过API调用体验大模型时都需要提供API Key。

  6. API Key添加成功后会显示在列表中，您可以按需管理。

    • 单击查看图标，查看API Key。

    • 单击复制图标，复制API Key。

    • 单击编辑图标，编辑API Key。

    • 单击删除图标，删除API Key。

体验模型服务​

浏览模型广场​

查看大模型平台中部署好的模型。

  1. 在大模型平台用户端左侧，选择模型管理 > 模型广场。

  2. 模型列表中展示了模型名称、模型状态、模型类型等信息，您也可以单击模型卡片查看更多信息。

    • 基本信息：模型的状态、所有者、部署者、调用标识、运行时标识等信息。

    • 积分消耗规则：调用模型时计量积分消耗的规则。

    • API调用示例：通过API调用体验模型服务的示例，在客户端的终端执行命令即可完成文本对话。

使用体验中心​

大模型平台为各类模型设计了可视化体验页面，除在客户端的终端调用API外，您也可以在体验中心快捷体验文本对话等效果。

  1. 在大模型平台用户端左侧，选择体验中心 > 文本对话。

  2. 选择模型。

  3. 选择您创建的API Key。

  4. 配置必要参数。

    • 系统提示词：描述所需生成文本的文字提示词，是模型生成回复的依据，用于约束模型的角色设定、回答风格、输出格式等信息。

    • Max Tokens：生成回复的最大token数量（包括输入和输出）。限制输出长度，避免过长或无意义的生成。

    • Temperature：控制随机性/创造性，范围通常0~2。值越低输出越确定、连贯，值越高输出越多样、出人意料。

    • Top-P：核心采样参数。模型仅从累积概率达到top_p的token集合中采样，值越小输出越保守，与temperature联合使用。

  5. 输入用户提示词，然后单击发送图标。

查看可用积分​

无论是在体验中心还是通过API调用模型，都会按照模型的积分消耗规则消耗积分。

  1. 在大模型平台用户端左侧，选择账户 > 积分管理。

  2. 查看当前积分余额以及积分增加记录条目。

    说明：新注册用户赠送一定的积分，具体数量由超级管理员设定。

查看用量​

查看调用模型的次数、token用量、积分消耗等信息，汇总和计量模型使用情况。

  1. 在大模型平台用户端左侧，选择账户 > 用量记录。

  2. 用量记录页面支持查看请求流水和按天统计调用情况，您也可以按需筛选展示的信息。

    1. 选择时间范围。

    2. 选择API Key。

    3. 选择模型名称。

    4. 选择计量类型。

    5. 查看用量记录，用量信息包含了调用的模型、请求的次数、token用量、积分消耗等信息。