SageMaker JumpStart

SageMaker JumpStart 为各种问题类型提供预训练的开源模型，以帮助您开始使用机器学习。您可以在部署之前逐步训练和调整这些模型。 JumpStart 还提供了为常见使用案例设置基础架构的解决方案模板，以及使用 SageMaker 进行机器学习的可执行示例笔记本

您可以通过亚马逊的 JumpStart 登录页面访问预训练的模型、解决方案模板和示例 SageMaker Studio。以下步骤显示如何访问 JumpStart 使用亚马逊的模型和解决 SageMaker Studio。

您也可以使用 SageMaker Python 开发工具包。有关如何使用的信息 JumpStart 通过 API 以编程方式进行模型，请参阅使用 SageMaker 预训练模型的 JumpStart 算法.

打开 JumpStart

在 Amazon 中 SageMaker 工作室，开放 JumpStart 使用以下操作之一：

使用 JumpStart

从 SageMaker JumpStart 登录页面，您可以浏览解决方案、型号、笔记本电脑和其他资源。您还可以查看当前启动的解决方案、终端节点和培训作业。使用 JumpStart 搜索栏中，您可以搜索感兴趣的主题。

您可以找到 JumpStart 通过使用搜索或浏览搜索面板后面的每个类别来资源：

方案模板

从 JumpStart 登录页面，获取为常见使用案例设置完整基础架构的解决方案模板。

当你选择解决方案模板时， JumpStart 显示解决方案的描述和启动按钮。选择的时候启动，JumpStart 创建了运行解决方案所需的所有资源。这包括培训和模型托管实例。

晚于 JumpStart 启动解决方案， JumpStart 显示打开笔记本按钮。选择按钮以使用提供的笔记本电脑并探索解决方案的功能。当生成工件时、在启动期间或运行提供的笔记本之后，它们将列在生成的构件表。你可以使用垃圾图标删除单个工件 ( )。您可以通过选择删除解决方案的所有资源删除解决方案资.

以下是可用的解决方案模板的完整列表：

模型

JumpStart 支持十五种最受欢迎的问题类型的模型。在受支持的问题类型中，Vision 和 NLP 相关类型共有 13 种。有八种问题类型支持增量训练和微调。有关增量训练和超参数调整的更多信息，请参阅SageMaker 自动模型优化。 JumpStart 还支持四种常见的表格数据建模算法。

你可以从 JumpStart 工作室中的着陆页。选择模型时，模型详细信息页面将提供有关该模型的信息，您可以通过几个步骤来训练和部署模型。描述部分描述了可以对模型执行的操作、预期的输入和输出类型以及微调模型所需的数据类型。

您还可以通过编程方式使用模型SageMaker Python SDK.

下表总结了问题类型列表以及指向其示例 Jupyter 笔记本的链接。有关的完整列表 JumpStart 模型，请参阅JumpStart 可用型号表.

部署模型

当你从 JumpStart 部署模型时， SageMaker 托管模型并部署您可用于推理的终端节点。 JumpStart 还提供了一个示例笔记本，您可以在部署模型后用于访问模型。

模型部署配置

选择模型后，部署模型窗格打开。选择部署配置来配置模型部署。

部署模型的默认实例类型取决于模型。实例类型是运行培训作业的硬件。在下面的示例中，ml.g4dn.xlarge实例是此特定 BERT 模型的默认值。

您还可以更改终端节点名称.

选择安全设置指定Amazon Identity and Access Management(IAM) 角色、Amazon Virtual Private Cloud (Amazon VPC) 和模型的加密密钥。

模型部署安全

使用 JumpStart 部署模型时，您可以为该模型指定 IAM 角色、Amazon VPC 和加密密钥。如果未为这些条目指定任何值：默认 IAM 角色是您的 Studio 运行时角色；使用默认加密；不使用任何 Amazon VPC。

IAM 角色

您可以选择作为培训作业和托管作业的一部分传递的 IAM 角色。 SageMaker 使用此角色访问训练数据和模型工件。如果您未选择 IAM 角色， SageMaker 使用 Studio 运行时角色部署模型。有关 IAM 角色的更多信息，请参阅适用于 Amazon SageMaker 的 Identity and Access Management.

您传递的角色必须有权访问模型所需的资源，并且必须包括以下所有内容。

{
  "Effect": "Allow",
  "Action": [
    "s3:GetObject",
    "s3:PutObject",
    "s3:ListMultipartUploadParts"
  ],
  "Resources": [
    "arn:aws:s3:<region>::bucket/jumpstart-cache-prod-<region>/*",
    "arn:aws:s3:<region>:<account>:bucket/*",
  ]
},{
  "Effect": "Allow",
  "Action": [
    "s3:ListBucket",
  ],
  "Resources": [
    "arn:aws:s3:<region>::bucket/jumpstart-cache-prod-<region>",
    "arn:aws:s3:<region>:<account>:bucket",
  ]

查找 IAM 角色

如果选择此选项，则必须从下拉列表中选择一个现有 IAM 角色。

输入 IAM 角色

如果选择此选项，则必须为现有 IAM 角色手动输入 ARN。如果您的 Studio 运行时角色或 Amazon VPC 阻止iam:list* 调用时，您必须使用此选项才能使用现有 IAM 角色。

Amazon VPC

全部 JumpStart 模型在网络隔离模式下运行。创建模型容器之后，不能再进行调用。您可以选择作为培训作业和托管工作的一部分传递的 Amazon VPC。 SageMaker 使用此 Amazon VPC 从 Amazon S3 存储桶中推送和提取资源。此 Amazon VPC 不同于限制从您的 Studio 实例访问公共互联网的亚马逊 VPC。有关 Studio Amazon VPC 的更多信息，请参阅Connect (连接) SageMaker VPC 中的 Studio 笔记本电脑到外部资源.

您传递的 Amazon VPC 不需要访问公共互联网，但确实需要访问 Amazon S3。Amazon S3 的 Amazon VPC 终端节点必须允许至少访问模型所需的以下资源。

{
  "Effect": "Allow",
  "Action": [
    "s3:GetObject",
    "s3:PutObject",
    "s3:ListMultipartUploadParts"
  ],
  "Resources": [
    "arn:aws:s3:<region>::bucket/jumpstart-cache-prod-<region>/*",
    "arn:aws:s3:<region>:<account>:bucket/*",
  ]
},{
  "Effect": "Allow",
  "Action": [
    "s3:ListBucket",
  ],
  "Resources": [
    "arn:aws:s3:<region>::bucket/jumpstart-cache-prod-<region>",
    "arn:aws:s3:<region>:<account>:bucket",
  ]

如果您没有选择亚马逊 VPC，则不会使用任何亚马逊 VPC。

查找 VPC

如果选择此选项，则必须从下拉列表中选择现有的 Amazon VPC。选择 Amazon VPC 后，您必须为您的 Amazon VPC 选择子网和安全组。有关子网和安全组的更多信息，请参阅VPC 和子网的概述.

输入 VPC

如果选择此选项，则必须手动选择组成 Amazon VPC 的子网和安全组。如果您的 Studio 运行时角色或 Amazon VPC 阻止ec2:list*调用时，您必须使用此选项来选择子网和安全组。

加密密密钥

你可以选择Amazon KMS作为培训工作和托管工作的一部分传递的关键。 SageMaker 使用此密钥加密容器的 Amazon EBS 卷，并使用 Amazon S3 中重新打包的模型来托管作业和培训作业的输出。有关 的更多信息Amazon KMS钥匙，请参阅Amazon KMS密钥.

您传递的密钥必须信任您传递的 IAM 角色。如果您没有指定 IAM 角色，则Amazon KMS密钥必须信任你的 Studio 运行时角色。

如果你没有选择Amazon KMS键， SageMaker 为 Amazon EBS 卷中的数据和 Amazon S3 工件提供默认加密。

查找加密密钥

如果选择此选项，则必须选择现有的Amazon KMS从下拉列表中显示密钥。

输入加密密密钥

如果选择此选项，则必须手动输入Amazon KMS钥匙。如果您的 Studio 执行角色或 Amazon VPC 阻止kms:list* 呼叫，你必须使用此选项来选择现有Amazon KMS钥匙。

微调模型

微调在新数据集上训练预先训练的模型，而无需从头开始训练。这个过程也称为转移学习，可以生成具有较小数据集和更短训练时间的准确模型。

微调数据源

当您微调模型时，您可以使用默认数据集或选择位于 Amazon S3 存储桶中的自己的数据。

要浏览可用的存储桶，请选择查找 S3 存储桶. 这些存储桶受用于设置 Studio 帐户的权限的限制。您还可以通过选择以下方式指定 Amazon S3 URI输入 Amazon S3 存储桶位置.

对于文本模型：

对于视觉模型：

微调部署配置

推荐使用 p3 系列作为深度学习训练最快的系列，建议用于微调模型。下图显示了每种实例类型中 GPU 的数量。还有其他可供选择的选项，包括 p2 和 g4 实例类型。

超参数

您可以自定义用于微调模型的训练作业的超参数。 

如果您在不更改超参数的情况下将默认数据集用于文本模型，则会得到几乎相同的模型。对于视觉模型，默认数据集与用于训练预训练模型的数据集不同，因此您的模型因此不同。

您有以下超参数选项：

训练输出

当微调过程完成后， JumpStart 提供有关模型的信息：父模型、培训作业名称、培训作业亚马逊资源名称 (ARN)、培训时间和输出路径。输出路径是您可以在 Amazon S3 存储桶中找到新模型的位置。文件夹结构使用您提供的模型名称，模型文件位于/output子文件夹，它总是被命名model.tar.gz. 

示例：s3://bucket/model-name/output/model.tar.gz