本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
使用 Spark ML 和 Scikit-learn 的特征处理
在使用亚马逊训练模型之前 SageMaker 您可以使用 Spark 和 scikit-learn 预处理器转换数据和工程特征。
使用 Spark ML 的特征处理
你可以使用运行 Spark ML 作业AmazonGlue、来自您的无服务器 ETL(提取、转换、加载)服务 SageMaker 笔记本。您还可以连接到现有 EMR 集群以使用 Amazon EMR 运行 Spark ML 作业。要执行这个,您需要一个Amazon Identity and Access Management(IAM) 角色,该角色授予可从 SageMaker 笔记本发出调用的权限。到Amazon Glue.
要查看哪些 Python 和 Spark 版本Amazon Glue支持,请参阅AmazonGlue 发行说明.
在设计特征之后,您可以将带有 MLeap 的 Spark ML 作业打包并序列化为 MLeap 容器,您可以将这样的容器添加到推理管道中。您不需要使用外部管理的 Spark 集群。使用此方法,您可以从几个示例行无缝扩展到数 TB 的数据。相同的转换器可同时在训练和推理期间使用,因此您不需要重复预处理和特征设计逻辑,或者开发一次性解决方案来保存这些模型。借助推导管道,您不需要维护外部基础设施,可以直接利用数据输入进行预测。
当你在上运行 Spark ML 作业时Amazon Glue,aSpark ML 管道被序列化为mLeap
使用 Scikit-Learn 进行功能处理
您可以直接在 Amazon SageMaker 中运行 scikit-learn 作业并将其打包到容器中。在一个 Python 代码示例中,生成通过费雪鸢尾花卉数据集