Amazon SageMaker Multi-hop Lineage Queries

Amazon SageMaker Lineage tracks events that happen within SageMaker allowing the relationships between them to be traced via a graph structure. SageMaker Lineage introduces a new API called LineageQuery that allows customers to query the lineage graph structure to discover relationship across their Machine Learning entities.

Your machine learning workflows can generate deeply nested relationships, the lineage APIs allow you to answer questions about these relationships. For example find all Data Sets that trained the model deployed to a given Endpoint or find all Models trained by a Data Set.

The lineage graph is created automatically by SageMaker and you can directly create or modify your own lineage.

In addition to the LineageQuery API, the SageMaker SDK provides wrapper functions that make it easy to run queries that span across multiple hops of the entity relationship graph. These APIs and helper functions are described in this notebook.

Runtime

This notebook takes approximately 15 minutes to run.

Contents

  1. Key Concepts

  2. Prerequisites

  3. Notebook Overview

  4. Create an Experiment and Trial for a training job

  5. Training Data

  6. Create a training job

  7. Create a Model Package Group for the trained model to be registered

  8. Register the model in the Model Registry

  9. Deploy the model to a SageMaker Endpoint

  10. SageMaker Lineage Queries

    1. Using the LineageQuery API to find entity associations

      1. Find all datasets associated with an Endpoint

      2. Find the models associated with an Endpoint

      3. Find the trial components associated with an Endpoint

    2. Change the focal point of lineage

    3. Use LineageQueryDirectionEnum.BOTH

    4. Directions in LineageQuery: Ascendants vs. Descendants

    5. SDK helper functions

    6. Lineage Graph Visualization

  11. Conclusion

  12. Cleanup

Key Concepts

  • Lineage Graph - A connected graph tracing your machine learning workflow end to end.

  • Artifacts - Represents a URI addressable object or data. Artifacts are typically inputs or outputs to Actions.

  • Actions - Represents an action taken such as a computation, transformation, or job.

  • Contexts - Provides a method to logically group other entities.

  • Associations - A directed edge in the lineage graph that links two entities.

  • Lineage Traversal - Starting from an arbitrary point trace the lineage graph to discover and analyze relationships between steps in your workflow.

  • Experiments - Experiment entites (Experiments, Trials, and Trial Components) are also part of the lineage graph and can be associated wtih Artifacts, Actions, or Contexts.

Prerequisites

`sagemaker-experiments <https://github.com/aws/sagemaker-experiments>`__ and `pyvis <(https://pyvis.readthedocs.io/en/latest/)>`__ are two Python libraries that need to be installed as part of this notebook execution. pyvis is a library designed for interactive network visualization and sagemaker-experiments gives users the ability to use SageMaker’s Experiment Tracking capabilities.

This notebook should be run with Python 3.9 using the SageMaker Studio Python3 (Data Science) kernel. The sagemaker sdk version required for this notebook is >2.70.0.

If running in SageMaker Classic Notebooks, use the conda_python3 kernel.

The AWS account running this notebook should have access to provision two instances of type ml.m5.xlarge. These instances are used for training and deploying a model.

Let’s start by installing the Python SDK, boto and AWS CLI.

[2]:
!pip install sagemaker botocore boto3 awscli --upgrade
Requirement already satisfied: sagemaker in /usr/local/lib/python3.6/site-packages (2.69.1.dev0)
Collecting sagemaker
  Downloading sagemaker-2.86.2.tar.gz (521 kB)

     |▋                               | 10 kB 19.8 MB/s eta 0:00:01
     |█▎                              | 20 kB 23.3 MB/s eta 0:00:01
     |█▉                              | 30 kB 4.7 MB/s eta 0:00:01
     |██▌                             | 40 kB 5.5 MB/s eta 0:00:01
     |███▏                            | 51 kB 4.0 MB/s eta 0:00:01
     |███▊                            | 61 kB 4.7 MB/s eta 0:00:01
     |████▍                           | 71 kB 5.1 MB/s eta 0:00:01
     |█████                           | 81 kB 5.7 MB/s eta 0:00:01
     |█████▋                          | 92 kB 6.4 MB/s eta 0:00:01
     |██████▎                         | 102 kB 6.8 MB/s eta 0:00:01
     |███████                         | 112 kB 6.8 MB/s eta 0:00:01
     |███████▌                        | 122 kB 6.8 MB/s eta 0:00:01
     |████████▏                       | 133 kB 6.8 MB/s eta 0:00:01
     |████████▉                       | 143 kB 6.8 MB/s eta 0:00:01
     |█████████▍                      | 153 kB 6.8 MB/s eta 0:00:01
     |██████████                      | 163 kB 6.8 MB/s eta 0:00:01
     |██████████▊                     | 174 kB 6.8 MB/s eta 0:00:01
     |███████████▎                    | 184 kB 6.8 MB/s eta 0:00:01
     |████████████                    | 194 kB 6.8 MB/s eta 0:00:01
     |████████████▋                   | 204 kB 6.8 MB/s eta 0:00:01
     |█████████████▏                  | 215 kB 6.8 MB/s eta 0:00:01
     |█████████████▉                  | 225 kB 6.8 MB/s eta 0:00:01
     |██████████████▌                 | 235 kB 6.8 MB/s eta 0:00:01
     |███████████████                 | 245 kB 6.8 MB/s eta 0:00:01
     |███████████████▊                | 256 kB 6.8 MB/s eta 0:00:01
     |████████████████▎               | 266 kB 6.8 MB/s eta 0:00:01
     |█████████████████               | 276 kB 6.8 MB/s eta 0:00:01
     |█████████████████▋              | 286 kB 6.8 MB/s eta 0:00:01
     |██████████████████▏             | 296 kB 6.8 MB/s eta 0:00:01
     |██████████████████▉             | 307 kB 6.8 MB/s eta 0:00:01
     |███████████████████▌            | 317 kB 6.8 MB/s eta 0:00:01
     |████████████████████            | 327 kB 6.8 MB/s eta 0:00:01
     |████████████████████▊           | 337 kB 6.8 MB/s eta 0:00:01
     |█████████████████████▍          | 348 kB 6.8 MB/s eta 0:00:01
     |██████████████████████          | 358 kB 6.8 MB/s eta 0:00:01
     |██████████████████████▋         | 368 kB 6.8 MB/s eta 0:00:01
     |███████████████████████▎        | 378 kB 6.8 MB/s eta 0:00:01
     |███████████████████████▉        | 389 kB 6.8 MB/s eta 0:00:01
     |████████████████████████▌       | 399 kB 6.8 MB/s eta 0:00:01
     |█████████████████████████▏      | 409 kB 6.8 MB/s eta 0:00:01
     |█████████████████████████▊      | 419 kB 6.8 MB/s eta 0:00:01
     |██████████████████████████▍     | 430 kB 6.8 MB/s eta 0:00:01
     |███████████████████████████     | 440 kB 6.8 MB/s eta 0:00:01
     |███████████████████████████▋    | 450 kB 6.8 MB/s eta 0:00:01
     |████████████████████████████▎   | 460 kB 6.8 MB/s eta 0:00:01
     |█████████████████████████████   | 471 kB 6.8 MB/s eta 0:00:01
     |█████████████████████████████▌  | 481 kB 6.8 MB/s eta 0:00:01
     |██████████████████████████████▏ | 491 kB 6.8 MB/s eta 0:00:01
     |██████████████████████████████▉ | 501 kB 6.8 MB/s eta 0:00:01
     |███████████████████████████████▍| 512 kB 6.8 MB/s eta 0:00:01
     |████████████████████████████████| 521 kB 6.8 MB/s
Requirement already satisfied: botocore in /usr/local/lib/python3.6/site-packages (1.23.7)
Collecting botocore
  Downloading botocore-1.24.42-py3-none-any.whl (8.7 MB)

     |                                | 10 kB 30.4 MB/s eta 0:00:01
     |                                | 20 kB 35.1 MB/s eta 0:00:01
     |▏                               | 30 kB 43.1 MB/s eta 0:00:01
     |▏                               | 40 kB 47.0 MB/s eta 0:00:01
     |▏                               | 51 kB 17.1 MB/s eta 0:00:01
     |▎                               | 61 kB 19.6 MB/s eta 0:00:01
     |▎                               | 71 kB 21.8 MB/s eta 0:00:01
     |▎                               | 81 kB 24.0 MB/s eta 0:00:01
     |▍                               | 92 kB 26.1 MB/s eta 0:00:01
     |▍                               | 102 kB 28.0 MB/s eta 0:00:01
     |▍                               | 112 kB 28.0 MB/s eta 0:00:01
     |▌                               | 122 kB 28.0 MB/s eta 0:00:01
     |▌                               | 133 kB 28.0 MB/s eta 0:00:01
     |▌                               | 143 kB 28.0 MB/s eta 0:00:01
     |▋                               | 153 kB 28.0 MB/s eta 0:00:01
     |▋                               | 163 kB 28.0 MB/s eta 0:00:01
     |▋                               | 174 kB 28.0 MB/s eta 0:00:01
     |▊                               | 184 kB 28.0 MB/s eta 0:00:01
     |▊                               | 194 kB 28.0 MB/s eta 0:00:01
     |▊                               | 204 kB 28.0 MB/s eta 0:00:01
     |▉                               | 215 kB 28.0 MB/s eta 0:00:01
     |▉                               | 225 kB 28.0 MB/s eta 0:00:01
     |▉                               | 235 kB 28.0 MB/s eta 0:00:01
     |█                               | 245 kB 28.0 MB/s eta 0:00:01
     |█                               | 256 kB 28.0 MB/s eta 0:00:01
     |█                               | 266 kB 28.0 MB/s eta 0:00:01
     |█                               | 276 kB 28.0 MB/s eta 0:00:01
     |█                               | 286 kB 28.0 MB/s eta 0:00:01
     |█                               | 296 kB 28.0 MB/s eta 0:00:01
     |█▏                              | 307 kB 28.0 MB/s eta 0:00:01
     |█▏                              | 317 kB 28.0 MB/s eta 0:00:01
     |█▏                              | 327 kB 28.0 MB/s eta 0:00:01
     |█▎                              | 337 kB 28.0 MB/s eta 0:00:01
     |█▎                              | 348 kB 28.0 MB/s eta 0:00:01
     |█▎                              | 358 kB 28.0 MB/s eta 0:00:01
     |█▍                              | 368 kB 28.0 MB/s eta 0:00:01
     |█▍                              | 378 kB 28.0 MB/s eta 0:00:01
     |█▍                              | 389 kB 28.0 MB/s eta 0:00:01
     |█▌                              | 399 kB 28.0 MB/s eta 0:00:01
     |█▌                              | 409 kB 28.0 MB/s eta 0:00:01
     |█▌                              | 419 kB 28.0 MB/s eta 0:00:01
     |█▋                              | 430 kB 28.0 MB/s eta 0:00:01
     |█▋                              | 440 kB 28.0 MB/s eta 0:00:01
     |█▋                              | 450 kB 28.0 MB/s eta 0:00:01
     |█▊                              | 460 kB 28.0 MB/s eta 0:00:01
     |█▊                              | 471 kB 28.0 MB/s eta 0:00:01
     |█▊                              | 481 kB 28.0 MB/s eta 0:00:01
     |█▉                              | 491 kB 28.0 MB/s eta 0:00:01
     |█▉                              | 501 kB 28.0 MB/s eta 0:00:01
     |██                              | 512 kB 28.0 MB/s eta 0:00:01
     |██                              | 522 kB 28.0 MB/s eta 0:00:01
     |██                              | 532 kB 28.0 MB/s eta 0:00:01
     |██                              | 542 kB 28.0 MB/s eta 0:00:01
     |██                              | 552 kB 28.0 MB/s eta 0:00:01
     |██                              | 563 kB 28.0 MB/s eta 0:00:01
     |██▏                             | 573 kB 28.0 MB/s eta 0:00:01
     |██▏                             | 583 kB 28.0 MB/s eta 0:00:01
     |██▏                             | 593 kB 28.0 MB/s eta 0:00:01
     |██▎                             | 604 kB 28.0 MB/s eta 0:00:01
     |██▎                             | 614 kB 28.0 MB/s eta 0:00:01
     |██▎                             | 624 kB 28.0 MB/s eta 0:00:01
     |██▍                             | 634 kB 28.0 MB/s eta 0:00:01
     |██▍                             | 645 kB 28.0 MB/s eta 0:00:01
     |██▍                             | 655 kB 28.0 MB/s eta 0:00:01
     |██▌                             | 665 kB 28.0 MB/s eta 0:00:01
     |██▌                             | 675 kB 28.0 MB/s eta 0:00:01
     |██▌                             | 686 kB 28.0 MB/s eta 0:00:01
     |██▋                             | 696 kB 28.0 MB/s eta 0:00:01
     |██▋                             | 706 kB 28.0 MB/s eta 0:00:01
     |██▋                             | 716 kB 28.0 MB/s eta 0:00:01
     |██▊                             | 727 kB 28.0 MB/s eta 0:00:01
     |██▊                             | 737 kB 28.0 MB/s eta 0:00:01
     |██▊                             | 747 kB 28.0 MB/s eta 0:00:01
     |██▉                             | 757 kB 28.0 MB/s eta 0:00:01
     |██▉                             | 768 kB 28.0 MB/s eta 0:00:01
     |██▉                             | 778 kB 28.0 MB/s eta 0:00:01
     |███                             | 788 kB 28.0 MB/s eta 0:00:01
     |███                             | 798 kB 28.0 MB/s eta 0:00:01
     |███                             | 808 kB 28.0 MB/s eta 0:00:01
     |███                             | 819 kB 28.0 MB/s eta 0:00:01
     |███                             | 829 kB 28.0 MB/s eta 0:00:01
     |███                             | 839 kB 28.0 MB/s eta 0:00:01
     |███▏                            | 849 kB 28.0 MB/s eta 0:00:01
     |███▏                            | 860 kB 28.0 MB/s eta 0:00:01
     |███▏                            | 870 kB 28.0 MB/s eta 0:00:01
     |███▎                            | 880 kB 28.0 MB/s eta 0:00:01
     |███▎                            | 890 kB 28.0 MB/s eta 0:00:01
     |███▎                            | 901 kB 28.0 MB/s eta 0:00:01
     |███▍                            | 911 kB 28.0 MB/s eta 0:00:01
     |███▍                            | 921 kB 28.0 MB/s eta 0:00:01
     |███▍                            | 931 kB 28.0 MB/s eta 0:00:01
     |███▌                            | 942 kB 28.0 MB/s eta 0:00:01
     |███▌                            | 952 kB 28.0 MB/s eta 0:00:01
     |███▌                            | 962 kB 28.0 MB/s eta 0:00:01
     |███▋                            | 972 kB 28.0 MB/s eta 0:00:01
     |███▋                            | 983 kB 28.0 MB/s eta 0:00:01
     |███▊                            | 993 kB 28.0 MB/s eta 0:00:01
     |███▊                            | 1.0 MB 28.0 MB/s eta 0:00:01
     |███▊                            | 1.0 MB 28.0 MB/s eta 0:00:01
     |███▉                            | 1.0 MB 28.0 MB/s eta 0:00:01
     |███▉                            | 1.0 MB 28.0 MB/s eta 0:00:01
     |███▉                            | 1.0 MB 28.0 MB/s eta 0:00:01
     |████                            | 1.1 MB 28.0 MB/s eta 0:00:01
     |████                            | 1.1 MB 28.0 MB/s eta 0:00:01
     |████                            | 1.1 MB 28.0 MB/s eta 0:00:01
     |████                            | 1.1 MB 28.0 MB/s eta 0:00:01
     |████                            | 1.1 MB 28.0 MB/s eta 0:00:01
     |████                            | 1.1 MB 28.0 MB/s eta 0:00:01
     |████▏                           | 1.1 MB 28.0 MB/s eta 0:00:01
     |████▏                           | 1.1 MB 28.0 MB/s eta 0:00:01
     |████▏                           | 1.1 MB 28.0 MB/s eta 0:00:01
     |████▎                           | 1.1 MB 28.0 MB/s eta 0:00:01
     |████▎                           | 1.2 MB 28.0 MB/s eta 0:00:01
     |████▎                           | 1.2 MB 28.0 MB/s eta 0:00:01
     |████▍                           | 1.2 MB 28.0 MB/s eta 0:00:01
     |████▍                           | 1.2 MB 28.0 MB/s eta 0:00:01
     |████▍                           | 1.2 MB 28.0 MB/s eta 0:00:01
     |████▌                           | 1.2 MB 28.0 MB/s eta 0:00:01
     |████▌                           | 1.2 MB 28.0 MB/s eta 0:00:01
     |████▌                           | 1.2 MB 28.0 MB/s eta 0:00:01
     |████▋                           | 1.2 MB 28.0 MB/s eta 0:00:01
     |████▋                           | 1.2 MB 28.0 MB/s eta 0:00:01
     |████▋                           | 1.3 MB 28.0 MB/s eta 0:00:01
     |████▊                           | 1.3 MB 28.0 MB/s eta 0:00:01
     |████▊                           | 1.3 MB 28.0 MB/s eta 0:00:01
     |████▊                           | 1.3 MB 28.0 MB/s eta 0:00:01
     |████▉                           | 1.3 MB 28.0 MB/s eta 0:00:01
     |████▉                           | 1.3 MB 28.0 MB/s eta 0:00:01
     |████▉                           | 1.3 MB 28.0 MB/s eta 0:00:01
     |█████                           | 1.3 MB 28.0 MB/s eta 0:00:01
     |█████                           | 1.3 MB 28.0 MB/s eta 0:00:01
     |█████                           | 1.4 MB 28.0 MB/s eta 0:00:01
     |█████                           | 1.4 MB 28.0 MB/s eta 0:00:01
     |█████                           | 1.4 MB 28.0 MB/s eta 0:00:01
     |█████                           | 1.4 MB 28.0 MB/s eta 0:00:01
     |█████▏                          | 1.4 MB 28.0 MB/s eta 0:00:01
     |█████▏                          | 1.4 MB 28.0 MB/s eta 0:00:01
     |█████▏                          | 1.4 MB 28.0 MB/s eta 0:00:01
     |█████▎                          | 1.4 MB 28.0 MB/s eta 0:00:01
     |█████▎                          | 1.4 MB 28.0 MB/s eta 0:00:01
     |█████▎                          | 1.4 MB 28.0 MB/s eta 0:00:01
     |█████▍                          | 1.5 MB 28.0 MB/s eta 0:00:01
     |█████▍                          | 1.5 MB 28.0 MB/s eta 0:00:01
     |█████▌                          | 1.5 MB 28.0 MB/s eta 0:00:01
     |█████▌                          | 1.5 MB 28.0 MB/s eta 0:00:01
     |█████▌                          | 1.5 MB 28.0 MB/s eta 0:00:01
     |█████▋                          | 1.5 MB 28.0 MB/s eta 0:00:01
     |█████▋                          | 1.5 MB 28.0 MB/s eta 0:00:01
     |█████▋                          | 1.5 MB 28.0 MB/s eta 0:00:01
     |█████▊                          | 1.5 MB 28.0 MB/s eta 0:00:01
     |█████▊                          | 1.5 MB 28.0 MB/s eta 0:00:01
     |█████▊                          | 1.6 MB 28.0 MB/s eta 0:00:01
     |█████▉                          | 1.6 MB 28.0 MB/s eta 0:00:01
     |█████▉                          | 1.6 MB 28.0 MB/s eta 0:00:01
     |█████▉                          | 1.6 MB 28.0 MB/s eta 0:00:01
     |██████                          | 1.6 MB 28.0 MB/s eta 0:00:01
     |██████                          | 1.6 MB 28.0 MB/s eta 0:00:01
     |██████                          | 1.6 MB 28.0 MB/s eta 0:00:01
     |██████                          | 1.6 MB 28.0 MB/s eta 0:00:01
     |██████                          | 1.6 MB 28.0 MB/s eta 0:00:01
     |██████                          | 1.6 MB 28.0 MB/s eta 0:00:01
     |██████▏                         | 1.7 MB 28.0 MB/s eta 0:00:01
     |██████▏                         | 1.7 MB 28.0 MB/s eta 0:00:01
     |██████▏                         | 1.7 MB 28.0 MB/s eta 0:00:01
     |██████▎                         | 1.7 MB 28.0 MB/s eta 0:00:01
     |██████▎                         | 1.7 MB 28.0 MB/s eta 0:00:01
     |██████▎                         | 1.7 MB 28.0 MB/s eta 0:00:01
     |██████▍                         | 1.7 MB 28.0 MB/s eta 0:00:01
     |██████▍                         | 1.7 MB 28.0 MB/s eta 0:00:01
     |██████▍                         | 1.7 MB 28.0 MB/s eta 0:00:01
     |██████▌                         | 1.8 MB 28.0 MB/s eta 0:00:01
     |██████▌                         | 1.8 MB 28.0 MB/s eta 0:00:01
     |██████▌                         | 1.8 MB 28.0 MB/s eta 0:00:01
     |██████▋                         | 1.8 MB 28.0 MB/s eta 0:00:01
     |██████▋                         | 1.8 MB 28.0 MB/s eta 0:00:01
     |██████▋                         | 1.8 MB 28.0 MB/s eta 0:00:01
     |██████▊                         | 1.8 MB 28.0 MB/s eta 0:00:01
     |██████▊                         | 1.8 MB 28.0 MB/s eta 0:00:01
     |██████▊                         | 1.8 MB 28.0 MB/s eta 0:00:01
     |██████▉                         | 1.8 MB 28.0 MB/s eta 0:00:01
     |██████▉                         | 1.9 MB 28.0 MB/s eta 0:00:01
     |██████▉                         | 1.9 MB 28.0 MB/s eta 0:00:01
     |███████                         | 1.9 MB 28.0 MB/s eta 0:00:01
     |███████                         | 1.9 MB 28.0 MB/s eta 0:00:01
     |███████                         | 1.9 MB 28.0 MB/s eta 0:00:01
     |███████                         | 1.9 MB 28.0 MB/s eta 0:00:01
     |███████                         | 1.9 MB 28.0 MB/s eta 0:00:01
     |███████                         | 1.9 MB 28.0 MB/s eta 0:00:01
     |███████▏                        | 1.9 MB 28.0 MB/s eta 0:00:01
     |███████▏                        | 1.9 MB 28.0 MB/s eta 0:00:01
     |███████▏                        | 2.0 MB 28.0 MB/s eta 0:00:01
     |███████▎                        | 2.0 MB 28.0 MB/s eta 0:00:01
     |███████▎                        | 2.0 MB 28.0 MB/s eta 0:00:01
     |███████▍                        | 2.0 MB 28.0 MB/s eta 0:00:01
     |███████▍                        | 2.0 MB 28.0 MB/s eta 0:00:01
     |███████▍                        | 2.0 MB 28.0 MB/s eta 0:00:01
     |███████▌                        | 2.0 MB 28.0 MB/s eta 0:00:01
     |███████▌                        | 2.0 MB 28.0 MB/s eta 0:00:01
     |███████▌                        | 2.0 MB 28.0 MB/s eta 0:00:01
     |███████▋                        | 2.0 MB 28.0 MB/s eta 0:00:01
     |███████▋                        | 2.1 MB 28.0 MB/s eta 0:00:01
     |███████▋                        | 2.1 MB 28.0 MB/s eta 0:00:01
     |███████▊                        | 2.1 MB 28.0 MB/s eta 0:00:01
     |███████▊                        | 2.1 MB 28.0 MB/s eta 0:00:01
     |███████▊                        | 2.1 MB 28.0 MB/s eta 0:00:01
     |███████▉                        | 2.1 MB 28.0 MB/s eta 0:00:01
     |███████▉                        | 2.1 MB 28.0 MB/s eta 0:00:01
     |███████▉                        | 2.1 MB 28.0 MB/s eta 0:00:01
     |████████                        | 2.1 MB 28.0 MB/s eta 0:00:01
     |████████                        | 2.2 MB 28.0 MB/s eta 0:00:01
     |████████                        | 2.2 MB 28.0 MB/s eta 0:00:01
     |████████                        | 2.2 MB 28.0 MB/s eta 0:00:01
     |████████                        | 2.2 MB 28.0 MB/s eta 0:00:01
     |████████                        | 2.2 MB 28.0 MB/s eta 0:00:01
     |████████▏                       | 2.2 MB 28.0 MB/s eta 0:00:01
     |████████▏                       | 2.2 MB 28.0 MB/s eta 0:00:01
     |████████▏                       | 2.2 MB 28.0 MB/s eta 0:00:01
     |████████▎                       | 2.2 MB 28.0 MB/s eta 0:00:01
     |████████▎                       | 2.2 MB 28.0 MB/s eta 0:00:01
     |████████▎                       | 2.3 MB 28.0 MB/s eta 0:00:01
     |████████▍                       | 2.3 MB 28.0 MB/s eta 0:00:01
     |████████▍                       | 2.3 MB 28.0 MB/s eta 0:00:01
     |████████▍                       | 2.3 MB 28.0 MB/s eta 0:00:01
     |████████▌                       | 2.3 MB 28.0 MB/s eta 0:00:01
     |████████▌                       | 2.3 MB 28.0 MB/s eta 0:00:01
     |████████▌                       | 2.3 MB 28.0 MB/s eta 0:00:01
     |████████▋                       | 2.3 MB 28.0 MB/s eta 0:00:01
     |████████▋                       | 2.3 MB 28.0 MB/s eta 0:00:01
     |████████▋                       | 2.3 MB 28.0 MB/s eta 0:00:01
     |████████▊                       | 2.4 MB 28.0 MB/s eta 0:00:01
     |████████▊                       | 2.4 MB 28.0 MB/s eta 0:00:01
     |████████▊                       | 2.4 MB 28.0 MB/s eta 0:00:01
     |████████▉                       | 2.4 MB 28.0 MB/s eta 0:00:01
     |████████▉                       | 2.4 MB 28.0 MB/s eta 0:00:01
     |████████▉                       | 2.4 MB 28.0 MB/s eta 0:00:01
     |█████████                       | 2.4 MB 28.0 MB/s eta 0:00:01
     |█████████                       | 2.4 MB 28.0 MB/s eta 0:00:01
     |█████████                       | 2.4 MB 28.0 MB/s eta 0:00:01
     |█████████                       | 2.4 MB 28.0 MB/s eta 0:00:01
     |█████████                       | 2.5 MB 28.0 MB/s eta 0:00:01
     |█████████▏                      | 2.5 MB 28.0 MB/s eta 0:00:01
     |█████████▏                      | 2.5 MB 28.0 MB/s eta 0:00:01
     |█████████▏                      | 2.5 MB 28.0 MB/s eta 0:00:01
     |█████████▎                      | 2.5 MB 28.0 MB/s eta 0:00:01
     |█████████▎                      | 2.5 MB 28.0 MB/s eta 0:00:01
     |█████████▎                      | 2.5 MB 28.0 MB/s eta 0:00:01
     |█████████▍                      | 2.5 MB 28.0 MB/s eta 0:00:01
     |█████████▍                      | 2.5 MB 28.0 MB/s eta 0:00:01
     |█████████▍                      | 2.5 MB 28.0 MB/s eta 0:00:01
     |█████████▌                      | 2.6 MB 28.0 MB/s eta 0:00:01
     |█████████▌                      | 2.6 MB 28.0 MB/s eta 0:00:01
     |█████████▌                      | 2.6 MB 28.0 MB/s eta 0:00:01
     |█████████▋                      | 2.6 MB 28.0 MB/s eta 0:00:01
     |█████████▋                      | 2.6 MB 28.0 MB/s eta 0:00:01
     |█████████▋                      | 2.6 MB 28.0 MB/s eta 0:00:01
     |█████████▊                      | 2.6 MB 28.0 MB/s eta 0:00:01
     |█████████▊                      | 2.6 MB 28.0 MB/s eta 0:00:01
     |█████████▊                      | 2.6 MB 28.0 MB/s eta 0:00:01
     |█████████▉                      | 2.7 MB 28.0 MB/s eta 0:00:01
     |█████████▉                      | 2.7 MB 28.0 MB/s eta 0:00:01
     |█████████▉                      | 2.7 MB 28.0 MB/s eta 0:00:01
     |██████████                      | 2.7 MB 28.0 MB/s eta 0:00:01
     |██████████                      | 2.7 MB 28.0 MB/s eta 0:00:01
     |██████████                      | 2.7 MB 28.0 MB/s eta 0:00:01
     |██████████                      | 2.7 MB 28.0 MB/s eta 0:00:01
     |██████████                      | 2.7 MB 28.0 MB/s eta 0:00:01
     |██████████                      | 2.7 MB 28.0 MB/s eta 0:00:01
     |██████████▏                     | 2.7 MB 28.0 MB/s eta 0:00:01
     |██████████▏                     | 2.8 MB 28.0 MB/s eta 0:00:01
     |██████████▏                     | 2.8 MB 28.0 MB/s eta 0:00:01
     |██████████▎                     | 2.8 MB 28.0 MB/s eta 0:00:01
     |██████████▎                     | 2.8 MB 28.0 MB/s eta 0:00:01
     |██████████▎                     | 2.8 MB 28.0 MB/s eta 0:00:01
     |██████████▍                     | 2.8 MB 28.0 MB/s eta 0:00:01
     |██████████▍                     | 2.8 MB 28.0 MB/s eta 0:00:01
     |██████████▍                     | 2.8 MB 28.0 MB/s eta 0:00:01
     |██████████▌                     | 2.8 MB 28.0 MB/s eta 0:00:01
     |██████████▌                     | 2.8 MB 28.0 MB/s eta 0:00:01
     |██████████▌                     | 2.9 MB 28.0 MB/s eta 0:00:01
     |██████████▋                     | 2.9 MB 28.0 MB/s eta 0:00:01
     |██████████▋                     | 2.9 MB 28.0 MB/s eta 0:00:01
     |██████████▋                     | 2.9 MB 28.0 MB/s eta 0:00:01
     |██████████▊                     | 2.9 MB 28.0 MB/s eta 0:00:01
     |██████████▊                     | 2.9 MB 28.0 MB/s eta 0:00:01
     |██████████▊                     | 2.9 MB 28.0 MB/s eta 0:00:01
     |██████████▉                     | 2.9 MB 28.0 MB/s eta 0:00:01
     |██████████▉                     | 2.9 MB 28.0 MB/s eta 0:00:01
     |███████████                     | 2.9 MB 28.0 MB/s eta 0:00:01
     |███████████                     | 3.0 MB 28.0 MB/s eta 0:00:01
     |███████████                     | 3.0 MB 28.0 MB/s eta 0:00:01
     |███████████                     | 3.0 MB 28.0 MB/s eta 0:00:01
     |███████████                     | 3.0 MB 28.0 MB/s eta 0:00:01
     |███████████                     | 3.0 MB 28.0 MB/s eta 0:00:01
     |███████████▏                    | 3.0 MB 28.0 MB/s eta 0:00:01
     |███████████▏                    | 3.0 MB 28.0 MB/s eta 0:00:01
     |███████████▏                    | 3.0 MB 28.0 MB/s eta 0:00:01
     |███████████▎                    | 3.0 MB 28.0 MB/s eta 0:00:01
     |███████████▎                    | 3.1 MB 28.0 MB/s eta 0:00:01
     |███████████▎                    | 3.1 MB 28.0 MB/s eta 0:00:01
     |███████████▍                    | 3.1 MB 28.0 MB/s eta 0:00:01
     |███████████▍                    | 3.1 MB 28.0 MB/s eta 0:00:01
     |███████████▍                    | 3.1 MB 28.0 MB/s eta 0:00:01
     |███████████▌                    | 3.1 MB 28.0 MB/s eta 0:00:01
     |███████████▌                    | 3.1 MB 28.0 MB/s eta 0:00:01
     |███████████▌                    | 3.1 MB 28.0 MB/s eta 0:00:01
     |███████████▋                    | 3.1 MB 28.0 MB/s eta 0:00:01
     |███████████▋                    | 3.1 MB 28.0 MB/s eta 0:00:01
     |███████████▋                    | 3.2 MB 28.0 MB/s eta 0:00:01
     |███████████▊                    | 3.2 MB 28.0 MB/s eta 0:00:01
     |███████████▊                    | 3.2 MB 28.0 MB/s eta 0:00:01
     |███████████▊                    | 3.2 MB 28.0 MB/s eta 0:00:01
     |███████████▉                    | 3.2 MB 28.0 MB/s eta 0:00:01
     |███████████▉                    | 3.2 MB 28.0 MB/s eta 0:00:01
     |███████████▉                    | 3.2 MB 28.0 MB/s eta 0:00:01
     |████████████                    | 3.2 MB 28.0 MB/s eta 0:00:01
     |████████████                    | 3.2 MB 28.0 MB/s eta 0:00:01
     |████████████                    | 3.2 MB 28.0 MB/s eta 0:00:01
     |████████████                    | 3.3 MB 28.0 MB/s eta 0:00:01
     |████████████                    | 3.3 MB 28.0 MB/s eta 0:00:01
     |████████████                    | 3.3 MB 28.0 MB/s eta 0:00:01
     |████████████▏                   | 3.3 MB 28.0 MB/s eta 0:00:01
     |████████████▏                   | 3.3 MB 28.0 MB/s eta 0:00:01
     |████████████▏                   | 3.3 MB 28.0 MB/s eta 0:00:01
     |████████████▎                   | 3.3 MB 28.0 MB/s eta 0:00:01
     |████████████▎                   | 3.3 MB 28.0 MB/s eta 0:00:01
     |████████████▎                   | 3.3 MB 28.0 MB/s eta 0:00:01
     |████████████▍                   | 3.3 MB 28.0 MB/s eta 0:00:01
     |████████████▍                   | 3.4 MB 28.0 MB/s eta 0:00:01
     |████████████▍                   | 3.4 MB 28.0 MB/s eta 0:00:01
     |████████████▌                   | 3.4 MB 28.0 MB/s eta 0:00:01
     |████████████▌                   | 3.4 MB 28.0 MB/s eta 0:00:01
     |████████████▌                   | 3.4 MB 28.0 MB/s eta 0:00:01
     |████████████▋                   | 3.4 MB 28.0 MB/s eta 0:00:01
     |████████████▋                   | 3.4 MB 28.0 MB/s eta 0:00:01
     |████████████▋                   | 3.4 MB 28.0 MB/s eta 0:00:01
     |████████████▊                   | 3.4 MB 28.0 MB/s eta 0:00:01
     |████████████▊                   | 3.5 MB 28.0 MB/s eta 0:00:01
     |████████████▉                   | 3.5 MB 28.0 MB/s eta 0:00:01
     |████████████▉                   | 3.5 MB 28.0 MB/s eta 0:00:01
     |████████████▉                   | 3.5 MB 28.0 MB/s eta 0:00:01
     |█████████████                   | 3.5 MB 28.0 MB/s eta 0:00:01
     |█████████████                   | 3.5 MB 28.0 MB/s eta 0:00:01
     |█████████████                   | 3.5 MB 28.0 MB/s eta 0:00:01
     |█████████████                   | 3.5 MB 28.0 MB/s eta 0:00:01
     |█████████████                   | 3.5 MB 28.0 MB/s eta 0:00:01
     |█████████████                   | 3.5 MB 28.0 MB/s eta 0:00:01
     |█████████████▏                  | 3.6 MB 28.0 MB/s eta 0:00:01
     |█████████████▏                  | 3.6 MB 28.0 MB/s eta 0:00:01
     |█████████████▏                  | 3.6 MB 28.0 MB/s eta 0:00:01
     |█████████████▎                  | 3.6 MB 28.0 MB/s eta 0:00:01
     |█████████████▎                  | 3.6 MB 28.0 MB/s eta 0:00:01
     |█████████████▎                  | 3.6 MB 28.0 MB/s eta 0:00:01
     |█████████████▍                  | 3.6 MB 28.0 MB/s eta 0:00:01
     |█████████████▍                  | 3.6 MB 28.0 MB/s eta 0:00:01
     |█████████████▍                  | 3.6 MB 28.0 MB/s eta 0:00:01
     |█████████████▌                  | 3.6 MB 28.0 MB/s eta 0:00:01
     |█████████████▌                  | 3.7 MB 28.0 MB/s eta 0:00:01
     |█████████████▌                  | 3.7 MB 28.0 MB/s eta 0:00:01
     |█████████████▋                  | 3.7 MB 28.0 MB/s eta 0:00:01
     |█████████████▋                  | 3.7 MB 28.0 MB/s eta 0:00:01
     |█████████████▋                  | 3.7 MB 28.0 MB/s eta 0:00:01
     |█████████████▊                  | 3.7 MB 28.0 MB/s eta 0:00:01
     |█████████████▊                  | 3.7 MB 28.0 MB/s eta 0:00:01
     |█████████████▊                  | 3.7 MB 28.0 MB/s eta 0:00:01
     |█████████████▉                  | 3.7 MB 28.0 MB/s eta 0:00:01
     |█████████████▉                  | 3.7 MB 28.0 MB/s eta 0:00:01
     |█████████████▉                  | 3.8 MB 28.0 MB/s eta 0:00:01
     |██████████████                  | 3.8 MB 28.0 MB/s eta 0:00:01
     |██████████████                  | 3.8 MB 28.0 MB/s eta 0:00:01
     |██████████████                  | 3.8 MB 28.0 MB/s eta 0:00:01
     |██████████████                  | 3.8 MB 28.0 MB/s eta 0:00:01
     |██████████████                  | 3.8 MB 28.0 MB/s eta 0:00:01
     |██████████████                  | 3.8 MB 28.0 MB/s eta 0:00:01
     |██████████████▏                 | 3.8 MB 28.0 MB/s eta 0:00:01
     |██████████████▏                 | 3.8 MB 28.0 MB/s eta 0:00:01
     |██████████████▏                 | 3.9 MB 28.0 MB/s eta 0:00:01
     |██████████████▎                 | 3.9 MB 28.0 MB/s eta 0:00:01
     |██████████████▎                 | 3.9 MB 28.0 MB/s eta 0:00:01
     |██████████████▎                 | 3.9 MB 28.0 MB/s eta 0:00:01
     |██████████████▍                 | 3.9 MB 28.0 MB/s eta 0:00:01
     |██████████████▍                 | 3.9 MB 28.0 MB/s eta 0:00:01
     |██████████████▍                 | 3.9 MB 28.0 MB/s eta 0:00:01
     |██████████████▌                 | 3.9 MB 28.0 MB/s eta 0:00:01
     |██████████████▌                 | 3.9 MB 28.0 MB/s eta 0:00:01
     |██████████████▋                 | 3.9 MB 28.0 MB/s eta 0:00:01
     |██████████████▋                 | 4.0 MB 28.0 MB/s eta 0:00:01
     |██████████████▋                 | 4.0 MB 28.0 MB/s eta 0:00:01
     |██████████████▊                 | 4.0 MB 28.0 MB/s eta 0:00:01
     |██████████████▊                 | 4.0 MB 28.0 MB/s eta 0:00:01
     |██████████████▊                 | 4.0 MB 28.0 MB/s eta 0:00:01
     |██████████████▉                 | 4.0 MB 28.0 MB/s eta 0:00:01
     |██████████████▉                 | 4.0 MB 28.0 MB/s eta 0:00:01
     |██████████████▉                 | 4.0 MB 28.0 MB/s eta 0:00:01
     |███████████████                 | 4.0 MB 28.0 MB/s eta 0:00:01
     |███████████████                 | 4.0 MB 28.0 MB/s eta 0:00:01
     |███████████████                 | 4.1 MB 28.0 MB/s eta 0:00:01
     |███████████████                 | 4.1 MB 28.0 MB/s eta 0:00:01
     |███████████████                 | 4.1 MB 28.0 MB/s eta 0:00:01
     |███████████████                 | 4.1 MB 28.0 MB/s eta 0:00:01
     |███████████████▏                | 4.1 MB 28.0 MB/s eta 0:00:01
     |███████████████▏                | 4.1 MB 28.0 MB/s eta 0:00:01
     |███████████████▏                | 4.1 MB 28.0 MB/s eta 0:00:01
     |███████████████▎                | 4.1 MB 28.0 MB/s eta 0:00:01
     |███████████████▎                | 4.1 MB 28.0 MB/s eta 0:00:01
     |███████████████▎                | 4.1 MB 28.0 MB/s eta 0:00:01
     |███████████████▍                | 4.2 MB 28.0 MB/s eta 0:00:01
     |███████████████▍                | 4.2 MB 28.0 MB/s eta 0:00:01
     |███████████████▍                | 4.2 MB 28.0 MB/s eta 0:00:01
     |███████████████▌                | 4.2 MB 28.0 MB/s eta 0:00:01
     |███████████████▌                | 4.2 MB 28.0 MB/s eta 0:00:01
     |███████████████▌                | 4.2 MB 28.0 MB/s eta 0:00:01
     |███████████████▋                | 4.2 MB 28.0 MB/s eta 0:00:01
     |███████████████▋                | 4.2 MB 28.0 MB/s eta 0:00:01
     |███████████████▋                | 4.2 MB 28.0 MB/s eta 0:00:01
     |███████████████▊                | 4.2 MB 28.0 MB/s eta 0:00:01
     |███████████████▊                | 4.3 MB 28.0 MB/s eta 0:00:01
     |███████████████▊                | 4.3 MB 28.0 MB/s eta 0:00:01
     |███████████████▉                | 4.3 MB 28.0 MB/s eta 0:00:01
     |███████████████▉                | 4.3 MB 28.0 MB/s eta 0:00:01
     |███████████████▉                | 4.3 MB 28.0 MB/s eta 0:00:01
     |████████████████                | 4.3 MB 28.0 MB/s eta 0:00:01
     |████████████████                | 4.3 MB 28.0 MB/s eta 0:00:01
     |████████████████                | 4.3 MB 28.0 MB/s eta 0:00:01
     |████████████████                | 4.3 MB 28.0 MB/s eta 0:00:01
     |████████████████                | 4.4 MB 28.0 MB/s eta 0:00:01
     |████████████████                | 4.4 MB 28.0 MB/s eta 0:00:01
     |████████████████▏               | 4.4 MB 28.0 MB/s eta 0:00:01
     |████████████████▏               | 4.4 MB 28.0 MB/s eta 0:00:01
     |████████████████▏               | 4.4 MB 28.0 MB/s eta 0:00:01
     |████████████████▎               | 4.4 MB 28.0 MB/s eta 0:00:01
     |████████████████▎               | 4.4 MB 28.0 MB/s eta 0:00:01
     |████████████████▍               | 4.4 MB 28.0 MB/s eta 0:00:01
     |████████████████▍               | 4.4 MB 28.0 MB/s eta 0:00:01
     |████████████████▍               | 4.4 MB 28.0 MB/s eta 0:00:01
     |████████████████▌               | 4.5 MB 28.0 MB/s eta 0:00:01
     |████████████████▌               | 4.5 MB 28.0 MB/s eta 0:00:01
     |████████████████▌               | 4.5 MB 28.0 MB/s eta 0:00:01
     |████████████████▋               | 4.5 MB 28.0 MB/s eta 0:00:01
     |████████████████▋               | 4.5 MB 28.0 MB/s eta 0:00:01
     |████████████████▋               | 4.5 MB 28.0 MB/s eta 0:00:01
     |████████████████▊               | 4.5 MB 28.0 MB/s eta 0:00:01
     |████████████████▊               | 4.5 MB 28.0 MB/s eta 0:00:01
     |████████████████▊               | 4.5 MB 28.0 MB/s eta 0:00:01
     |████████████████▉               | 4.5 MB 28.0 MB/s eta 0:00:01
     |████████████████▉               | 4.6 MB 28.0 MB/s eta 0:00:01
     |████████████████▉               | 4.6 MB 28.0 MB/s eta 0:00:01
     |█████████████████               | 4.6 MB 28.0 MB/s eta 0:00:01
     |█████████████████               | 4.6 MB 28.0 MB/s eta 0:00:01
     |█████████████████               | 4.6 MB 28.0 MB/s eta 0:00:01
     |█████████████████               | 4.6 MB 28.0 MB/s eta 0:00:01
     |█████████████████               | 4.6 MB 28.0 MB/s eta 0:00:01
     |█████████████████               | 4.6 MB 28.0 MB/s eta 0:00:01
     |█████████████████▏              | 4.6 MB 28.0 MB/s eta 0:00:01
     |█████████████████▏              | 4.6 MB 28.0 MB/s eta 0:00:01
     |█████████████████▏              | 4.7 MB 28.0 MB/s eta 0:00:01
     |█████████████████▎              | 4.7 MB 28.0 MB/s eta 0:00:01
     |█████████████████▎              | 4.7 MB 28.0 MB/s eta 0:00:01
     |█████████████████▎              | 4.7 MB 28.0 MB/s eta 0:00:01
     |█████████████████▍              | 4.7 MB 28.0 MB/s eta 0:00:01
     |█████████████████▍              | 4.7 MB 28.0 MB/s eta 0:00:01
     |█████████████████▍              | 4.7 MB 28.0 MB/s eta 0:00:01
     |█████████████████▌              | 4.7 MB 28.0 MB/s eta 0:00:01
     |█████████████████▌              | 4.7 MB 28.0 MB/s eta 0:00:01
     |█████████████████▌              | 4.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████▋              | 4.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████▋              | 4.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████▋              | 4.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████▊              | 4.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████▊              | 4.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████▊              | 4.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████▉              | 4.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████▉              | 4.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████▉              | 4.8 MB 28.0 MB/s eta 0:00:01
     |██████████████████              | 4.9 MB 28.0 MB/s eta 0:00:01
     |██████████████████              | 4.9 MB 28.0 MB/s eta 0:00:01
     |██████████████████              | 4.9 MB 28.0 MB/s eta 0:00:01
     |██████████████████              | 4.9 MB 28.0 MB/s eta 0:00:01
     |██████████████████              | 4.9 MB 28.0 MB/s eta 0:00:01
     |██████████████████              | 4.9 MB 28.0 MB/s eta 0:00:01
     |██████████████████▏             | 4.9 MB 28.0 MB/s eta 0:00:01
     |██████████████████▏             | 4.9 MB 28.0 MB/s eta 0:00:01
     |██████████████████▎             | 4.9 MB 28.0 MB/s eta 0:00:01
     |██████████████████▎             | 4.9 MB 28.0 MB/s eta 0:00:01
     |██████████████████▎             | 5.0 MB 28.0 MB/s eta 0:00:01
     |██████████████████▍             | 5.0 MB 28.0 MB/s eta 0:00:01
     |██████████████████▍             | 5.0 MB 28.0 MB/s eta 0:00:01
     |██████████████████▍             | 5.0 MB 28.0 MB/s eta 0:00:01
     |██████████████████▌             | 5.0 MB 28.0 MB/s eta 0:00:01
     |██████████████████▌             | 5.0 MB 28.0 MB/s eta 0:00:01
     |██████████████████▌             | 5.0 MB 28.0 MB/s eta 0:00:01
     |██████████████████▋             | 5.0 MB 28.0 MB/s eta 0:00:01
     |██████████████████▋             | 5.0 MB 28.0 MB/s eta 0:00:01
     |██████████████████▋             | 5.0 MB 28.0 MB/s eta 0:00:01
     |██████████████████▊             | 5.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████▊             | 5.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████▊             | 5.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████▉             | 5.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████▉             | 5.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████▉             | 5.1 MB 28.0 MB/s eta 0:00:01
     |███████████████████             | 5.1 MB 28.0 MB/s eta 0:00:01
     |███████████████████             | 5.1 MB 28.0 MB/s eta 0:00:01
     |███████████████████             | 5.1 MB 28.0 MB/s eta 0:00:01
     |███████████████████             | 5.2 MB 28.0 MB/s eta 0:00:01
     |███████████████████             | 5.2 MB 28.0 MB/s eta 0:00:01
     |███████████████████             | 5.2 MB 28.0 MB/s eta 0:00:01
     |███████████████████▏            | 5.2 MB 28.0 MB/s eta 0:00:01
     |███████████████████▏            | 5.2 MB 28.0 MB/s eta 0:00:01
     |███████████████████▏            | 5.2 MB 28.0 MB/s eta 0:00:01
     |███████████████████▎            | 5.2 MB 28.0 MB/s eta 0:00:01
     |███████████████████▎            | 5.2 MB 28.0 MB/s eta 0:00:01
     |███████████████████▎            | 5.2 MB 28.0 MB/s eta 0:00:01
     |███████████████████▍            | 5.2 MB 28.0 MB/s eta 0:00:01
     |███████████████████▍            | 5.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████▍            | 5.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████▌            | 5.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████▌            | 5.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████▌            | 5.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████▋            | 5.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████▋            | 5.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████▋            | 5.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████▊            | 5.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████▊            | 5.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████▊            | 5.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████▉            | 5.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████▉            | 5.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████▉            | 5.4 MB 28.0 MB/s eta 0:00:01
     |████████████████████            | 5.4 MB 28.0 MB/s eta 0:00:01
     |████████████████████            | 5.4 MB 28.0 MB/s eta 0:00:01
     |████████████████████            | 5.4 MB 28.0 MB/s eta 0:00:01
     |████████████████████            | 5.4 MB 28.0 MB/s eta 0:00:01
     |████████████████████            | 5.4 MB 28.0 MB/s eta 0:00:01
     |████████████████████▏           | 5.4 MB 28.0 MB/s eta 0:00:01
     |████████████████████▏           | 5.5 MB 28.0 MB/s eta 0:00:01
     |████████████████████▏           | 5.5 MB 28.0 MB/s eta 0:00:01
     |████████████████████▎           | 5.5 MB 28.0 MB/s eta 0:00:01
     |████████████████████▎           | 5.5 MB 28.0 MB/s eta 0:00:01
     |████████████████████▎           | 5.5 MB 28.0 MB/s eta 0:00:01
     |████████████████████▍           | 5.5 MB 28.0 MB/s eta 0:00:01
     |████████████████████▍           | 5.5 MB 28.0 MB/s eta 0:00:01
     |████████████████████▍           | 5.5 MB 28.0 MB/s eta 0:00:01
     |████████████████████▌           | 5.5 MB 28.0 MB/s eta 0:00:01
     |████████████████████▌           | 5.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████▌           | 5.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████▋           | 5.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████▋           | 5.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████▋           | 5.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████▊           | 5.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████▊           | 5.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████▊           | 5.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████▉           | 5.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████▉           | 5.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████▉           | 5.7 MB 28.0 MB/s eta 0:00:01
     |█████████████████████           | 5.7 MB 28.0 MB/s eta 0:00:01
     |█████████████████████           | 5.7 MB 28.0 MB/s eta 0:00:01
     |█████████████████████           | 5.7 MB 28.0 MB/s eta 0:00:01
     |█████████████████████           | 5.7 MB 28.0 MB/s eta 0:00:01
     |█████████████████████           | 5.7 MB 28.0 MB/s eta 0:00:01
     |█████████████████████           | 5.7 MB 28.0 MB/s eta 0:00:01
     |█████████████████████▏          | 5.7 MB 28.0 MB/s eta 0:00:01
     |█████████████████████▏          | 5.7 MB 28.0 MB/s eta 0:00:01
     |█████████████████████▏          | 5.7 MB 28.0 MB/s eta 0:00:01
     |█████████████████████▎          | 5.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████████▎          | 5.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████████▎          | 5.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████████▍          | 5.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████████▍          | 5.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████████▍          | 5.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████████▌          | 5.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████████▌          | 5.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████████▌          | 5.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████████▋          | 5.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████████▋          | 5.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████▋          | 5.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████▊          | 5.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████▊          | 5.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████▉          | 5.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████▉          | 5.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████▉          | 5.9 MB 28.0 MB/s eta 0:00:01
     |██████████████████████          | 5.9 MB 28.0 MB/s eta 0:00:01
     |██████████████████████          | 5.9 MB 28.0 MB/s eta 0:00:01
     |██████████████████████          | 5.9 MB 28.0 MB/s eta 0:00:01
     |██████████████████████          | 6.0 MB 28.0 MB/s eta 0:00:01
     |██████████████████████          | 6.0 MB 28.0 MB/s eta 0:00:01
     |██████████████████████          | 6.0 MB 28.0 MB/s eta 0:00:01
     |██████████████████████▏         | 6.0 MB 28.0 MB/s eta 0:00:01
     |██████████████████████▏         | 6.0 MB 28.0 MB/s eta 0:00:01
     |██████████████████████▏         | 6.0 MB 28.0 MB/s eta 0:00:01
     |██████████████████████▎         | 6.0 MB 28.0 MB/s eta 0:00:01
     |██████████████████████▎         | 6.0 MB 28.0 MB/s eta 0:00:01
     |██████████████████████▎         | 6.0 MB 28.0 MB/s eta 0:00:01
     |██████████████████████▍         | 6.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████▍         | 6.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████▍         | 6.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████▌         | 6.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████▌         | 6.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████▌         | 6.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████▋         | 6.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████▋         | 6.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████▋         | 6.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████▊         | 6.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████▊         | 6.2 MB 28.0 MB/s eta 0:00:01
     |██████████████████████▊         | 6.2 MB 28.0 MB/s eta 0:00:01
     |██████████████████████▉         | 6.2 MB 28.0 MB/s eta 0:00:01
     |██████████████████████▉         | 6.2 MB 28.0 MB/s eta 0:00:01
     |██████████████████████▉         | 6.2 MB 28.0 MB/s eta 0:00:01
     |███████████████████████         | 6.2 MB 28.0 MB/s eta 0:00:01
     |███████████████████████         | 6.2 MB 28.0 MB/s eta 0:00:01
     |███████████████████████         | 6.2 MB 28.0 MB/s eta 0:00:01
     |███████████████████████         | 6.2 MB 28.0 MB/s eta 0:00:01
     |███████████████████████         | 6.2 MB 28.0 MB/s eta 0:00:01
     |███████████████████████         | 6.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████████▏        | 6.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████████▏        | 6.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████████▏        | 6.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████████▎        | 6.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████████▎        | 6.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████████▎        | 6.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████████▍        | 6.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████████▍        | 6.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████████▍        | 6.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████████▌        | 6.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████▌        | 6.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████▌        | 6.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████▋        | 6.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████▋        | 6.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████▊        | 6.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████▊        | 6.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████▊        | 6.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████▉        | 6.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████▉        | 6.5 MB 28.0 MB/s eta 0:00:01
     |███████████████████████▉        | 6.5 MB 28.0 MB/s eta 0:00:01
     |████████████████████████        | 6.5 MB 28.0 MB/s eta 0:00:01
     |████████████████████████        | 6.5 MB 28.0 MB/s eta 0:00:01
     |████████████████████████        | 6.5 MB 28.0 MB/s eta 0:00:01
     |████████████████████████        | 6.5 MB 28.0 MB/s eta 0:00:01
     |████████████████████████        | 6.5 MB 28.0 MB/s eta 0:00:01
     |████████████████████████        | 6.5 MB 28.0 MB/s eta 0:00:01
     |████████████████████████▏       | 6.5 MB 28.0 MB/s eta 0:00:01
     |████████████████████████▏       | 6.5 MB 28.0 MB/s eta 0:00:01
     |████████████████████████▏       | 6.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████████▎       | 6.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████████▎       | 6.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████████▎       | 6.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████████▍       | 6.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████████▍       | 6.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████████▍       | 6.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████████▌       | 6.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████████▌       | 6.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████████▌       | 6.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████████▋       | 6.7 MB 28.0 MB/s eta 0:00:01
     |████████████████████████▋       | 6.7 MB 28.0 MB/s eta 0:00:01
     |████████████████████████▋       | 6.7 MB 28.0 MB/s eta 0:00:01
     |████████████████████████▊       | 6.7 MB 28.0 MB/s eta 0:00:01
     |████████████████████████▊       | 6.7 MB 28.0 MB/s eta 0:00:01
     |████████████████████████▊       | 6.7 MB 28.0 MB/s eta 0:00:01
     |████████████████████████▉       | 6.7 MB 28.0 MB/s eta 0:00:01
     |████████████████████████▉       | 6.7 MB 28.0 MB/s eta 0:00:01
     |████████████████████████▉       | 6.7 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████       | 6.7 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████       | 6.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████       | 6.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████       | 6.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████       | 6.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████       | 6.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████▏      | 6.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████▏      | 6.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████▏      | 6.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████▎      | 6.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████▎      | 6.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████▎      | 6.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████▍      | 6.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████▍      | 6.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████▌      | 6.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████▌      | 6.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████▌      | 6.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████▋      | 6.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████▋      | 6.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████▋      | 6.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████▊      | 7.0 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████▊      | 7.0 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████▊      | 7.0 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████▉      | 7.0 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████▉      | 7.0 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████▉      | 7.0 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████      | 7.0 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████      | 7.0 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████      | 7.0 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████      | 7.0 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████      | 7.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████      | 7.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████▏     | 7.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████▏     | 7.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████▏     | 7.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████▎     | 7.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████▎     | 7.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████▎     | 7.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████▍     | 7.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████▍     | 7.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████▍     | 7.2 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████▌     | 7.2 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████▌     | 7.2 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████▌     | 7.2 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████▋     | 7.2 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████▋     | 7.2 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████▋     | 7.2 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████▊     | 7.2 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████▊     | 7.2 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████▊     | 7.2 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████▉     | 7.3 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████▉     | 7.3 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████▉     | 7.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████     | 7.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████     | 7.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████     | 7.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████     | 7.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████     | 7.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████     | 7.3 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████▏    | 7.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████▏    | 7.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████▎    | 7.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████▎    | 7.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████▎    | 7.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████▍    | 7.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████▍    | 7.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████▍    | 7.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████▌    | 7.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████▌    | 7.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████▌    | 7.5 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████▋    | 7.5 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████▋    | 7.5 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████▋    | 7.5 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████▊    | 7.5 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████▊    | 7.5 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████▊    | 7.5 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████▉    | 7.5 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████▉    | 7.5 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████▉    | 7.5 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████    | 7.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████    | 7.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████    | 7.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████    | 7.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████    | 7.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████    | 7.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████▏   | 7.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████▏   | 7.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████▏   | 7.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████▎   | 7.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████▎   | 7.7 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████▎   | 7.7 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████▍   | 7.7 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████▍   | 7.7 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████▍   | 7.7 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████▌   | 7.7 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████▌   | 7.7 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████▌   | 7.7 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████▋   | 7.7 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████▋   | 7.8 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████▋   | 7.8 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████▊   | 7.8 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████▊   | 7.8 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████▊   | 7.8 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████▉   | 7.8 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████▉   | 7.8 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████▉   | 7.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████   | 7.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████   | 7.8 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████   | 7.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████   | 7.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████   | 7.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████▏  | 7.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████▏  | 7.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████▏  | 7.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████▎  | 7.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████▎  | 7.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████▎  | 7.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████▍  | 7.9 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████▍  | 8.0 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████▍  | 8.0 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████▌  | 8.0 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████▌  | 8.0 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████▌  | 8.0 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████▋  | 8.0 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████▋  | 8.0 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████▋  | 8.0 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████▊  | 8.0 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████▊  | 8.0 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████▊  | 8.1 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████▉  | 8.1 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████▉  | 8.1 MB 28.0 MB/s eta 0:00:01
     |█████████████████████████████▉  | 8.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████  | 8.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████  | 8.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████  | 8.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████  | 8.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████  | 8.1 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████  | 8.2 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████▏ | 8.2 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████▏ | 8.2 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████▏ | 8.2 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████▎ | 8.2 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████▎ | 8.2 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████▎ | 8.2 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████▍ | 8.2 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████▍ | 8.2 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████▍ | 8.2 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████▌ | 8.3 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████▌ | 8.3 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████▌ | 8.3 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████▋ | 8.3 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████▋ | 8.3 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████▋ | 8.3 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████▊ | 8.3 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████▊ | 8.3 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████▊ | 8.3 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████▉ | 8.3 MB 28.0 MB/s eta 0:00:01
     |██████████████████████████████▉ | 8.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████ | 8.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████ | 8.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████ | 8.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████ | 8.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████ | 8.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████ | 8.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████▏| 8.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████▏| 8.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████▏| 8.4 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████▎| 8.5 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████▎| 8.5 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████▎| 8.5 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████▍| 8.5 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████▍| 8.5 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████▍| 8.5 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████▌| 8.5 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████▌| 8.5 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████▌| 8.5 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████▋| 8.6 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████▋| 8.6 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████▋| 8.6 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████▊| 8.6 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████▊| 8.6 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████▊| 8.6 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████▉| 8.6 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████▉| 8.6 MB 28.0 MB/s eta 0:00:01
     |███████████████████████████████▉| 8.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████████| 8.6 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████████| 8.7 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████████| 8.7 MB 28.0 MB/s eta 0:00:01
     |████████████████████████████████| 8.7 MB 28.0 MB/s
Requirement already satisfied: boto3 in /usr/local/lib/python3.6/site-packages (1.20.7)
Collecting boto3
  Downloading boto3-1.21.42-py3-none-any.whl (132 kB)

     |██▌                             | 10 kB 32.3 MB/s eta 0:00:01
     |█████                           | 20 kB 39.1 MB/s eta 0:00:01
     |███████▍                        | 30 kB 47.5 MB/s eta 0:00:01
     |██████████                      | 40 kB 52.5 MB/s eta 0:00:01
     |████████████▍                   | 51 kB 56.0 MB/s eta 0:00:01
     |██████████████▉                 | 61 kB 60.5 MB/s eta 0:00:01
     |█████████████████▎              | 71 kB 61.2 MB/s eta 0:00:01
     |███████████████████▉            | 81 kB 62.8 MB/s eta 0:00:01
     |██████████████████████▎         | 92 kB 64.9 MB/s eta 0:00:01
     |████████████████████████▊       | 102 kB 66.1 MB/s eta 0:00:01
     |███████████████████████████▎    | 112 kB 66.1 MB/s eta 0:00:01
     |█████████████████████████████▊  | 122 kB 66.1 MB/s eta 0:00:01
     |████████████████████████████████| 132 kB 66.1 MB/s
Requirement already satisfied: awscli in /usr/local/lib/python3.6/site-packages (1.22.7)
Collecting awscli
  Downloading awscli-1.22.97-py3-none-any.whl (3.8 MB)

     |                                | 10 kB 28.2 MB/s eta 0:00:01
     |▏                               | 20 kB 32.8 MB/s eta 0:00:01
     |▎                               | 30 kB 37.1 MB/s eta 0:00:01
     |▍                               | 40 kB 40.6 MB/s eta 0:00:01
     |▍                               | 51 kB 42.1 MB/s eta 0:00:01
     |▌                               | 61 kB 44.1 MB/s eta 0:00:01
     |▋                               | 71 kB 45.6 MB/s eta 0:00:01
     |▊                               | 81 kB 46.2 MB/s eta 0:00:01
     |▊                               | 92 kB 47.3 MB/s eta 0:00:01
     |▉                               | 102 kB 48.1 MB/s eta 0:00:01
     |█                               | 112 kB 48.1 MB/s eta 0:00:01
     |█                               | 122 kB 48.1 MB/s eta 0:00:01
     |█                               | 133 kB 48.1 MB/s eta 0:00:01
     |█▏                              | 143 kB 48.1 MB/s eta 0:00:01
     |█▎                              | 153 kB 48.1 MB/s eta 0:00:01
     |█▍                              | 163 kB 48.1 MB/s eta 0:00:01
     |█▌                              | 174 kB 48.1 MB/s eta 0:00:01
     |█▌                              | 184 kB 48.1 MB/s eta 0:00:01
     |█▋                              | 194 kB 48.1 MB/s eta 0:00:01
     |█▊                              | 204 kB 48.1 MB/s eta 0:00:01
     |█▉                              | 215 kB 48.1 MB/s eta 0:00:01
     |█▉                              | 225 kB 48.1 MB/s eta 0:00:01
     |██                              | 235 kB 48.1 MB/s eta 0:00:01
     |██                              | 245 kB 48.1 MB/s eta 0:00:01
     |██▏                             | 256 kB 48.1 MB/s eta 0:00:01
     |██▏                             | 266 kB 48.1 MB/s eta 0:00:01
     |██▎                             | 276 kB 48.1 MB/s eta 0:00:01
     |██▍                             | 286 kB 48.1 MB/s eta 0:00:01
     |██▌                             | 296 kB 48.1 MB/s eta 0:00:01
     |██▋                             | 307 kB 48.1 MB/s eta 0:00:01
     |██▋                             | 317 kB 48.1 MB/s eta 0:00:01
     |██▊                             | 327 kB 48.1 MB/s eta 0:00:01
     |██▉                             | 337 kB 48.1 MB/s eta 0:00:01
     |███                             | 348 kB 48.1 MB/s eta 0:00:01
     |███                             | 358 kB 48.1 MB/s eta 0:00:01
     |███                             | 368 kB 48.1 MB/s eta 0:00:01
     |███▏                            | 378 kB 48.1 MB/s eta 0:00:01
     |███▎                            | 389 kB 48.1 MB/s eta 0:00:01
     |███▎                            | 399 kB 48.1 MB/s eta 0:00:01
     |███▍                            | 409 kB 48.1 MB/s eta 0:00:01
     |███▌                            | 419 kB 48.1 MB/s eta 0:00:01
     |███▋                            | 430 kB 48.1 MB/s eta 0:00:01
     |███▋                            | 440 kB 48.1 MB/s eta 0:00:01
     |███▊                            | 450 kB 48.1 MB/s eta 0:00:01
     |███▉                            | 460 kB 48.1 MB/s eta 0:00:01
     |████                            | 471 kB 48.1 MB/s eta 0:00:01
     |████                            | 481 kB 48.1 MB/s eta 0:00:01
     |████                            | 491 kB 48.1 MB/s eta 0:00:01
     |████▏                           | 501 kB 48.1 MB/s eta 0:00:01
     |████▎                           | 512 kB 48.1 MB/s eta 0:00:01
     |████▍                           | 522 kB 48.1 MB/s eta 0:00:01
     |████▍                           | 532 kB 48.1 MB/s eta 0:00:01
     |████▌                           | 542 kB 48.1 MB/s eta 0:00:01
     |████▋                           | 552 kB 48.1 MB/s eta 0:00:01
     |████▊                           | 563 kB 48.1 MB/s eta 0:00:01
     |████▊                           | 573 kB 48.1 MB/s eta 0:00:01
     |████▉                           | 583 kB 48.1 MB/s eta 0:00:01
     |█████                           | 593 kB 48.1 MB/s eta 0:00:01
     |█████                           | 604 kB 48.1 MB/s eta 0:00:01
     |█████▏                          | 614 kB 48.1 MB/s eta 0:00:01
     |█████▏                          | 624 kB 48.1 MB/s eta 0:00:01
     |█████▎                          | 634 kB 48.1 MB/s eta 0:00:01
     |█████▍                          | 645 kB 48.1 MB/s eta 0:00:01
     |█████▌                          | 655 kB 48.1 MB/s eta 0:00:01
     |█████▌                          | 665 kB 48.1 MB/s eta 0:00:01
     |█████▋                          | 675 kB 48.1 MB/s eta 0:00:01
     |█████▊                          | 686 kB 48.1 MB/s eta 0:00:01
     |█████▉                          | 696 kB 48.1 MB/s eta 0:00:01
     |█████▉                          | 706 kB 48.1 MB/s eta 0:00:01
     |██████                          | 716 kB 48.1 MB/s eta 0:00:01
     |██████                          | 727 kB 48.1 MB/s eta 0:00:01
     |██████▏                         | 737 kB 48.1 MB/s eta 0:00:01
     |██████▏                         | 747 kB 48.1 MB/s eta 0:00:01
     |██████▎                         | 757 kB 48.1 MB/s eta 0:00:01
     |██████▍                         | 768 kB 48.1 MB/s eta 0:00:01
     |██████▌                         | 778 kB 48.1 MB/s eta 0:00:01
     |██████▋                         | 788 kB 48.1 MB/s eta 0:00:01
     |██████▋                         | 798 kB 48.1 MB/s eta 0:00:01
     |██████▊                         | 808 kB 48.1 MB/s eta 0:00:01
     |██████▉                         | 819 kB 48.1 MB/s eta 0:00:01
     |███████                         | 829 kB 48.1 MB/s eta 0:00:01
     |███████                         | 839 kB 48.1 MB/s eta 0:00:01
     |███████                         | 849 kB 48.1 MB/s eta 0:00:01
     |███████▏                        | 860 kB 48.1 MB/s eta 0:00:01
     |███████▎                        | 870 kB 48.1 MB/s eta 0:00:01
     |███████▎                        | 880 kB 48.1 MB/s eta 0:00:01
     |███████▍                        | 890 kB 48.1 MB/s eta 0:00:01
     |███████▌                        | 901 kB 48.1 MB/s eta 0:00:01
     |███████▋                        | 911 kB 48.1 MB/s eta 0:00:01
     |███████▊                        | 921 kB 48.1 MB/s eta 0:00:01
     |███████▊                        | 931 kB 48.1 MB/s eta 0:00:01
     |███████▉                        | 942 kB 48.1 MB/s eta 0:00:01
     |████████                        | 952 kB 48.1 MB/s eta 0:00:01
     |████████                        | 962 kB 48.1 MB/s eta 0:00:01
     |████████                        | 972 kB 48.1 MB/s eta 0:00:01
     |████████▏                       | 983 kB 48.1 MB/s eta 0:00:01
     |████████▎                       | 993 kB 48.1 MB/s eta 0:00:01
     |████████▍                       | 1.0 MB 48.1 MB/s eta 0:00:01
     |████████▍                       | 1.0 MB 48.1 MB/s eta 0:00:01
     |████████▌                       | 1.0 MB 48.1 MB/s eta 0:00:01
     |████████▋                       | 1.0 MB 48.1 MB/s eta 0:00:01
     |████████▊                       | 1.0 MB 48.1 MB/s eta 0:00:01
     |████████▊                       | 1.1 MB 48.1 MB/s eta 0:00:01
     |████████▉                       | 1.1 MB 48.1 MB/s eta 0:00:01
     |█████████                       | 1.1 MB 48.1 MB/s eta 0:00:01
     |█████████                       | 1.1 MB 48.1 MB/s eta 0:00:01
     |█████████▏                      | 1.1 MB 48.1 MB/s eta 0:00:01
     |█████████▏                      | 1.1 MB 48.1 MB/s eta 0:00:01
     |█████████▎                      | 1.1 MB 48.1 MB/s eta 0:00:01
     |█████████▍                      | 1.1 MB 48.1 MB/s eta 0:00:01
     |█████████▌                      | 1.1 MB 48.1 MB/s eta 0:00:01
     |█████████▌                      | 1.1 MB 48.1 MB/s eta 0:00:01
     |█████████▋                      | 1.2 MB 48.1 MB/s eta 0:00:01
     |█████████▊                      | 1.2 MB 48.1 MB/s eta 0:00:01
     |█████████▉                      | 1.2 MB 48.1 MB/s eta 0:00:01
     |█████████▉                      | 1.2 MB 48.1 MB/s eta 0:00:01
     |██████████                      | 1.2 MB 48.1 MB/s eta 0:00:01
     |██████████                      | 1.2 MB 48.1 MB/s eta 0:00:01
     |██████████▏                     | 1.2 MB 48.1 MB/s eta 0:00:01
     |██████████▎                     | 1.2 MB 48.1 MB/s eta 0:00:01
     |██████████▎                     | 1.2 MB 48.1 MB/s eta 0:00:01
     |██████████▍                     | 1.2 MB 48.1 MB/s eta 0:00:01
     |██████████▌                     | 1.3 MB 48.1 MB/s eta 0:00:01
     |██████████▋                     | 1.3 MB 48.1 MB/s eta 0:00:01
     |██████████▋                     | 1.3 MB 48.1 MB/s eta 0:00:01
     |██████████▊                     | 1.3 MB 48.1 MB/s eta 0:00:01
     |██████████▉                     | 1.3 MB 48.1 MB/s eta 0:00:01
     |███████████                     | 1.3 MB 48.1 MB/s eta 0:00:01
     |███████████                     | 1.3 MB 48.1 MB/s eta 0:00:01
     |███████████                     | 1.3 MB 48.1 MB/s eta 0:00:01
     |███████████▏                    | 1.3 MB 48.1 MB/s eta 0:00:01
     |███████████▎                    | 1.4 MB 48.1 MB/s eta 0:00:01
     |███████████▎                    | 1.4 MB 48.1 MB/s eta 0:00:01
     |███████████▍                    | 1.4 MB 48.1 MB/s eta 0:00:01
     |███████████▌                    | 1.4 MB 48.1 MB/s eta 0:00:01
     |███████████▋                    | 1.4 MB 48.1 MB/s eta 0:00:01
     |███████████▊                    | 1.4 MB 48.1 MB/s eta 0:00:01
     |███████████▊                    | 1.4 MB 48.1 MB/s eta 0:00:01
     |███████████▉                    | 1.4 MB 48.1 MB/s eta 0:00:01
     |████████████                    | 1.4 MB 48.1 MB/s eta 0:00:01
     |████████████                    | 1.4 MB 48.1 MB/s eta 0:00:01
     |████████████                    | 1.5 MB 48.1 MB/s eta 0:00:01
     |████████████▏                   | 1.5 MB 48.1 MB/s eta 0:00:01
     |████████████▎                   | 1.5 MB 48.1 MB/s eta 0:00:01
     |████████████▍                   | 1.5 MB 48.1 MB/s eta 0:00:01
     |████████████▍                   | 1.5 MB 48.1 MB/s eta 0:00:01
     |████████████▌                   | 1.5 MB 48.1 MB/s eta 0:00:01
     |████████████▋                   | 1.5 MB 48.1 MB/s eta 0:00:01
     |████████████▊                   | 1.5 MB 48.1 MB/s eta 0:00:01
     |████████████▉                   | 1.5 MB 48.1 MB/s eta 0:00:01
     |████████████▉                   | 1.5 MB 48.1 MB/s eta 0:00:01
     |█████████████                   | 1.6 MB 48.1 MB/s eta 0:00:01
     |█████████████                   | 1.6 MB 48.1 MB/s eta 0:00:01
     |█████████████▏                  | 1.6 MB 48.1 MB/s eta 0:00:01
     |█████████████▏                  | 1.6 MB 48.1 MB/s eta 0:00:01
     |█████████████▎                  | 1.6 MB 48.1 MB/s eta 0:00:01
     |█████████████▍                  | 1.6 MB 48.1 MB/s eta 0:00:01
     |█████████████▌                  | 1.6 MB 48.1 MB/s eta 0:00:01
     |█████████████▌                  | 1.6 MB 48.1 MB/s eta 0:00:01
     |█████████████▋                  | 1.6 MB 48.1 MB/s eta 0:00:01
     |█████████████▊                  | 1.6 MB 48.1 MB/s eta 0:00:01
     |█████████████▉                  | 1.7 MB 48.1 MB/s eta 0:00:01
     |██████████████                  | 1.7 MB 48.1 MB/s eta 0:00:01
     |██████████████                  | 1.7 MB 48.1 MB/s eta 0:00:01
     |██████████████                  | 1.7 MB 48.1 MB/s eta 0:00:01
     |██████████████▏                 | 1.7 MB 48.1 MB/s eta 0:00:01
     |██████████████▎                 | 1.7 MB 48.1 MB/s eta 0:00:01
     |██████████████▎                 | 1.7 MB 48.1 MB/s eta 0:00:01
     |██████████████▍                 | 1.7 MB 48.1 MB/s eta 0:00:01
     |██████████████▌                 | 1.7 MB 48.1 MB/s eta 0:00:01
     |██████████████▋                 | 1.8 MB 48.1 MB/s eta 0:00:01
     |██████████████▋                 | 1.8 MB 48.1 MB/s eta 0:00:01
     |██████████████▊                 | 1.8 MB 48.1 MB/s eta 0:00:01
     |██████████████▉                 | 1.8 MB 48.1 MB/s eta 0:00:01
     |███████████████                 | 1.8 MB 48.1 MB/s eta 0:00:01
     |███████████████                 | 1.8 MB 48.1 MB/s eta 0:00:01
     |███████████████                 | 1.8 MB 48.1 MB/s eta 0:00:01
     |███████████████▏                | 1.8 MB 48.1 MB/s eta 0:00:01
     |███████████████▎                | 1.8 MB 48.1 MB/s eta 0:00:01
     |███████████████▍                | 1.8 MB 48.1 MB/s eta 0:00:01
     |███████████████▍                | 1.9 MB 48.1 MB/s eta 0:00:01
     |███████████████▌                | 1.9 MB 48.1 MB/s eta 0:00:01
     |███████████████▋                | 1.9 MB 48.1 MB/s eta 0:00:01
     |███████████████▊                | 1.9 MB 48.1 MB/s eta 0:00:01
     |███████████████▊                | 1.9 MB 48.1 MB/s eta 0:00:01
     |███████████████▉                | 1.9 MB 48.1 MB/s eta 0:00:01
     |████████████████                | 1.9 MB 48.1 MB/s eta 0:00:01
     |████████████████                | 1.9 MB 48.1 MB/s eta 0:00:01
     |████████████████                | 1.9 MB 48.1 MB/s eta 0:00:01
     |████████████████▏               | 1.9 MB 48.1 MB/s eta 0:00:01
     |████████████████▎               | 2.0 MB 48.1 MB/s eta 0:00:01
     |████████████████▍               | 2.0 MB 48.1 MB/s eta 0:00:01
     |████████████████▌               | 2.0 MB 48.1 MB/s eta 0:00:01
     |████████████████▌               | 2.0 MB 48.1 MB/s eta 0:00:01
     |████████████████▋               | 2.0 MB 48.1 MB/s eta 0:00:01
     |████████████████▊               | 2.0 MB 48.1 MB/s eta 0:00:01
     |████████████████▉               | 2.0 MB 48.1 MB/s eta 0:00:01
     |████████████████▉               | 2.0 MB 48.1 MB/s eta 0:00:01
     |█████████████████               | 2.0 MB 48.1 MB/s eta 0:00:01
     |█████████████████               | 2.0 MB 48.1 MB/s eta 0:00:01
     |█████████████████▏              | 2.1 MB 48.1 MB/s eta 0:00:01
     |█████████████████▏              | 2.1 MB 48.1 MB/s eta 0:00:01
     |█████████████████▎              | 2.1 MB 48.1 MB/s eta 0:00:01
     |█████████████████▍              | 2.1 MB 48.1 MB/s eta 0:00:01
     |█████████████████▌              | 2.1 MB 48.1 MB/s eta 0:00:01
     |█████████████████▌              | 2.1 MB 48.1 MB/s eta 0:00:01
     |█████████████████▋              | 2.1 MB 48.1 MB/s eta 0:00:01
     |█████████████████▊              | 2.1 MB 48.1 MB/s eta 0:00:01
     |█████████████████▉              | 2.1 MB 48.1 MB/s eta 0:00:01
     |██████████████████              | 2.2 MB 48.1 MB/s eta 0:00:01
     |██████████████████              | 2.2 MB 48.1 MB/s eta 0:00:01
     |██████████████████              | 2.2 MB 48.1 MB/s eta 0:00:01
     |██████████████████▏             | 2.2 MB 48.1 MB/s eta 0:00:01
     |██████████████████▎             | 2.2 MB 48.1 MB/s eta 0:00:01
     |██████████████████▎             | 2.2 MB 48.1 MB/s eta 0:00:01
     |██████████████████▍             | 2.2 MB 48.1 MB/s eta 0:00:01
     |██████████████████▌             | 2.2 MB 48.1 MB/s eta 0:00:01
     |██████████████████▋             | 2.2 MB 48.1 MB/s eta 0:00:01
     |██████████████████▋             | 2.2 MB 48.1 MB/s eta 0:00:01
     |██████████████████▊             | 2.3 MB 48.1 MB/s eta 0:00:01
     |██████████████████▉             | 2.3 MB 48.1 MB/s eta 0:00:01
     |███████████████████             | 2.3 MB 48.1 MB/s eta 0:00:01
     |███████████████████             | 2.3 MB 48.1 MB/s eta 0:00:01
     |███████████████████             | 2.3 MB 48.1 MB/s eta 0:00:01
     |███████████████████▏            | 2.3 MB 48.1 MB/s eta 0:00:01
     |███████████████████▎            | 2.3 MB 48.1 MB/s eta 0:00:01
     |███████████████████▍            | 2.3 MB 48.1 MB/s eta 0:00:01
     |███████████████████▍            | 2.3 MB 48.1 MB/s eta 0:00:01
     |███████████████████▌            | 2.3 MB 48.1 MB/s eta 0:00:01
     |███████████████████▋            | 2.4 MB 48.1 MB/s eta 0:00:01
     |███████████████████▊            | 2.4 MB 48.1 MB/s eta 0:00:01
     |███████████████████▊            | 2.4 MB 48.1 MB/s eta 0:00:01
     |███████████████████▉            | 2.4 MB 48.1 MB/s eta 0:00:01
     |████████████████████            | 2.4 MB 48.1 MB/s eta 0:00:01
     |████████████████████            | 2.4 MB 48.1 MB/s eta 0:00:01
     |████████████████████            | 2.4 MB 48.1 MB/s eta 0:00:01
     |████████████████████▏           | 2.4 MB 48.1 MB/s eta 0:00:01
     |████████████████████▎           | 2.4 MB 48.1 MB/s eta 0:00:01
     |████████████████████▍           | 2.4 MB 48.1 MB/s eta 0:00:01
     |████████████████████▌           | 2.5 MB 48.1 MB/s eta 0:00:01
     |████████████████████▌           | 2.5 MB 48.1 MB/s eta 0:00:01
     |████████████████████▋           | 2.5 MB 48.1 MB/s eta 0:00:01
     |████████████████████▊           | 2.5 MB 48.1 MB/s eta 0:00:01
     |████████████████████▉           | 2.5 MB 48.1 MB/s eta 0:00:01
     |████████████████████▉           | 2.5 MB 48.1 MB/s eta 0:00:01
     |█████████████████████           | 2.5 MB 48.1 MB/s eta 0:00:01
     |█████████████████████           | 2.5 MB 48.1 MB/s eta 0:00:01
     |█████████████████████▏          | 2.5 MB 48.1 MB/s eta 0:00:01
     |█████████████████████▏          | 2.5 MB 48.1 MB/s eta 0:00:01
     |█████████████████████▎          | 2.6 MB 48.1 MB/s eta 0:00:01
     |█████████████████████▍          | 2.6 MB 48.1 MB/s eta 0:00:01
     |█████████████████████▌          | 2.6 MB 48.1 MB/s eta 0:00:01
     |█████████████████████▋          | 2.6 MB 48.1 MB/s eta 0:00:01
     |█████████████████████▋          | 2.6 MB 48.1 MB/s eta 0:00:01
     |█████████████████████▊          | 2.6 MB 48.1 MB/s eta 0:00:01
     |█████████████████████▉          | 2.6 MB 48.1 MB/s eta 0:00:01
     |██████████████████████          | 2.6 MB 48.1 MB/s eta 0:00:01
     |██████████████████████          | 2.6 MB 48.1 MB/s eta 0:00:01
     |██████████████████████          | 2.7 MB 48.1 MB/s eta 0:00:01
     |██████████████████████▏         | 2.7 MB 48.1 MB/s eta 0:00:01
     |██████████████████████▎         | 2.7 MB 48.1 MB/s eta 0:00:01
     |██████████████████████▎         | 2.7 MB 48.1 MB/s eta 0:00:01
     |██████████████████████▍         | 2.7 MB 48.1 MB/s eta 0:00:01
     |██████████████████████▌         | 2.7 MB 48.1 MB/s eta 0:00:01
     |██████████████████████▋         | 2.7 MB 48.1 MB/s eta 0:00:01
     |██████████████████████▋         | 2.7 MB 48.1 MB/s eta 0:00:01
     |██████████████████████▊         | 2.7 MB 48.1 MB/s eta 0:00:01
     |██████████████████████▉         | 2.7 MB 48.1 MB/s eta 0:00:01
     |███████████████████████         | 2.8 MB 48.1 MB/s eta 0:00:01
     |███████████████████████         | 2.8 MB 48.1 MB/s eta 0:00:01
     |███████████████████████         | 2.8 MB 48.1 MB/s eta 0:00:01
     |███████████████████████▏        | 2.8 MB 48.1 MB/s eta 0:00:01
     |███████████████████████▎        | 2.8 MB 48.1 MB/s eta 0:00:01
     |███████████████████████▍        | 2.8 MB 48.1 MB/s eta 0:00:01
     |███████████████████████▍        | 2.8 MB 48.1 MB/s eta 0:00:01
     |███████████████████████▌        | 2.8 MB 48.1 MB/s eta 0:00:01
     |███████████████████████▋        | 2.8 MB 48.1 MB/s eta 0:00:01
     |███████████████████████▊        | 2.8 MB 48.1 MB/s eta 0:00:01
     |███████████████████████▊        | 2.9 MB 48.1 MB/s eta 0:00:01
     |███████████████████████▉        | 2.9 MB 48.1 MB/s eta 0:00:01
     |████████████████████████        | 2.9 MB 48.1 MB/s eta 0:00:01
     |████████████████████████        | 2.9 MB 48.1 MB/s eta 0:00:01
     |████████████████████████▏       | 2.9 MB 48.1 MB/s eta 0:00:01
     |████████████████████████▏       | 2.9 MB 48.1 MB/s eta 0:00:01
     |████████████████████████▎       | 2.9 MB 48.1 MB/s eta 0:00:01
     |████████████████████████▍       | 2.9 MB 48.1 MB/s eta 0:00:01
     |████████████████████████▌       | 2.9 MB 48.1 MB/s eta 0:00:01
     |████████████████████████▌       | 2.9 MB 48.1 MB/s eta 0:00:01
     |████████████████████████▋       | 3.0 MB 48.1 MB/s eta 0:00:01
     |████████████████████████▊       | 3.0 MB 48.1 MB/s eta 0:00:01
     |████████████████████████▉       | 3.0 MB 48.1 MB/s eta 0:00:01
     |████████████████████████▉       | 3.0 MB 48.1 MB/s eta 0:00:01
     |█████████████████████████       | 3.0 MB 48.1 MB/s eta 0:00:01
     |█████████████████████████       | 3.0 MB 48.1 MB/s eta 0:00:01
     |█████████████████████████▏      | 3.0 MB 48.1 MB/s eta 0:00:01
     |█████████████████████████▏      | 3.0 MB 48.1 MB/s eta 0:00:01
     |█████████████████████████▎      | 3.0 MB 48.1 MB/s eta 0:00:01
     |█████████████████████████▍      | 3.1 MB 48.1 MB/s eta 0:00:01
     |█████████████████████████▌      | 3.1 MB 48.1 MB/s eta 0:00:01
     |█████████████████████████▋      | 3.1 MB 48.1 MB/s eta 0:00:01
     |█████████████████████████▋      | 3.1 MB 48.1 MB/s eta 0:00:01
     |█████████████████████████▊      | 3.1 MB 48.1 MB/s eta 0:00:01
     |█████████████████████████▉      | 3.1 MB 48.1 MB/s eta 0:00:01
     |██████████████████████████      | 3.1 MB 48.1 MB/s eta 0:00:01
     |██████████████████████████      | 3.1 MB 48.1 MB/s eta 0:00:01
     |██████████████████████████      | 3.1 MB 48.1 MB/s eta 0:00:01
     |██████████████████████████▏     | 3.1 MB 48.1 MB/s eta 0:00:01
     |██████████████████████████▎     | 3.2 MB 48.1 MB/s eta 0:00:01
     |██████████████████████████▎     | 3.2 MB 48.1 MB/s eta 0:00:01
     |██████████████████████████▍     | 3.2 MB 48.1 MB/s eta 0:00:01
     |██████████████████████████▌     | 3.2 MB 48.1 MB/s eta 0:00:01
     |██████████████████████████▋     | 3.2 MB 48.1 MB/s eta 0:00:01
     |██████████████████████████▊     | 3.2 MB 48.1 MB/s eta 0:00:01
     |██████████████████████████▊     | 3.2 MB 48.1 MB/s eta 0:00:01
     |██████████████████████████▉     | 3.2 MB 48.1 MB/s eta 0:00:01
     |███████████████████████████     | 3.2 MB 48.1 MB/s eta 0:00:01
     |███████████████████████████     | 3.2 MB 48.1 MB/s eta 0:00:01
     |███████████████████████████     | 3.3 MB 48.1 MB/s eta 0:00:01
     |███████████████████████████▏    | 3.3 MB 48.1 MB/s eta 0:00:01
     |███████████████████████████▎    | 3.3 MB 48.1 MB/s eta 0:00:01
     |███████████████████████████▍    | 3.3 MB 48.1 MB/s eta 0:00:01
     |███████████████████████████▍    | 3.3 MB 48.1 MB/s eta 0:00:01
     |███████████████████████████▌    | 3.3 MB 48.1 MB/s eta 0:00:01
     |███████████████████████████▋    | 3.3 MB 48.1 MB/s eta 0:00:01
     |███████████████████████████▊    | 3.3 MB 48.1 MB/s eta 0:00:01
     |███████████████████████████▉    | 3.3 MB 48.1 MB/s eta 0:00:01
     |███████████████████████████▉    | 3.3 MB 48.1 MB/s eta 0:00:01
     |████████████████████████████    | 3.4 MB 48.1 MB/s eta 0:00:01
     |████████████████████████████    | 3.4 MB 48.1 MB/s eta 0:00:01
     |████████████████████████████▏   | 3.4 MB 48.1 MB/s eta 0:00:01
     |████████████████████████████▏   | 3.4 MB 48.1 MB/s eta 0:00:01
     |████████████████████████████▎   | 3.4 MB 48.1 MB/s eta 0:00:01
     |████████████████████████████▍   | 3.4 MB 48.1 MB/s eta 0:00:01
     |████████████████████████████▌   | 3.4 MB 48.1 MB/s eta 0:00:01
     |████████████████████████████▌   | 3.4 MB 48.1 MB/s eta 0:00:01
     |████████████████████████████▋   | 3.4 MB 48.1 MB/s eta 0:00:01
     |████████████████████████████▊   | 3.5 MB 48.1 MB/s eta 0:00:01
     |████████████████████████████▉   | 3.5 MB 48.1 MB/s eta 0:00:01
     |████████████████████████████▉   | 3.5 MB 48.1 MB/s eta 0:00:01
     |█████████████████████████████   | 3.5 MB 48.1 MB/s eta 0:00:01
     |█████████████████████████████   | 3.5 MB 48.1 MB/s eta 0:00:01
     |█████████████████████████████▏  | 3.5 MB 48.1 MB/s eta 0:00:01
     |█████████████████████████████▎  | 3.5 MB 48.1 MB/s eta 0:00:01
     |█████████████████████████████▎  | 3.5 MB 48.1 MB/s eta 0:00:01
     |█████████████████████████████▍  | 3.5 MB 48.1 MB/s eta 0:00:01
     |█████████████████████████████▌  | 3.5 MB 48.1 MB/s eta 0:00:01
     |█████████████████████████████▋  | 3.6 MB 48.1 MB/s eta 0:00:01
     |█████████████████████████████▋  | 3.6 MB 48.1 MB/s eta 0:00:01
     |█████████████████████████████▊  | 3.6 MB 48.1 MB/s eta 0:00:01
     |█████████████████████████████▉  | 3.6 MB 48.1 MB/s eta 0:00:01
     |██████████████████████████████  | 3.6 MB 48.1 MB/s eta 0:00:01
     |██████████████████████████████  | 3.6 MB 48.1 MB/s eta 0:00:01
     |██████████████████████████████  | 3.6 MB 48.1 MB/s eta 0:00:01
     |██████████████████████████████▏ | 3.6 MB 48.1 MB/s eta 0:00:01
     |██████████████████████████████▎ | 3.6 MB 48.1 MB/s eta 0:00:01
     |██████████████████████████████▍ | 3.6 MB 48.1 MB/s eta 0:00:01
     |██████████████████████████████▍ | 3.7 MB 48.1 MB/s eta 0:00:01
     |██████████████████████████████▌ | 3.7 MB 48.1 MB/s eta 0:00:01
     |██████████████████████████████▋ | 3.7 MB 48.1 MB/s eta 0:00:01
     |██████████████████████████████▊ | 3.7 MB 48.1 MB/s eta 0:00:01
     |██████████████████████████████▊ | 3.7 MB 48.1 MB/s eta 0:00:01
     |██████████████████████████████▉ | 3.7 MB 48.1 MB/s eta 0:00:01
     |███████████████████████████████ | 3.7 MB 48.1 MB/s eta 0:00:01
     |███████████████████████████████ | 3.7 MB 48.1 MB/s eta 0:00:01
     |███████████████████████████████ | 3.7 MB 48.1 MB/s eta 0:00:01
     |███████████████████████████████▏| 3.7 MB 48.1 MB/s eta 0:00:01
     |███████████████████████████████▎| 3.8 MB 48.1 MB/s eta 0:00:01
     |███████████████████████████████▍| 3.8 MB 48.1 MB/s eta 0:00:01
     |███████████████████████████████▍| 3.8 MB 48.1 MB/s eta 0:00:01
     |███████████████████████████████▌| 3.8 MB 48.1 MB/s eta 0:00:01
     |███████████████████████████████▋| 3.8 MB 48.1 MB/s eta 0:00:01
     |███████████████████████████████▊| 3.8 MB 48.1 MB/s eta 0:00:01
     |███████████████████████████████▉| 3.8 MB 48.1 MB/s eta 0:00:01
     |███████████████████████████████▉| 3.8 MB 48.1 MB/s eta 0:00:01
     |████████████████████████████████| 3.8 MB 48.1 MB/s eta 0:00:01
     |████████████████████████████████| 3.8 MB 48.1 MB/s
Requirement already satisfied: docutils<0.16,>=0.10 in /usr/local/lib/python3.6/site-packages (from awscli) (0.15.2)
Requirement already satisfied: colorama<0.4.4,>=0.2.5 in /usr/local/lib/python3.6/site-packages (from awscli) (0.4.3)
Requirement already satisfied: s3transfer<0.6.0,>=0.5.0 in /usr/local/lib/python3.6/site-packages (from awscli) (0.5.2)
Requirement already satisfied: rsa<4.8,>=3.1.2 in /usr/local/lib/python3.6/site-packages (from awscli) (4.7.2)
Requirement already satisfied: PyYAML<5.5,>=3.10 in /usr/local/lib/python3.6/site-packages (from awscli) (5.4.1)
Requirement already satisfied: python-dateutil<3.0.0,>=2.1 in /usr/local/lib/python3.6/site-packages (from botocore) (2.8.1)
Requirement already satisfied: jmespath<2.0.0,>=0.7.1 in /usr/local/lib/python3.6/site-packages (from botocore) (0.10.0)
Requirement already satisfied: urllib3<1.27,>=1.25.4 in /usr/local/lib/python3.6/site-packages (from botocore) (1.25.11)
Requirement already satisfied: six>=1.5 in /usr/local/lib/python3.6/site-packages (from python-dateutil<3.0.0,>=2.1->botocore) (1.15.0)
Requirement already satisfied: pyasn1>=0.1.3 in /usr/local/lib/python3.6/site-packages (from rsa<4.8,>=3.1.2->awscli) (0.4.8)
Requirement already satisfied: attrs==20.3.0 in /usr/local/lib/python3.6/site-packages (from sagemaker) (20.3.0)
Requirement already satisfied: google-pasta in /usr/local/lib/python3.6/site-packages (from sagemaker) (0.2.0)
Requirement already satisfied: numpy>=1.9.0 in /usr/local/lib/python3.6/site-packages (from sagemaker) (1.18.5)
Requirement already satisfied: protobuf>=3.1 in /usr/local/lib/python3.6/site-packages (from sagemaker) (3.15.3)
Requirement already satisfied: protobuf3-to-dict>=0.1.5 in /usr/local/lib/python3.6/site-packages (from sagemaker) (0.1.5)
Requirement already satisfied: smdebug_rulesconfig==1.0.1 in /usr/local/lib/python3.6/site-packages (from sagemaker) (1.0.1)
Requirement already satisfied: importlib-metadata>=1.4.0 in /usr/local/lib/python3.6/site-packages (from sagemaker) (3.7.0)
Requirement already satisfied: packaging>=20.0 in /usr/local/lib/python3.6/site-packages (from sagemaker) (20.9)
Requirement already satisfied: pandas in /usr/local/lib/python3.6/site-packages (from sagemaker) (0.24.2)
Requirement already satisfied: pathos in /usr/local/lib/python3.6/site-packages (from sagemaker) (0.2.8)
Requirement already satisfied: zipp>=0.5 in /usr/local/lib/python3.6/site-packages (from importlib-metadata>=1.4.0->sagemaker) (3.4.0)
Requirement already satisfied: typing-extensions>=3.6.4 in /usr/local/lib/python3.6/site-packages (from importlib-metadata>=1.4.0->sagemaker) (3.7.4.3)
Requirement already satisfied: pyparsing>=2.0.2 in /usr/local/lib/python3.6/site-packages (from packaging>=20.0->sagemaker) (2.4.7)
Requirement already satisfied: pytz>=2011k in /usr/local/lib/python3.6/site-packages (from pandas->sagemaker) (2021.1)
Requirement already satisfied: multiprocess>=0.70.12 in /usr/local/lib/python3.6/site-packages (from pathos->sagemaker) (0.70.12.2)
Requirement already satisfied: pox>=0.3.0 in /usr/local/lib/python3.6/site-packages (from pathos->sagemaker) (0.3.0)
Requirement already satisfied: ppft>=1.6.6.4 in /usr/local/lib/python3.6/site-packages (from pathos->sagemaker) (1.6.6.4)
Requirement already satisfied: dill>=0.3.4 in /usr/local/lib/python3.6/site-packages (from pathos->sagemaker) (0.3.4)
Building wheels for collected packages: sagemaker
  Building wheel for sagemaker (setup.py) ... - \ | / - \ | / done
  Created wheel for sagemaker: filename=sagemaker-2.86.2-py2.py3-none-any.whl size=720848 sha256=1da97f32bd534164c5bd8d162be8084b3a9d165d9aa1ff7fab6fbef1dd88ec7c
  Stored in directory: /root/.cache/pip/wheels/59/43/38/ebab0cc66165586b93249bb62b88af317edd25ecd7885b496b
Successfully built sagemaker
Installing collected packages: botocore, boto3, sagemaker, awscli
  Attempting uninstall: botocore
    Found existing installation: botocore 1.23.7
    Uninstalling botocore-1.23.7:
      Successfully uninstalled botocore-1.23.7
  Attempting uninstall: boto3
    Found existing installation: boto3 1.20.7
    Uninstalling boto3-1.20.7:
      Successfully uninstalled boto3-1.20.7
  Attempting uninstall: sagemaker
    Found existing installation: sagemaker 2.69.1.dev0
    Uninstalling sagemaker-2.69.1.dev0:
      Successfully uninstalled sagemaker-2.69.1.dev0
  Attempting uninstall: awscli
    Found existing installation: awscli 1.22.7
    Uninstalling awscli-1.22.7:
      Successfully uninstalled awscli-1.22.7
Successfully installed awscli-1.22.97 boto3-1.21.42 botocore-1.24.42 sagemaker-2.86.2
WARNING: You are using pip version 21.0.1; however, version 21.3.1 is available.
You should consider upgrading via the '/usr/local/bin/python3.6 -m pip install --upgrade pip' command.
[3]:
!pip install sagemaker-experiments pyvis
Requirement already satisfied: sagemaker-experiments in /usr/local/lib/python3.6/site-packages (0.1.28)
Collecting pyvis
  Downloading pyvis-0.2.0.tar.gz (21 kB)
Requirement already satisfied: jinja2>=2.9.6 in /usr/local/lib/python3.6/site-packages (from pyvis) (3.0.3)
Collecting networkx>=1.11
  Downloading networkx-2.5.1-py3-none-any.whl (1.6 MB)

     |▏                               | 10 kB 26.8 MB/s eta 0:00:01
     |▍                               | 20 kB 9.3 MB/s eta 0:00:01
     |▋                               | 30 kB 8.5 MB/s eta 0:00:01
     |▉                               | 40 kB 6.0 MB/s eta 0:00:01
     |█                               | 51 kB 5.7 MB/s eta 0:00:01
     |█▏                              | 61 kB 6.7 MB/s eta 0:00:01
     |█▍                              | 71 kB 7.2 MB/s eta 0:00:01
     |█▋                              | 81 kB 7.1 MB/s eta 0:00:01
     |█▉                              | 92 kB 7.9 MB/s eta 0:00:01
     |██                              | 102 kB 8.2 MB/s eta 0:00:01
     |██▎                             | 112 kB 8.2 MB/s eta 0:00:01
     |██▍                             | 122 kB 8.2 MB/s eta 0:00:01
     |██▋                             | 133 kB 8.2 MB/s eta 0:00:01
     |██▉                             | 143 kB 8.2 MB/s eta 0:00:01
     |███                             | 153 kB 8.2 MB/s eta 0:00:01
     |███▎                            | 163 kB 8.2 MB/s eta 0:00:01
     |███▌                            | 174 kB 8.2 MB/s eta 0:00:01
     |███▋                            | 184 kB 8.2 MB/s eta 0:00:01
     |███▉                            | 194 kB 8.2 MB/s eta 0:00:01
     |████                            | 204 kB 8.2 MB/s eta 0:00:01
     |████▎                           | 215 kB 8.2 MB/s eta 0:00:01
     |████▌                           | 225 kB 8.2 MB/s eta 0:00:01
     |████▋                           | 235 kB 8.2 MB/s eta 0:00:01
     |████▉                           | 245 kB 8.2 MB/s eta 0:00:01
     |█████                           | 256 kB 8.2 MB/s eta 0:00:01
     |█████▎                          | 266 kB 8.2 MB/s eta 0:00:01
     |█████▌                          | 276 kB 8.2 MB/s eta 0:00:01
     |█████▊                          | 286 kB 8.2 MB/s eta 0:00:01
     |█████▉                          | 296 kB 8.2 MB/s eta 0:00:01
     |██████                          | 307 kB 8.2 MB/s eta 0:00:01
     |██████▎                         | 317 kB 8.2 MB/s eta 0:00:01
     |██████▌                         | 327 kB 8.2 MB/s eta 0:00:01
     |██████▊                         | 337 kB 8.2 MB/s eta 0:00:01
     |███████                         | 348 kB 8.2 MB/s eta 0:00:01
     |███████                         | 358 kB 8.2 MB/s eta 0:00:01
     |███████▎                        | 368 kB 8.2 MB/s eta 0:00:01
     |███████▌                        | 378 kB 8.2 MB/s eta 0:00:01
     |███████▊                        | 389 kB 8.2 MB/s eta 0:00:01
     |████████                        | 399 kB 8.2 MB/s eta 0:00:01
     |████████                        | 409 kB 8.2 MB/s eta 0:00:01
     |████████▎                       | 419 kB 8.2 MB/s eta 0:00:01
     |████████▌                       | 430 kB 8.2 MB/s eta 0:00:01
     |████████▊                       | 440 kB 8.2 MB/s eta 0:00:01
     |█████████                       | 450 kB 8.2 MB/s eta 0:00:01
     |█████████▏                      | 460 kB 8.2 MB/s eta 0:00:01
     |█████████▎                      | 471 kB 8.2 MB/s eta 0:00:01
     |█████████▌                      | 481 kB 8.2 MB/s eta 0:00:01
     |█████████▊                      | 491 kB 8.2 MB/s eta 0:00:01
     |██████████                      | 501 kB 8.2 MB/s eta 0:00:01
     |██████████▏                     | 512 kB 8.2 MB/s eta 0:00:01
     |██████████▍                     | 522 kB 8.2 MB/s eta 0:00:01
     |██████████▌                     | 532 kB 8.2 MB/s eta 0:00:01
     |██████████▊                     | 542 kB 8.2 MB/s eta 0:00:01
     |███████████                     | 552 kB 8.2 MB/s eta 0:00:01
     |███████████▏                    | 563 kB 8.2 MB/s eta 0:00:01
     |███████████▍                    | 573 kB 8.2 MB/s eta 0:00:01
     |███████████▋                    | 583 kB 8.2 MB/s eta 0:00:01
     |███████████▊                    | 593 kB 8.2 MB/s eta 0:00:01
     |████████████                    | 604 kB 8.2 MB/s eta 0:00:01
     |████████████▏                   | 614 kB 8.2 MB/s eta 0:00:01
     |████████████▍                   | 624 kB 8.2 MB/s eta 0:00:01
     |████████████▋                   | 634 kB 8.2 MB/s eta 0:00:01
     |████████████▊                   | 645 kB 8.2 MB/s eta 0:00:01
     |█████████████                   | 655 kB 8.2 MB/s eta 0:00:01
     |█████████████▏                  | 665 kB 8.2 MB/s eta 0:00:01
     |█████████████▍                  | 675 kB 8.2 MB/s eta 0:00:01
     |█████████████▋                  | 686 kB 8.2 MB/s eta 0:00:01
     |█████████████▉                  | 696 kB 8.2 MB/s eta 0:00:01
     |██████████████                  | 706 kB 8.2 MB/s eta 0:00:01
     |██████████████▏                 | 716 kB 8.2 MB/s eta 0:00:01
     |██████████████▍                 | 727 kB 8.2 MB/s eta 0:00:01
     |██████████████▋                 | 737 kB 8.2 MB/s eta 0:00:01
     |██████████████▉                 | 747 kB 8.2 MB/s eta 0:00:01
     |███████████████                 | 757 kB 8.2 MB/s eta 0:00:01
     |███████████████▏                | 768 kB 8.2 MB/s eta 0:00:01
     |███████████████▍                | 778 kB 8.2 MB/s eta 0:00:01
     |███████████████▋                | 788 kB 8.2 MB/s eta 0:00:01
     |███████████████▉                | 798 kB 8.2 MB/s eta 0:00:01
     |████████████████                | 808 kB 8.2 MB/s eta 0:00:01
     |████████████████▏               | 819 kB 8.2 MB/s eta 0:00:01
     |████████████████▍               | 829 kB 8.2 MB/s eta 0:00:01
     |████████████████▋               | 839 kB 8.2 MB/s eta 0:00:01
     |████████████████▉               | 849 kB 8.2 MB/s eta 0:00:01
     |█████████████████               | 860 kB 8.2 MB/s eta 0:00:01
     |█████████████████▎              | 870 kB 8.2 MB/s eta 0:00:01
     |█████████████████▍              | 880 kB 8.2 MB/s eta 0:00:01
     |█████████████████▋              | 890 kB 8.2 MB/s eta 0:00:01
     |█████████████████▉              | 901 kB 8.2 MB/s eta 0:00:01
     |██████████████████              | 911 kB 8.2 MB/s eta 0:00:01
     |██████████████████▎             | 921 kB 8.2 MB/s eta 0:00:01
     |██████████████████▌             | 931 kB 8.2 MB/s eta 0:00:01
     |██████████████████▋             | 942 kB 8.2 MB/s eta 0:00:01
     |██████████████████▉             | 952 kB 8.2 MB/s eta 0:00:01
     |███████████████████             | 962 kB 8.2 MB/s eta 0:00:01
     |███████████████████▎            | 972 kB 8.2 MB/s eta 0:00:01
     |███████████████████▌            | 983 kB 8.2 MB/s eta 0:00:01
     |███████████████████▊            | 993 kB 8.2 MB/s eta 0:00:01
     |███████████████████▉            | 1.0 MB 8.2 MB/s eta 0:00:01
     |████████████████████            | 1.0 MB 8.2 MB/s eta 0:00:01
     |████████████████████▎           | 1.0 MB 8.2 MB/s eta 0:00:01
     |████████████████████▌           | 1.0 MB 8.2 MB/s eta 0:00:01
     |████████████████████▊           | 1.0 MB 8.2 MB/s eta 0:00:01
     |████████████████████▉           | 1.1 MB 8.2 MB/s eta 0:00:01
     |█████████████████████           | 1.1 MB 8.2 MB/s eta 0:00:01
     |█████████████████████▎          | 1.1 MB 8.2 MB/s eta 0:00:01
     |█████████████████████▌          | 1.1 MB 8.2 MB/s eta 0:00:01
     |█████████████████████▊          | 1.1 MB 8.2 MB/s eta 0:00:01
     |██████████████████████          | 1.1 MB 8.2 MB/s eta 0:00:01
     |██████████████████████          | 1.1 MB 8.2 MB/s eta 0:00:01
     |██████████████████████▎         | 1.1 MB 8.2 MB/s eta 0:00:01
     |██████████████████████▌         | 1.1 MB 8.2 MB/s eta 0:00:01
     |██████████████████████▊         | 1.1 MB 8.2 MB/s eta 0:00:01
     |███████████████████████         | 1.2 MB 8.2 MB/s eta 0:00:01
     |███████████████████████▏        | 1.2 MB 8.2 MB/s eta 0:00:01
     |███████████████████████▎        | 1.2 MB 8.2 MB/s eta 0:00:01
     |███████████████████████▌        | 1.2 MB 8.2 MB/s eta 0:00:01
     |███████████████████████▊        | 1.2 MB 8.2 MB/s eta 0:00:01
     |████████████████████████        | 1.2 MB 8.2 MB/s eta 0:00:01
     |████████████████████████▏       | 1.2 MB 8.2 MB/s eta 0:00:01
     |████████████████████████▎       | 1.2 MB 8.2 MB/s eta 0:00:01
     |████████████████████████▌       | 1.2 MB 8.2 MB/s eta 0:00:01
     |████████████████████████▊       | 1.2 MB 8.2 MB/s eta 0:00:01
     |█████████████████████████       | 1.3 MB 8.2 MB/s eta 0:00:01
     |█████████████████████████▏      | 1.3 MB 8.2 MB/s eta 0:00:01
     |█████████████████████████▍      | 1.3 MB 8.2 MB/s eta 0:00:01
     |█████████████████████████▌      | 1.3 MB 8.2 MB/s eta 0:00:01
     |█████████████████████████▊      | 1.3 MB 8.2 MB/s eta 0:00:01
     |██████████████████████████      | 1.3 MB 8.2 MB/s eta 0:00:01
     |██████████████████████████▏     | 1.3 MB 8.2 MB/s eta 0:00:01
     |██████████████████████████▍     | 1.3 MB 8.2 MB/s eta 0:00:01
     |██████████████████████████▋     | 1.3 MB 8.2 MB/s eta 0:00:01
     |██████████████████████████▊     | 1.4 MB 8.2 MB/s eta 0:00:01
     |███████████████████████████     | 1.4 MB 8.2 MB/s eta 0:00:01
     |███████████████████████████▏    | 1.4 MB 8.2 MB/s eta 0:00:01
     |███████████████████████████▍    | 1.4 MB 8.2 MB/s eta 0:00:01
     |███████████████████████████▋    | 1.4 MB 8.2 MB/s eta 0:00:01
     |███████████████████████████▉    | 1.4 MB 8.2 MB/s eta 0:00:01
     |████████████████████████████    | 1.4 MB 8.2 MB/s eta 0:00:01
     |████████████████████████████▏   | 1.4 MB 8.2 MB/s eta 0:00:01
     |████████████████████████████▍   | 1.4 MB 8.2 MB/s eta 0:00:01
     |████████████████████████████▋   | 1.4 MB 8.2 MB/s eta 0:00:01
     |████████████████████████████▉   | 1.5 MB 8.2 MB/s eta 0:00:01
     |█████████████████████████████   | 1.5 MB 8.2 MB/s eta 0:00:01
     |█████████████████████████████▏  | 1.5 MB 8.2 MB/s eta 0:00:01
     |█████████████████████████████▍  | 1.5 MB 8.2 MB/s eta 0:00:01
     |█████████████████████████████▋  | 1.5 MB 8.2 MB/s eta 0:00:01
     |█████████████████████████████▉  | 1.5 MB 8.2 MB/s eta 0:00:01
     |██████████████████████████████  | 1.5 MB 8.2 MB/s eta 0:00:01
     |██████████████████████████████▏ | 1.5 MB 8.2 MB/s eta 0:00:01
     |██████████████████████████████▍ | 1.5 MB 8.2 MB/s eta 0:00:01
     |██████████████████████████████▋ | 1.5 MB 8.2 MB/s eta 0:00:01
     |██████████████████████████████▉ | 1.6 MB 8.2 MB/s eta 0:00:01
     |███████████████████████████████ | 1.6 MB 8.2 MB/s eta 0:00:01
     |███████████████████████████████▎| 1.6 MB 8.2 MB/s eta 0:00:01
     |███████████████████████████████▍| 1.6 MB 8.2 MB/s eta 0:00:01
     |███████████████████████████████▋| 1.6 MB 8.2 MB/s eta 0:00:01
     |███████████████████████████████▉| 1.6 MB 8.2 MB/s eta 0:00:01
     |████████████████████████████████| 1.6 MB 8.2 MB/s
Requirement already satisfied: ipython>=5.3.0 in /usr/local/lib/python3.6/site-packages (from pyvis) (7.16.3)
Collecting jsonpickle>=1.4.1
  Downloading jsonpickle-2.1.0-py2.py3-none-any.whl (38 kB)
Requirement already satisfied: pygments in /usr/local/lib/python3.6/site-packages (from ipython>=5.3.0->pyvis) (2.11.2)
Requirement already satisfied: decorator in /usr/local/lib/python3.6/site-packages (from ipython>=5.3.0->pyvis) (5.1.1)
Requirement already satisfied: pickleshare in /usr/local/lib/python3.6/site-packages (from ipython>=5.3.0->pyvis) (0.7.5)
Requirement already satisfied: prompt-toolkit!=3.0.0,!=3.0.1,<3.1.0,>=2.0.0 in /usr/local/lib/python3.6/site-packages (from ipython>=5.3.0->pyvis) (3.0.28)
Requirement already satisfied: jedi<=0.17.2,>=0.10 in /usr/local/lib/python3.6/site-packages (from ipython>=5.3.0->pyvis) (0.17.2)
Requirement already satisfied: pexpect in /usr/local/lib/python3.6/site-packages (from ipython>=5.3.0->pyvis) (4.8.0)
Requirement already satisfied: backcall in /usr/local/lib/python3.6/site-packages (from ipython>=5.3.0->pyvis) (0.2.0)
Requirement already satisfied: traitlets>=4.2 in /usr/local/lib/python3.6/site-packages (from ipython>=5.3.0->pyvis) (4.3.3)
Requirement already satisfied: setuptools>=18.5 in /usr/local/lib/python3.6/site-packages (from ipython>=5.3.0->pyvis) (54.0.0)
Requirement already satisfied: parso<0.8.0,>=0.7.0 in /usr/local/lib/python3.6/site-packages (from jedi<=0.17.2,>=0.10->ipython>=5.3.0->pyvis) (0.7.1)
Requirement already satisfied: MarkupSafe>=2.0 in /usr/local/lib/python3.6/site-packages (from jinja2>=2.9.6->pyvis) (2.0.1)
Requirement already satisfied: importlib-metadata in /usr/local/lib/python3.6/site-packages (from jsonpickle>=1.4.1->pyvis) (3.7.0)
Collecting decorator
  Downloading decorator-4.4.2-py2.py3-none-any.whl (9.2 kB)
Requirement already satisfied: wcwidth in /usr/local/lib/python3.6/site-packages (from prompt-toolkit!=3.0.0,!=3.0.1,<3.1.0,>=2.0.0->ipython>=5.3.0->pyvis) (0.2.5)
Requirement already satisfied: ipython-genutils in /usr/local/lib/python3.6/site-packages (from traitlets>=4.2->ipython>=5.3.0->pyvis) (0.2.0)
Requirement already satisfied: six in /usr/local/lib/python3.6/site-packages (from traitlets>=4.2->ipython>=5.3.0->pyvis) (1.15.0)
Requirement already satisfied: boto3>=1.16.27 in /usr/local/lib/python3.6/site-packages (from sagemaker-experiments) (1.21.42)
Requirement already satisfied: jmespath<2.0.0,>=0.7.1 in /usr/local/lib/python3.6/site-packages (from boto3>=1.16.27->sagemaker-experiments) (0.10.0)
Requirement already satisfied: s3transfer<0.6.0,>=0.5.0 in /usr/local/lib/python3.6/site-packages (from boto3>=1.16.27->sagemaker-experiments) (0.5.2)
Requirement already satisfied: botocore<1.25.0,>=1.24.42 in /usr/local/lib/python3.6/site-packages (from boto3>=1.16.27->sagemaker-experiments) (1.24.42)
Requirement already satisfied: python-dateutil<3.0.0,>=2.1 in /usr/local/lib/python3.6/site-packages (from botocore<1.25.0,>=1.24.42->boto3>=1.16.27->sagemaker-experiments) (2.8.1)
Requirement already satisfied: urllib3<1.27,>=1.25.4 in /usr/local/lib/python3.6/site-packages (from botocore<1.25.0,>=1.24.42->boto3>=1.16.27->sagemaker-experiments) (1.25.11)
Requirement already satisfied: typing-extensions>=3.6.4 in /usr/local/lib/python3.6/site-packages (from importlib-metadata->jsonpickle>=1.4.1->pyvis) (3.7.4.3)
Requirement already satisfied: zipp>=0.5 in /usr/local/lib/python3.6/site-packages (from importlib-metadata->jsonpickle>=1.4.1->pyvis) (3.4.0)
Requirement already satisfied: ptyprocess>=0.5 in /usr/local/lib/python3.6/site-packages (from pexpect->ipython>=5.3.0->pyvis) (0.7.0)
Building wheels for collected packages: pyvis
  Building wheel for pyvis (setup.py) ... - \ done
  Created wheel for pyvis: filename=pyvis-0.2.0-py3-none-any.whl size=23658 sha256=a904c931b909addad3628838432f513334719931266cce12fd05d792fdb7881f
  Stored in directory: /root/.cache/pip/wheels/42/2f/c0/cd4dd252b8c8c06f66bc6514528e6cad2d24563e8b537c5fd5
Successfully built pyvis
Installing collected packages: decorator, networkx, jsonpickle, pyvis
  Attempting uninstall: decorator
    Found existing installation: decorator 5.1.1
    Uninstalling decorator-5.1.1:
      Successfully uninstalled decorator-5.1.1
Successfully installed decorator-4.4.2 jsonpickle-2.1.0 networkx-2.5.1 pyvis-0.2.0
WARNING: You are using pip version 21.0.1; however, version 21.3.1 is available.
You should consider upgrading via the '/usr/local/bin/python3.6 -m pip install --upgrade pip' command.

Notebook Overview

This notebook demonstrates how to use SageMaker Lineage APIs to query multi-hop relationships across the lineage graph. Multi-hop relationships are those that span beyond single entity relationships, e.g. Model -> Endpoint, Training Job -> Model. Multi-hop queries allow users to search for distant relationships across the Lineage Graph such as Endpoint -> Data Set.

To demonstrate these capabilities, in this notebook we create a training job, register a model to the Model Registry, and deploy the model to an Endpoint.

[4]:
import os
import boto3
import sagemaker
import pprint
from botocore.config import Config

config = Config(retries={"max_attempts": 50, "mode": "adaptive"})

sagemaker_session = sagemaker.Session()
sm_client = sagemaker_session.sagemaker_client

region = sagemaker_session.boto_region_name

default_bucket = sagemaker_session.default_bucket()
role = sagemaker.get_execution_role()

# Helper function to print query outputs
pp = pprint.PrettyPrinter()
[5]:
from datetime import datetime

training_instance_type = "ml.m5.xlarge"
inference_instance_type = "ml.m5.xlarge"
s3_prefix = "multihop-example"

unique_id = str(datetime.now().timestamp()).split(".")[0]

Create an Experiment and Trial for a training job

[6]:
from smexperiments.experiment import Experiment
from smexperiments.trial import Trial
from smexperiments.trial_component import TrialComponent

experiment_name = f"MultihopQueryExperiment-{unique_id}"
exp = Experiment.create(experiment_name=experiment_name, sagemaker_boto_client=sm_client)

trial = Trial.create(
    experiment_name=exp.experiment_name,
    trial_name=f"MultihopQueryTrial-{unique_id}",
    sagemaker_boto_client=sm_client,
)

print(exp.experiment_name)
print(trial.trial_name)
MultihopQueryExperiment-1650241311
MultihopQueryTrial-1650241311

Training Data

Creating a data/ directory to store the preprocessed UCI Abalone dataset. The preprocessing is done using the preprocessing script defined in the notebook Orchestrating Jobs with Amazon SageMaker Model Building Pipelines notebook. Then training and validation data is uploaded to S3 so that it can be used in the training and inference job.

[7]:
default_bucket
[7]:
'sagemaker-us-west-2-521695447989'
[8]:
if not os.path.exists("./data/"):
    os.makedirs("./data/")
    print("Directory Created ")
else:
    print("Directory already exists")

# Download the processed abalone dataset files
s3 = boto3.client("s3")
s3.download_file(
    f"sagemaker-sample-files",
    "datasets/tabular/uci_abalone/preprocessed/test.csv",
    "./data/test.csv",
)
s3.download_file(
    f"sagemaker-sample-files",
    "datasets/tabular/uci_abalone/preprocessed/train.csv",
    "./data/train.csv",
)
s3.download_file(
    f"sagemaker-sample-files",
    "datasets/tabular/uci_abalone/preprocessed/validation.csv",
    "./data/validation.csv",
)

# Upload the datasets to the SageMaker session default bucket
boto3.Session().resource("s3").Bucket(default_bucket).Object(
    "experiments-demo/train.csv"
).upload_file("data/train.csv")
boto3.Session().resource("s3").Bucket(default_bucket).Object(
    "experiments-demo/validation.csv"
).upload_file("data/validation.csv")

training_data = f"s3://{default_bucket}/experiments-demo/train.csv"
validation_data = f"s3://{default_bucket}/experiments-demo/validation.csv"
Directory Created
/usr/local/lib/python3.6/site-packages/boto3/compat.py:88: PythonDeprecationWarning: Boto3 will no longer support Python 3.6 starting May 30, 2022. To continue receiving service updates, bug fixes, and security updates please upgrade to Python 3.7 or later. More information can be found here: https://aws.amazon.com/blogs/developer/python-support-policy-updates-for-aws-sdks-and-tools/
  warnings.warn(warning, PythonDeprecationWarning)

Create a training job

We train a simple XGBoost model on the Abalone dataset. sagemaker.image_uris.retrieve() is used to get the sagemaker container for XGBoost so that it can be used in the Estimator.

In the .fit() function, we pass in a training and validation dataset along with an experiment_config. The experiment_config ensures that the metrics, parameters, and artifats associated with this training job are logged to the experiment and trial created above.

[9]:
from sagemaker.estimator import Estimator

model_path = f"s3://{default_bucket}/{s3_prefix}/xgb_model"
training_instance_type = "ml.m5.large"

image_uri = sagemaker.image_uris.retrieve(
    framework="xgboost",
    region=region,
    version="1.5-1",
    py_version="py3",
    instance_type=training_instance_type,
)

xgb_train = Estimator(
    image_uri=image_uri,
    instance_type=training_instance_type,
    instance_count=1,
    output_path=model_path,
    sagemaker_session=sagemaker_session,
    role=role,
)

xgb_train.set_hyperparameters(
    objective="reg:linear",
    num_round=50,
    max_depth=5,
    eta=0.2,
    gamma=4,
    min_child_weight=6,
    subsample=0.7,
    verbosity=0,
)
INFO:sagemaker.image_uris:Same images used for training and inference. Defaulting to image scope: inference.
[10]:
from sagemaker.inputs import TrainingInput

xgb_train.fit(
    inputs={
        "train": TrainingInput(
            s3_data=training_data,
            content_type="text/csv",
        ),
        "validation": TrainingInput(
            s3_data=validation_data,
            content_type="text/csv",
        ),
    },
    experiment_config={
        "ExperimentName": experiment_name,
        "TrialName": trial.trial_name,
        "TrialComponentDisplayName": "MultiHopQueryTrialComponent",
    },
)
INFO:sagemaker.image_uris:Defaulting to the only supported framework/algorithm version: latest.
INFO:sagemaker.image_uris:Ignoring unnecessary instance type: None.
INFO:sagemaker:Creating training-job with name: sagemaker-xgboost-2022-04-18-00-21-56-371
2022-04-18 00:21:56 Starting - Starting the training job...
2022-04-18 00:22:12 Starting - Preparing the instances for trainingProfilerReport-1650241316: InProgress
......
2022-04-18 00:23:27 Downloading - Downloading input data......
2022-04-18 00:24:28 Training - Downloading the training image...
2022-04-18 00:25:01 Uploading - Uploading generated training modelINFO:sagemaker-containers:Imported framework sagemaker_xgboost_container.training
INFO:sagemaker-containers:Failed to parse hyperparameter objective value reg:linear to Json.
Returning the value itself
INFO:sagemaker-containers:No GPUs detected (normal if no gpus installed)
INFO:sagemaker_xgboost_container.training:Running XGBoost Sagemaker in algorithm mode
INFO:root:Determined delimiter of CSV input is ','
INFO:root:Determined delimiter of CSV input is ','
INFO:root:Determined delimiter of CSV input is ','
[00:24:55] 2923x10 matrix with 29230 entries loaded from /opt/ml/input/data/train?format=csv&label_column=0&delimiter=,
INFO:root:Determined delimiter of CSV input is ','
[00:24:55] 627x10 matrix with 6270 entries loaded from /opt/ml/input/data/validation?format=csv&label_column=0&delimiter=,
INFO:root:Single node training.
INFO:root:Train matrix has 2923 rows
INFO:root:Validation matrix has 627 rows
[00:24:55] WARNING: /workspace/src/objective/regression_obj.cu:167: reg:linear is now deprecated in favor of reg:squarederror.
[00:24:55] WARNING: /workspace/src/learner.cc:328: 
Parameters: { num_round, silent } might not be used.
  This may not be accurate due to some parameters are only used in language bindings but
  passed down to XGBoost core.  Or some parameters are not used but slip through this
  verification. Please open an issue if you find above cases.
[0]#011train-rmse:8.09483#011validation-rmse:8.33559
[1]#011train-rmse:6.62617#011validation-rmse:6.86867
[2]#011train-rmse:5.47384#011validation-rmse:5.71510
[3]#011train-rmse:4.56593#011validation-rmse:4.80989
[4]#011train-rmse:3.87283#011validation-rmse:4.13381
[5]#011train-rmse:3.34117#011validation-rmse:3.60401
[6]#011train-rmse:2.94611#011validation-rmse:3.22161
[7]#011train-rmse:2.65142#011validation-rmse:2.91350
[8]#011train-rmse:2.43912#011validation-rmse:2.71088
[9]#011train-rmse:2.28429#011validation-rmse:2.56262
[10]#011train-rmse:2.17619#011validation-rmse:2.46501
[11]#011train-rmse:2.10069#011validation-rmse:2.39678
[12]#011train-rmse:2.03541#011validation-rmse:2.35187
[13]#011train-rmse:1.99775#011validation-rmse:2.31802
[14]#011train-rmse:1.95787#011validation-rmse:2.30118
[15]#011train-rmse:1.93027#011validation-rmse:2.28703
[16]#011train-rmse:1.90745#011validation-rmse:2.27673
[17]#011train-rmse:1.89317#011validation-rmse:2.28023
[18]#011train-rmse:1.86939#011validation-rmse:2.27143
[19]#011train-rmse:1.85007#011validation-rmse:2.26374
[20]#011train-rmse:1.83256#011validation-rmse:2.26897
[21]#011train-rmse:1.82095#011validation-rmse:2.27035
[22]#011train-rmse:1.81574#011validation-rmse:2.26190
[23]#011train-rmse:1.80797#011validation-rmse:2.26231
[24]#011train-rmse:1.78942#011validation-rmse:2.26233
[25]#011train-rmse:1.78354#011validation-rmse:2.26086
[26]#011train-rmse:1.77177#011validation-rmse:2.26747
[27]#011train-rmse:1.76730#011validation-rmse:2.26610
[28]#011train-rmse:1.75690#011validation-rmse:2.26657
[29]#011train-rmse:1.75205#011validation-rmse:2.26914
[30]#011train-rmse:1.75068#011validation-rmse:2.26550
[31]#011train-rmse:1.74036#011validation-rmse:2.26121
[32]#011train-rmse:1.72941#011validation-rmse:2.26256
[33]#011train-rmse:1.71468#011validation-rmse:2.25891
[34]#011train-rmse:1.71255#011validation-rmse:2.25856
[35]#011train-rmse:1.71040#011validation-rmse:2.26029
[36]#011train-rmse:1.70669#011validation-rmse:2.26590
[37]#011train-rmse:1.70319#011validation-rmse:2.26375
[38]#011train-rmse:1.69704#011validation-rmse:2.26592
[39]#011train-rmse:1.69448#011validation-rmse:2.26439
[40]#011train-rmse:1.68990#011validation-rmse:2.26771
[41]#011train-rmse:1.67904#011validation-rmse:2.26990
[42]#011train-rmse:1.67131#011validation-rmse:2.26866
[43]#011train-rmse:1.66305#011validation-rmse:2.26504
[44]#011train-rmse:1.65370#011validation-rmse:2.27383
[45]#011train-rmse:1.64502#011validation-rmse:2.27462
[46]#011train-rmse:1.63533#011validation-rmse:2.27985
[47]#011train-rmse:1.62758#011validation-rmse:2.28381
[48]#011train-rmse:1.61885#011validation-rmse:2.28484
[49]#011train-rmse:1.61356#011validation-rmse:2.28200

2022-04-18 00:25:48 Completed - Training job completed
Training seconds: 108
Billable seconds: 108

Create a Model Package Group for the trained model to be registered

Create a new Model Package Group or use an existing one to register the model.

[11]:
model_package_group_name = "lineage-test-" + unique_id
mpg = sm_client.create_model_package_group(ModelPackageGroupName=model_package_group_name)
mpg_arn = mpg["ModelPackageGroupArn"]

Register the model in the Model Registry

Once the model is registered, it appears in the Model Registry tab of the SageMaker Studio UI. The model is registered with the approval_status set to “Approved”. By default, the model is registered with the approval_status set to “PendingManualApproval”. Users can then navigate to the Model Registry to manually approve the model based on any criteria set for model evaluation or this can be done via API.

[12]:
inference_instance_type = "ml.m5.xlarge"
model_package = xgb_train.register(
    model_package_group_name=mpg_arn,
    inference_instances=[inference_instance_type],
    transform_instances=[inference_instance_type],
    content_types=["text/csv"],
    response_types=["text/csv"],
    approval_status="Approved",
)

model_package_arn = model_package.model_package_arn
print("Model Package ARN : ", model_package_arn)
Model Package ARN :  arn:aws:sagemaker:us-west-2:000000000000:model-package/lineage-test-1650241311/1

Deploy the model to a SageMaker Endpoint

A SageMaker Endpoint is used to host a model that can be used for inference. The type of endpoint deployed in this notebook is a real time inference endpoint. This is ideal for inference workloads where you have real-time, interactive, low latency requirements.

[13]:
endpoint_name = "lineage-test-endpoint-" + unique_id
model_package.deploy(
    endpoint_name=endpoint_name,
    initial_instance_count=1,
    instance_type=inference_instance_type,
)
INFO:sagemaker:Creating model with name: 1-2022-04-18-00-26-07-325
INFO:sagemaker:Creating endpoint-config with name lineage-test-endpoint-1650241311
INFO:sagemaker:Creating endpoint with name lineage-test-endpoint-1650241311
----!
[14]:
# Get the endpoint ARN
endpoint_arn = sm_client.describe_endpoint(EndpointName=endpoint_name)["EndpointArn"]
print(endpoint_arn)
arn:aws:sagemaker:us-west-2:000000000000:endpoint/lineage-test-endpoint-1650241311

SageMaker Lineage Queries

We explore SageMaker’s lineage capabilities to traverse the relationships between the entities created in this notebook - datasets, model, endpoint, and training job.

[15]:
from sagemaker.lineage.context import Context, EndpointContext
from sagemaker.lineage.action import Action
from sagemaker.lineage.association import Association
from sagemaker.lineage.artifact import Artifact, ModelArtifact, DatasetArtifact

from sagemaker.lineage.query import (
    LineageQuery,
    LineageFilter,
    LineageSourceEnum,
    LineageEntityEnum,
    LineageQueryDirectionEnum,
)

Using the LineageQuery API to find entity associations

In this section we use two APIs, LineageQuery and LineageFilter to construct queries to answer questions about the Lineage Graph and extract entity relationships.

LineageQuery parameters: * start_arns: A list of ARNs that is used as the starting point for the query. * direction: The direction of the query. * include_edges: If true, return edges in addition to vertices. * query_filter: The query filter.

LineageFilter paramters: * entities: A list of entity types (Artifact, Association, Action) to filter for when returning the results on LineageQuery * sources: A list of source types (Endpoint, Model, Dataset) to filter for when returning the results of LineageQuery

A Context is automatically created when a SageMaker Endpoint is created, an Artifact is automatically created when a Model is created in SageMaker.

[16]:
# Find the endpoint context and model artifact that should be used for the lineage queries.

contexts = Context.list(source_uri=endpoint_arn)
context_name = list(contexts)[0].context_name
endpoint_context = EndpointContext.load(context_name=context_name)

Find all datasets associated with an Endpoint

[17]:
# Define the LineageFilter to look for entities of type `ARTIFACT` and the source of type `DATASET`.

query_filter = LineageFilter(
    entities=[LineageEntityEnum.ARTIFACT], sources=[LineageSourceEnum.DATASET]
)

# Providing this `LineageFilter` to the `LineageQuery` constructs a query that traverses through the given context `endpoint_context`
# and find all datasets.

query_result = LineageQuery(sagemaker_session).query(
    start_arns=[endpoint_context.context_arn],
    query_filter=query_filter,
    direction=LineageQueryDirectionEnum.ASCENDANTS,
    include_edges=False,
)

# Parse through the query results to get the lineage objects corresponding to the datasets
dataset_artifacts = []
for vertex in query_result.vertices:
    dataset_artifacts.append(vertex.to_lineage_object().source.source_uri)

pp.pprint(dataset_artifacts)
['s3://sagemaker-us-west-2-000000000000/experiments-demo/train.csv',
 's3://sagemaker-us-west-2-000000000000/experiments-demo/validation.csv']

Find the models associated with an Endpoint

[18]:
# Define the LineageFilter to look for entities of type `ARTIFACT` and the source of type `MODEL`.

query_filter = LineageFilter(
    entities=[LineageEntityEnum.ARTIFACT], sources=[LineageSourceEnum.MODEL]
)

# Providing this `LineageFilter` to the `LineageQuery` constructs a query that traverses through the given context `endpoint_context`
# and find all datasets.

query_result = LineageQuery(sagemaker_session).query(
    start_arns=[endpoint_context.context_arn],
    query_filter=query_filter,
    direction=LineageQueryDirectionEnum.ASCENDANTS,
    include_edges=False,
)

# Parse through the query results to get the lineage objects corresponding to the model
model_artifacts = []
for vertex in query_result.vertices:
    model_artifacts.append(vertex.to_lineage_object().source.source_uri)

# The results of the `LineageQuery` API call return the ARN of the model deployed to the endpoint along with
# the S3 URI to the model.tar.gz file associated with the model
pp.pprint(model_artifacts)
['arn:aws:sagemaker:us-west-2:000000000000:model-package/lineage-test-1650241311/1',
 's3://sagemaker-us-west-2-000000000000/multihop-example/xgb_model/sagemaker-xgboost-2022-04-18-00-21-56-371/output/model.tar.gz']

Find the trial components associated with an Endpoint

[19]:
# Define the LineageFilter to look for entities of type `TRIAL_COMPONENT` and the source of type `TRAINING_JOB`.

query_filter = LineageFilter(
    entities=[LineageEntityEnum.TRIAL_COMPONENT],
    sources=[LineageSourceEnum.TRAINING_JOB],
)

# Providing this `LineageFilter` to the `LineageQuery` constructs a query that traverses through the given context `endpoint_context`
# and find all datasets.

query_result = LineageQuery(sagemaker_session).query(
    start_arns=[endpoint_context.context_arn],
    query_filter=query_filter,
    direction=LineageQueryDirectionEnum.ASCENDANTS,
    include_edges=False,
)

# Parse through the query results to get the ARNs of the training jobs associated with this Endpoint
trial_components = []
for vertex in query_result.vertices:
    trial_components.append(vertex.arn)

pp.pprint(trial_components)
['arn:aws:sagemaker:us-west-2:000000000000:experiment-trial-component/sagemaker-xgboost-2022-04-18-00-21-56-371-aws-training-job']

Change the focal point of lineage

The LineageQuery can be modified to have different start_arns which changes the focal point of lineage. In addition, the LineageFilter can take multiple sources and entities to expand the scope of the query.

Here we use the model as the lineage focal point and find the Endpoints and Datasets associated with it.

[20]:
# Get the ModelArtifact

model_artifact_summary = list(Artifact.list(source_uri=model_package_arn))[0]
model_artifact = ModelArtifact.load(artifact_arn=model_artifact_summary.artifact_arn)
[21]:
query_filter = LineageFilter(
    entities=[LineageEntityEnum.ARTIFACT],
    sources=[LineageSourceEnum.ENDPOINT, LineageSourceEnum.DATASET],
)

query_result = LineageQuery(sagemaker_session).query(
    start_arns=[model_artifact.artifact_arn],  # Model is the starting artifact
    query_filter=query_filter,
    # Find all the entities that descend from the model, i.e. the endpoint
    direction=LineageQueryDirectionEnum.DESCENDANTS,
    include_edges=False,
)

associations = []
for vertex in query_result.vertices:
    associations.append(vertex.to_lineage_object().source.source_uri)

query_result = LineageQuery(sagemaker_session).query(
    start_arns=[model_artifact.artifact_arn],  # Model is the starting artifact
    query_filter=query_filter,
    # Find all the entities that ascend from the model, i.e. the datasets
    direction=LineageQueryDirectionEnum.ASCENDANTS,
    include_edges=False,
)

for vertex in query_result.vertices:
    associations.append(vertex.to_lineage_object().source.source_uri)

pp.pprint(associations)
['s3://sagemaker-us-west-2-000000000000/experiments-demo/train.csv',
 's3://sagemaker-us-west-2-000000000000/experiments-demo/validation.csv']

Use LineageQueryDirectionEnum.BOTH

When the direction is set to BOTH, when the query traverses the graph to find ascendant and descendant relationships, the traversal takes place not only from the starting node, but from each node that is visited.

e.g. If the training job is run twice and both models generated by the training job are deployed to endpoints, this result of the query with direction set to BOTH shows both endpoints. This is because the same image is used for training and deploying the model. Since the image is common to the model (start_arn) and both the endpoints, it appears in the query result.

[22]:
query_filter = LineageFilter(
    entities=[LineageEntityEnum.ARTIFACT],
    sources=[LineageSourceEnum.ENDPOINT, LineageSourceEnum.DATASET],
)

query_result = LineageQuery(sagemaker_session).query(
    start_arns=[model_artifact.artifact_arn],  # Model is the starting artifact
    query_filter=query_filter,
    # This specifies that the query should look for associations both ascending and descending for the start
    direction=LineageQueryDirectionEnum.BOTH,
    include_edges=False,
)

associations = []
for vertex in query_result.vertices:
    associations.append(vertex.to_lineage_object().source.source_uri)

pp.pprint(associations)
['s3://sagemaker-us-west-2-000000000000/experiments-demo/train.csv',
 's3://sagemaker-us-west-2-000000000000/experiments-demo/validation.csv']

Directions in LineageQuery: Ascendants vs. Descendants

To understand the direction in the Lineage Graph, take the following entity relationship graph - Dataset -> Training Job -> Model -> Endpoint

The endpoint is a descendant of the model, and the model is a descendant of the dataset. Similarly, the model is an ascendant of the endpoint The direction parameter can be used to specify whether the query should return entities that are descendants or ascendants of the entity in start_arns. If start_arns contains a model and the direction is DESCENDANTS, the query returns the endpoint. If the direction is ASCENDANTS, the query returns the dataset.”

[23]:
# In this example, we'll look at the impact of specifying the direction as ASCENDANT or DESCENDANT in a `LineageQuery`.

query_filter = LineageFilter(
    entities=[LineageEntityEnum.ARTIFACT],
    sources=[
        LineageSourceEnum.ENDPOINT,
        LineageSourceEnum.MODEL,
        LineageSourceEnum.DATASET,
        LineageSourceEnum.TRAINING_JOB,
    ],
)

query_result = LineageQuery(sagemaker_session).query(
    start_arns=[model_artifact.artifact_arn],
    query_filter=query_filter,
    direction=LineageQueryDirectionEnum.ASCENDANTS,
    include_edges=False,
)

ascendant_artifacts = []

# The lineage entity returned for the Training Job is a TrialComponent which can't be converted to a
# lineage object using the method `to_lineage_object()` so we extract the TrialComponent ARN.
for vertex in query_result.vertices:
    try:
        ascendant_artifacts.append(vertex.to_lineage_object().source.source_uri)
    except:
        ascendant_artifacts.append(vertex.arn)

print("Ascendant artifacts:")
pp.pprint(ascendant_artifacts)

query_result = LineageQuery(sagemaker_session).query(
    start_arns=[model_artifact.artifact_arn],
    query_filter=query_filter,
    direction=LineageQueryDirectionEnum.DESCENDANTS,
    include_edges=False,
)

descendant_artifacts = []
for vertex in query_result.vertices:
    try:
        descendant_artifacts.append(vertex.to_lineage_object().source.source_uri)
    except:
        # Handling TrialComponents.
        descendant_artifacts.append(vertex.arn)

print("Descendant artifacts:")
pp.pprint(descendant_artifacts)
Ascendant artifacts:
['s3://sagemaker-us-west-2-000000000000/experiments-demo/train.csv',
 's3://sagemaker-us-west-2-000000000000/experiments-demo/validation.csv',
 's3://sagemaker-us-west-2-000000000000/multihop-example/xgb_model/sagemaker-xgboost-2022-04-18-00-21-56-371/output/model.tar.gz']
Descendant artifacts:
[]

SDK helper functions

The classes EndpointContext, ModelArtifact, and DatasetArtifacthave helper functions that are wrappers over the LineageQuery API to make certain lineage queries easier to leverage.

[24]:
# Find all the datasets associated with the endpoint

datasets = []
dataset_artifacts = endpoint_context.dataset_artifacts()
for dataset in dataset_artifacts:
    datasets.append(dataset.source.source_uri)
print("Datasets : ", datasets)

# Find the training jobs associated with the endpoint
training_job_artifacts = endpoint_context.training_job_arns()
training_jobs = []
for training_job in training_job_artifacts:
    training_jobs.append(training_job)
print("Training Jobs : ", training_jobs)

# Get the ARN for the pipeline execution associated with this endpoint (if any)
pipeline_executions = endpoint_context.pipeline_execution_arn()
if pipeline_executions:
    for pipeline in pipelines_executions:
        print(pipeline)
Datasets :  ['s3://sagemaker-us-west-2-000000000000/experiments-demo/train.csv', 's3://sagemaker-us-west-2-000000000000/experiments-demo/validation.csv']
Training Jobs :  ['arn:aws:sagemaker:us-west-2:000000000000:training-job/sagemaker-xgboost-2022-04-18-00-21-56-371']
[25]:
# Here we use the `ModelArtifact` class to find all the datasets and endpoints associated with the model

dataset_artifacts = model_artifact.dataset_artifacts()
endpoint_contexts = model_artifact.endpoint_contexts()

datasets = [dataset.source.source_uri for dataset in dataset_artifacts]
endpoints = [endpoint.source.source_uri for endpoint in endpoint_contexts]

print("Datasets associated with this model : ")
pp.pprint(datasets)

print("Endpoints associated with this model : ")
pp.pprint(endpoints)
Datasets associated with this model :
['s3://sagemaker-us-west-2-000000000000/experiments-demo/train.csv',
 's3://sagemaker-us-west-2-000000000000/experiments-demo/validation.csv']
Endpoints associated with this model :
['arn:aws:sagemaker:us-west-2:000000000000:endpoint/lineage-test-endpoint-1650241311']
[26]:
# Here we use the `DatasetArtifact` class to find all the endpoints hosting models that were trained with a particular dataset
# Find the artifact associated with the dataset

dataset_artifact_arn = list(Artifact.list(source_uri=training_data))[0].artifact_arn
dataset_artifact = DatasetArtifact.load(artifact_arn=dataset_artifact_arn)

# Find the endpoints that used this training dataset
endpoint_contexts = dataset_artifact.endpoint_contexts()
endpoints = [endpoint.source.source_uri for endpoint in endpoint_contexts]

print("Endpoints associated with the training dataset {}".format(training_data))
pp.pprint(endpoints)
Endpoints associated with the training dataset s3://sagemaker-us-west-2-000000000000/experiments-demo/train.csv
['arn:aws:sagemaker:us-west-2:000000000000:endpoint/lineage-test-endpoint-1638836105',
 'arn:aws:sagemaker:us-west-2:000000000000:endpoint/lineage-test-endpoint-1639181910',
 'arn:aws:sagemaker:us-west-2:000000000000:endpoint/lineage-test-endpoint-1638576916',
 'arn:aws:sagemaker:us-west-2:000000000000:endpoint/lineage-test-endpoint-1638749736',
 'arn:aws:sagemaker:us-west-2:000000000000:endpoint/lineage-test-endpoint-1639008846',
 'arn:aws:sagemaker:us-west-2:000000000000:endpoint/lineage-test-endpoint-1650241311']

Lineage Graph Visualization

A helper class Visualizer() is provided in visualizer.py to help plot the lineage graph. When the query response is rendered, a graph with the lineage relationships from the StartArns is displayed. From the StartArns the visualization shows the relationships with the other lineage entities returned in the query_lineage API call.

[27]:
# Graph APIs
# Here we use the boto3 `query_lineage` API to generate the query response to plot.

from visualizer import Visualizer

query_response = sm_client.query_lineage(
    StartArns=[endpoint_context.context_arn], Direction="Ascendants", IncludeEdges=True
)

viz = Visualizer()
viz.render(query_response, "Endpoint")
[28]:
query_response = sm_client.query_lineage(
    StartArns=[model_artifact.artifact_arn], Direction="Ascendants", IncludeEdges=True
)
viz.render(query_response, "Model")

Conclusion

This notebook demostrated the capabilities of SageMaker Lineage that make it easy for users to keep track of their complex ML workflows. Users can construct their own lineage queries using the LineageQuery API and LineageFilter or they can use the functions provided on the EndpointContext, ModelArtifact, and DatasetArtifact classes.

In addition, the responses from lineage queries can be plotting using the helper class Visualizer() to better understand the relationship between the lineage entities.

When using SageMaker Pipelines as part of their ML workflows, users can find Pipeline execution ARNs using the lineage APIs described in this notebook.

Cleanup

In this section we clean up the resources created in this notebook.

[29]:
# Delete endpoint

sm_client.delete_endpoint(EndpointName=endpoint_name)

# # Delete the model package
sm_client.delete_model_package(ModelPackageName=model_package.model_package_arn)

# Delete the model package group
sm_client.delete_model_package_group(ModelPackageGroupName=model_package_group_name)
[29]:
{'ResponseMetadata': {'RequestId': '4a4ce803-ff77-4112-93e4-9d23826eba8d',
  'HTTPStatusCode': 200,
  'HTTPHeaders': {'x-amzn-requestid': '4a4ce803-ff77-4112-93e4-9d23826eba8d',
   'content-type': 'application/x-amz-json-1.1',
   'content-length': '0',
   'date': 'Mon, 18 Apr 2022 00:28:17 GMT'},
  'RetryAttempts': 0}}
[30]:
# Delete the experiment and trial within it

import time


def delete_experiment(experiment):
    for trial_summary in experiment.list_trials():
        trial = Trial.load(trial_name=trial_summary.trial_name)
        for trial_component_summary in trial.list_trial_components():
            tc = TrialComponent.load(
                trial_component_name=trial_component_summary.trial_component_name
            )
            trial.remove_trial_component(tc)
            try:
                # comment out to keep trial components
                tc.delete()
            except:
                # tc is associated with another trial
                continue
            # to prevent throttling
            time.sleep(0.5)
        trial.delete()
        experiment_name = experiment.experiment_name
    experiment.delete()
    print(f"\nExperiment {experiment_name} deleted")


# Delete the Experiment and Trials within it
experiment = Experiment.load(experiment_name=exp.experiment_name)
delete_experiment(experiment)

Experiment MultihopQueryExperiment-1650241311 deleted