معرفی شرکت ها


cluster-pack-0.2.9


Card image cap
تبلیغات ما

مشتریان به طور فزاینده ای آنلاین هستند. تبلیغات می تواند به آنها کمک کند تا کسب و کار شما را پیدا کنند.

مشاهده بیشتر
Card image cap
تبلیغات ما

مشتریان به طور فزاینده ای آنلاین هستند. تبلیغات می تواند به آنها کمک کند تا کسب و کار شما را پیدا کنند.

مشاهده بیشتر
Card image cap
تبلیغات ما

مشتریان به طور فزاینده ای آنلاین هستند. تبلیغات می تواند به آنها کمک کند تا کسب و کار شما را پیدا کنند.

مشاهده بیشتر
Card image cap
تبلیغات ما

مشتریان به طور فزاینده ای آنلاین هستند. تبلیغات می تواند به آنها کمک کند تا کسب و کار شما را پیدا کنند.

مشاهده بیشتر
Card image cap
تبلیغات ما

مشتریان به طور فزاینده ای آنلاین هستند. تبلیغات می تواند به آنها کمک کند تا کسب و کار شما را پیدا کنند.

مشاهده بیشتر

توضیحات

A library on top of either pex or conda-packto make your Python code easily available on a cluster
ویژگی مقدار
سیستم عامل -
نام فایل cluster-pack-0.2.9
نام cluster-pack
نسخه کتابخانه 0.2.9
نگهدارنده ['Criteo']
ایمیل نگهدارنده ['github@criteo.com']
نویسنده -
ایمیل نویسنده -
آدرس صفحه اصلی https://github.com/criteo/cluster-pack
آدرس اینترنتی https://pypi.org/project/cluster-pack/
مجوز -
# cluster-pack cluster-pack is a library on top of either [pex][pex] or [conda-pack][conda-pack] to make your Python code easily available on a cluster. Its goal is to make your prod/dev Python code & libraries easiliy available on any cluster. cluster-pack supports HDFS/S3 as a distributed storage. The first examples use [Skein][skein] (a simple library for deploying applications on Apache YARN) and [PySpark](https://spark.apache.org/docs/latest/quick-start.html) with HDFS storage. We intend to add more examples for other applications (like [Dask](https://dask.org/), [Ray](https://ray.readthedocs.io/en/latest/index.html)) and S3 storage. An introducing blog post can be found [here](https://medium.com/criteo-labs/open-sourcing-cluster-pack-700f46c139a). ![cluster-pack](https://github.com/criteo/cluster-pack/blob/master/cluster_pack.png?raw=true) ## Installation ### Install with Pip ```bash $ pip install cluster-pack ``` ### Install from source ```bash $ git clone https://github.com/criteo/cluster-pack $ cd cluster-pack $ pip install . ``` ## Prerequisites cluster-pack supports Python ≥3.6. ## Features - Ships a package with all the dependencies from your current virtual environment or your conda environment - Stores metadata for an environment - Supports "under development" mode by taking advantage of pip's [editable installs mode][editable_installs_mode], all editable requirements will be uploaded all the time, making local changes directly visible on the cluster - Interactive (Jupyter notebook) mode - Provides config helpers to directly use the uploaded zip file inside your application - Launching jobs from jobs by propagating all artifacts ## Basic examples with [skein][skein] 1) [Interactive mode](https://github.com/criteo/cluster-pack/blob/master/examples/interactive-mode/README.md) 2) [Self shipping project](https://github.com/criteo/cluster-pack/blob/master/examples/skein-project/README.md) ## Basic examples with [PySpark](https://spark.apache.org/docs/latest/quick-start.html) 1) [PySpark with HDFS on Yarn](https://github.com/criteo/cluster-pack/blob/master/examples/spark/spark_example.py) 2) [Docker with PySpark on S3](https://github.com/criteo/cluster-pack/blob/master/examples/spark-with-S3/README.md) [pex]: https://github.com/pantsbuild/pex [conda-pack]: https://github.com/conda/conda-pack [editable_installs_mode]: https://pip.pypa.io/en/stable/reference/pip_install/#editable-installs [skein]: https://jcrist.github.io/skein/


نیازمندی

مقدار نام
- cloudpickle
==2.1.54 pex
- conda-pack
>=18.1 pip
- pyarrow
- fire
- types-setuptools
- wheel-filename


زبان مورد نیاز

مقدار نام
>=3.6 Python


نحوه نصب


نصب پکیج whl cluster-pack-0.2.9:

    pip install cluster-pack-0.2.9.whl


نصب پکیج tar.gz cluster-pack-0.2.9:

    pip install cluster-pack-0.2.9.tar.gz