معرفی شرکت ها

تبلیغات ما

مشتریان به طور فزاینده ای آنلاین هستند. تبلیغات می تواند به آنها کمک کند تا کسب و کار شما را پیدا کنند.

مشاهده بیشتر

تبلیغات ما

مشتریان به طور فزاینده ای آنلاین هستند. تبلیغات می تواند به آنها کمک کند تا کسب و کار شما را پیدا کنند.

مشاهده بیشتر

تبلیغات ما

مشتریان به طور فزاینده ای آنلاین هستند. تبلیغات می تواند به آنها کمک کند تا کسب و کار شما را پیدا کنند.

مشاهده بیشتر

تبلیغات ما

مشتریان به طور فزاینده ای آنلاین هستند. تبلیغات می تواند به آنها کمک کند تا کسب و کار شما را پیدا کنند.

مشاهده بیشتر

تبلیغات ما

مشتریان به طور فزاینده ای آنلاین هستند. تبلیغات می تواند به آنها کمک کند تا کسب و کار شما را پیدا کنند.

مشاهده بیشتر

توضیحات

This repository contains code to run faster sentence-transformers using tools like quantization, ONNX and pruning.

ویژگی	مقدار
سیستم عامل	-
نام فایل	fast-sentence-transformers-0.4.1
نام	fast-sentence-transformers
نسخه کتابخانه	0.4.1
نگهدارنده	[]
ایمیل نگهدارنده	[]
نویسنده	David Berenstein
ایمیل نویسنده	david.m.berenstein@gmail.com
آدرس صفحه اصلی	https://github.com/pandora-intelligence/fast-sentence-transformers
آدرس اینترنتی	https://pypi.org/project/fast-sentence-transformers/
مجوز	MIT

# Fast Sentence Transformers This repository contains code to run faster `sentence-transformers` using tools like quantization and `ONNX`. Just run your model much faster, while a lot of memory. There is not much to it! [![Python package](https://github.com/Pandora-Intelligence/fast-sentence-transformers/actions/workflows/python-package.yml/badge.svg?branch=main)](https://github.com/Pandora-Intelligence/fast-sentence-transformers/actions/workflows/python-package.yml) [![Current Release Version](https://img.shields.io/github/release/pandora-intelligence/fast-sentence-transformers.svg?style=flat-square&logo=github)](https://github.com/pandora-intelligence/fast-sentence-transformers/releases) [![pypi Version](https://img.shields.io/pypi/v/fast-sentence-transformers.svg?style=flat-square&logo=pypi&logoColor=white)](https://pypi.org/project/fast-sentence-transformers/) [![PyPi downloads](https://static.pepy.tech/personalized-badge/fast-sentence-transformers?period=total&units=international_system&left_color=grey&right_color=orange&left_text=pip%20downloads)](https://pypi.org/project/fast-sentence-transformers/) [![Code style: black](https://img.shields.io/badge/code%20style-black-000000.svg?style=flat-square)](https://github.com/ambv/black) # Install ```bash pip install fast-sentence-transformers ``` Or for GPU support. ```bash pip install fast-sentence-transformers[gpu] ``` # Quickstart ```python from fast_sentence_transformers import FastSentenceTransformer as SentenceTransformer # use any sentence-transformer encoder = SentenceTransformer("all-MiniLM-L6-v2", device="cpu", quantize=True) encoder.encode("Hello hello, hey, hello hello") encoder.encode(["Life is too short to eat bad food!"] * 2) ``` # Benchmark Indicative benchmark for CPU usage with smallest and largest model on `sentence-transformers`. Note, ONNX doesn't have GPU support for quantization yet. | model | Type | default | ONNX | ONNX+quantized | ONNX+GPU | | ------------------------------------- | ------ | ------- | ---- | -------------- | -------- | | paraphrase-albert-small-v2 | memory | 1x | 1x | 1x | 1x | | | speed | 1x | 2x | 5x | 20x | | paraphrase-multilingual-mpnet-base-v2 | memory | 1x | 1x | 4x | 4x | | | speed | 1x | 2x | 5x | 20x | # Shout-Out This package heavily leans on `sentence-transformers` and `txtai`.

نیازمندی

مقدار	نام
>=1.12.0,<2.0.0	onnx
>=1.10,<2.0	onnxruntime
>=5.9.2,<6.0.0	psutil
>=2.1.0	sentence-transformers

زبان مورد نیاز

مقدار	نام
>=3.8,<3.12	Python

نحوه نصب

نصب پکیج whl fast-sentence-transformers-0.4.1:

pip install fast-sentence-transformers-0.4.1.whl

نصب پکیج tar.gz fast-sentence-transformers-0.4.1:

pip install fast-sentence-transformers-0.4.1.tar.gz