معرفی شرکت ها


compress-gpt-0.1.2


Card image cap
تبلیغات ما

مشتریان به طور فزاینده ای آنلاین هستند. تبلیغات می تواند به آنها کمک کند تا کسب و کار شما را پیدا کنند.

مشاهده بیشتر
Card image cap
تبلیغات ما

مشتریان به طور فزاینده ای آنلاین هستند. تبلیغات می تواند به آنها کمک کند تا کسب و کار شما را پیدا کنند.

مشاهده بیشتر
Card image cap
تبلیغات ما

مشتریان به طور فزاینده ای آنلاین هستند. تبلیغات می تواند به آنها کمک کند تا کسب و کار شما را پیدا کنند.

مشاهده بیشتر
Card image cap
تبلیغات ما

مشتریان به طور فزاینده ای آنلاین هستند. تبلیغات می تواند به آنها کمک کند تا کسب و کار شما را پیدا کنند.

مشاهده بیشتر
Card image cap
تبلیغات ما

مشتریان به طور فزاینده ای آنلاین هستند. تبلیغات می تواند به آنها کمک کند تا کسب و کار شما را پیدا کنند.

مشاهده بیشتر

توضیحات

Self-extracting GPT prompts for ~70% token savings.
ویژگی مقدار
سیستم عامل -
نام فایل compress-gpt-0.1.2
نام compress-gpt
نسخه کتابخانه 0.1.2
نگهدارنده []
ایمیل نگهدارنده []
نویسنده Yasyf Mohamedali
ایمیل نویسنده yasyfm@gmail.com
آدرس صفحه اصلی -
آدرس اینترنتی https://pypi.org/project/compress-gpt/
مجوز MIT
# CompressGPT ## Self-extracting GPT prompts for ~70% token savings Check out the accompanying blog post [here](https://musings.yasyf.com/compressgpt-decrease-token-usage-by-70/). ### Installation ```shell $ pip install compress-gpt ``` ### Usage Simply change your existing imports of `langchain.PromptTemplate` to `compress_gpt.langchain.CompressTemplate` (to compress prompts before populating variables) or `compress_gpt.langchain.CompressPrompt` (to compress prompts after populating variables). ```diff -from langchain import PromptTemplate +from compress_gpt.langchain import CompressPrompt as PromptTemplate ``` For very simple prompts, use `CompressSimplePrompt` and `CompressSimpleTemplate` instead. If compression ever fails or results in extra tokens, the original prompt will be used. Each compression result is aggressively cached, but the first run can take a hot sec. #### Clearing the cache ```python import compress_gpt compress_gpt.clear_cache() ``` ### Demo [![asciicast](https://asciinema.org/a/578285.svg)](https://asciinema.org/a/578285) ### How CompressGPT Works My [blog post](https://musings.yasyf.com/compressgpt-decrease-token-usage-by-70/) helps explain the below image. ![CompressGPT Pipeline](assets/pipeline.svg)


نیازمندی

مقدار نام
>=0.0.132,<0.0.133 langchain
>=0.27.4,<0.28.0 openai
>=1.10.7,<2.0.0 pydantic
>=1.0.8,<2.0.0 dirtyjson
>=0.12.0,<0.13.0 aiocache
>=2.2.2,<3.0.0 hiredis
>=4.5.4,<5.0.0 redis
>=0.3.6,<0.4.0 dill
>=13.3.3,<14.0.0 rich
>=0.3.3,<0.4.0 tiktoken
>=1.5.6,<2.0.0 nest-asyncio
>=3.8.1,<4.0.0 nltk
>=3.1.2,<4.0.0 jinja2


زبان مورد نیاز

مقدار نام
>=3.10,<4.0 Python


نحوه نصب


نصب پکیج whl compress-gpt-0.1.2:

    pip install compress-gpt-0.1.2.whl


نصب پکیج tar.gz compress-gpt-0.1.2:

    pip install compress-gpt-0.1.2.tar.gz