معرفی شرکت ها

تبلیغات ما

مشتریان به طور فزاینده ای آنلاین هستند. تبلیغات می تواند به آنها کمک کند تا کسب و کار شما را پیدا کنند.

مشاهده بیشتر

تبلیغات ما

مشتریان به طور فزاینده ای آنلاین هستند. تبلیغات می تواند به آنها کمک کند تا کسب و کار شما را پیدا کنند.

مشاهده بیشتر

تبلیغات ما

مشتریان به طور فزاینده ای آنلاین هستند. تبلیغات می تواند به آنها کمک کند تا کسب و کار شما را پیدا کنند.

مشاهده بیشتر

تبلیغات ما

مشتریان به طور فزاینده ای آنلاین هستند. تبلیغات می تواند به آنها کمک کند تا کسب و کار شما را پیدا کنند.

مشاهده بیشتر

تبلیغات ما

مشتریان به طور فزاینده ای آنلاین هستند. تبلیغات می تواند به آنها کمک کند تا کسب و کار شما را پیدا کنند.

مشاهده بیشتر

توضیحات

An einops-style generalized normalization layer.

ویژگی	مقدار
سیستم عامل	-
نام فایل	einorm-0.1.1
نام	einorm
نسخه کتابخانه	0.1.1
نگهدارنده	[]
ایمیل نگهدارنده	[]
نویسنده	junhsss
ایمیل نویسنده	junhsssr@gmail.com
آدرس صفحه اصلی	-
آدرس اینترنتی	https://pypi.org/project/einorm/
مجوز	-

# einorm [![Test](https://github.com/junhsss/einorm/actions/workflows/test.yml/badge.svg)](https://github.com/junhsss/einorm/actions/workflows/test.yml) [![PyPI Version](https://badge.fury.io/py/einorm.svg)](https://badge.fury.io/py/einorm) An [einops](https://github.com/arogozhnikov/einops)-style generalized normalization layer. ## Installation You need `torch` >= 1.13 or `functorch` to be installed: ``` pip install einorm ``` ## Usage ```python from einorm import Einorm # Equivalent to nn.LayerNorm(1024) Einorm("b n d", "d", d=1024) # Specify the dimensions and sizes to normalize along. Einorm("a b c d e", "b d", b=3, d=4) ``` According to [ViT-22B](https://arxiv.org/abs/2302.05442), normalizing query and key in a head-wise fashion can help stabilize the training dynamics. This can be achieved by providing additional grouping arguments to `Einorm`: ```python Einorm("b h n d", "d", "h", h=16, d=64) # num_heads=16, head_dim=64 ```

زبان مورد نیاز

مقدار	نام
>=3.7,<4.0	Python

نحوه نصب

نصب پکیج whl einorm-0.1.1:

pip install einorm-0.1.1.whl

نصب پکیج tar.gz einorm-0.1.1:

pip install einorm-0.1.1.tar.gz