ترانس کالیوز مدل CU-001

ترانس آیفون (Transformers) به مجموعه‌ای از مدل‌های یادگیری عمیق اشاره دارد که برای پردازش داده‌های توالی‌دار، مانند متن، طراحی شده‌اند. این مدل‌ها به‌ویژه در زمینه‌های پردازش زبان طبیعی (NLP) و ترجمه ماشینی بسیار موفق بوده‌اند.

مدل ترانسفورمر به‌طور خاص از دو بخش اصلی تشکیل شده است: کدگذار (Encoder) و کدگشا (Decoder). کدگذار وظیفه پردازش ورودی و استخراج ویژگی‌ها را بر عهده دارد، در حالی که کدگشا وظیفه تولید خروجی را انجام می‌دهد.

یکی از ویژگی‌های کلیدی ترانسفورمرها، استفاده از مکانیزم توجه (Attention Mechanism) است که به مدل این امکان را می‌دهد که به بخش‌های مختلف ورودی توجه کند و اطلاعات مهم‌تر را در فرآیند پردازش شناسایی کند.

ترانسفورمرها به‌دلیل کارایی بالا و توانایی‌شان در پردازش داده‌های بزرگ، به سرعت در بسیاری از کاربردها مانند ترجمه، خلاصه‌سازی متن، تولید متن و دیگر وظایف NLP محبوب شدند.