فهم بنية المحولات بمصطلحات بسيطة

17 مارس 2025

—

بواسطة

ما هي المحولات؟

المحولات هي نوع من هندسة الشبكات العصبية التي سميت بهذا الاسم بسبب قدرتها على "تحويل" كيفية معالجة الذكاء الاصطناعي لتسلسلات البيانات، وخاصة النصوص.

تم تقديمه من قبل باحثي جوجل في ورقتهم البحثية لعام 2017، الاهتمام هو كل ما تحتاجهلقد قامت المحولات بتحسين مهام معالجة اللغة الطبيعية (NLP) بشكل كبير باستخدام آلية تسمى الاهتمام بالذات (جولرودباري).

لماذا سمي الفيلم "المحول"؟

محولات حصلوا على اسمهم لأنهم غيروا كيفية فهم الذكاء الاصطناعي لتسلسلات النصوص.
تعاملت نماذج الذكاء الاصطناعي التقليدية مع النص بشكل متسلسل (كلمة بكلمة)، مما أدى إلى معالجة أبطأ وأقل دقة.
أما المحولات، فتقوم بتحليل النص بأكمله في وقت واحد، وتحديد العلاقات بين الكلمات بغض النظر عن موقعها.

الابتكار الرئيسي: آلية الاهتمام الذاتي

يتيح الاهتمام الذاتي للذكاء الاصطناعي تحديد الكلمات الأكثر أهمية وإعطائها الأولوية في الجملة، بغض النظر عن موقعها (جولرودباري).

مثال:

جملة:جلست القطة على الحصيرة.

يفهم النموذج أن كلمتي "قطة" و"حصيرة" وثيقتا الصلة، حتى لو كانت بينهما كلمات أخرى. هذه القدرة تجعل فهم السياق والعلاقات أكثر دقة وفعالية.

ائتمان: https://github.com/jessevig/bertviz

كيف تعمل المحولات

تعمل المحولات في عدة خطوات:

تضمين الإدخال:يتم تحويل الكلمات إلى تمثيلات رقمية.
الاهتمام بالذات:يحدد الكلمات ذات الصلة ويعطي الأولوية لها في نفس الوقت.
طبقات التغذية الأمامية:معالجة هذه المعلومات وتنقيتها.
توليد المخرجات:ينتج نتائج ذات معنى (مثل الاستجابات أو الترجمات).

لماذا تعتبر المحولات مهمة؟

سرعة:إنهم يعالجون كافة الكلمات مرة واحدة بدلاً من معالجتها بالتتابع.
كفاءة:يقلل من وقت الحساب وتعقيده.
دقة:يحسن الفهم من خلال التقاط السياق والعلاقات بين الكلمات بشكل أفضل.

التطبيقات في العالم الحقيقي

روبوتات الدردشة (على سبيل المثال، ChatGPT)
أدوات الترجمة
أدوات توليد المحتوى بالذكاء الاصطناعي

ملخص

تعمل المحولات على تغيير الطريقة التي يفهم بها الذكاء الاصطناعي اللغة ويعالجها بشكل أساسي من خلال استخدام الاهتمام الذاتي لالتقاط العلاقات بين الكلمات بكفاءة، مما يجعل الذكاء الاصطناعي أسرع وأكثر دقة في المهام مثل الترجمة وإنشاء المحتوى والروبوتات الدردشة.

المراجع المذكورة

غولرودباري، أرمان أصغربور. "فهم الاهتمام بالذات - دليل خطوة بخطوة". armanasq.github.io، Armanasq.github.io/nlp/self-attention/تم الوصول إليه في 17 مارس 2025.