ابتكر فريق من علماء الكمبيوتر، نسخة أكثر ذكاءً ومرونة من نموذج التعلم الآلي العادي لروبوتات الدردشة الموجودة حاليًا، فيما وجدوا أن السرَّ في ذلك، يتمثل بنسيان الروبوت ما يعرفه بشكل دوري.

وعلى الرغم من أن هذا النهج الجديد لن يحل محل النماذج الضخمة من الذكاء الاصطناعي، إلا أنه يمكن أن يكشف المزيد عن كيفية فهم هذه البرامج للغة، ويحرز تقدمًا كبيرًا في هذا المجال.

طريقة عمل روبوت الدردشة القياسي

بات في الإمكان، تشغيل محركات لغة الذكاء الاصطناعي وروبوتات الدردشة القياسية بواسطة شبكات عصبية اصطناعية، حيث إن كل خلية عصبية في الشبكة تؤدي وظيفة رياضية تستقبل إشارات من خلايا عصبية أخرى، وتجري بعض الحسابات، وترسل إشارات عبر طبقات متعددة من الخلايا العصبية.

وفي البداية يكون تدفق المعلومات عشوائيًا إلى حد ما، ولكن من خلال التدريب، يتحسن تدفق المعلومات بين الخلايا العصبية، حيث تتكيف الشبكة مع بيانات التدريب، لكن إذا تغيرت احتياجات المستخدم لاحقًا، فمن الصعب تعديل هذا النموذج.

نهج النسيان

وحاول العلماء التحايل على هذه القيود، وقاموا بتدريب شبكة عصبية لروبوت دردشة على لغة واحدة، ثم قاموا بمحو ما كانت تعرفه من كلمات تم تخزينها في الطبقة الأولى من الشبكة العصبية، والتي تسمّى طبقة التضمين، فيما تركوا جميع الطبقات الأخرى من النموذج بدون تغيير.

وبعد مسح كلمات اللغة الأولى، أعادوا تدريب النموذج على اللغة الثانية، مما ملأ طبقة التضمين بكلمات جديدة من تلك اللغة، وبالرغم من أن النموذج يحتوي على معلومات غير متطابقة للغتين منتشرة بين الطبقات المتعددة، إلا أن إعادة التدريب نجحت، بحيث تمكن نموذج روبوت الدردشة من تعلم اللغة الجديدة ومعالجتها.

وفي حين إن طبقة التضمين تخزن معلومات خاصة بالكلمات المستخدمة في اللغة، توقع الباحثون أن المستويات الأعمق للشبكة هي التي تخزن معلومات حول المفاهيم الكامنة وراء اللغات البشرية، مما ساعد النموذج على تعلم اللغة الثانية بطريقة سريعة.

واستنتج العلماء أن روبوت الدردشة الذي ينسى بعضًا من معرفته بشكل انتقائي، يمكنه تعلم لغات جديدة بشكل أفضل، وأطلقوا على هذا المفهوم اسم "نهج النسيان".

وسيلة فعالة لتعلم لغات جديدة

وفي حين أن "نهج النسيان" هذا كان وسيلة فعالة لإضافة لغة جديدة إلى روبوت دردشة تم تدريبه بالفعل، إلا أن إعادة التدريب كانت لا تزال تتطلب الكثير من البيانات اللغوية وقدرة المعالجة، واقترح العلماء إجراء تعديل.

وبدلاً من التدريب ومحو طبقة التضمين وثم إعادة التدريب، قاموا بإعادة ضبط طبقة التضمين لتمحو نفسها بشكل دوري، وهذا يعني أنه عندما تريد توسيع روبوت الدردشة إلى لغة أخرى، سيكون الأمر أسهل.

وأخذ العلماء نموذجًا لغويًا شائع الاستخدام يُدعى روبرتا، وقاموا بتدريبه باستخدام تقنية نهج النسيان الدوري، وقارنوه بأداء النموذج نفسه عندما تم تدريبه باستخدام النهج القياسي الذي لا ينسى، حيث كان أداء نموذج النسيان أسوأ قليلاً من النموذج التقليدي، إذ حصل على درجة 85.1 مقارنة بـ 86.1 في أحد المقاييس الشائعة لقياس دقة اللغة للذكاء الاصطناعي.

وبعد ذلك، قام العلماء، بتدريب النماذج على لغات أخرى باستخدام مجموعة بيانات مكونة من 5 ملايين كلمة فقط، حيث انخفضت دقة النموذج التقليدي إلى درجة 53.3 في المتوسط، لكن النموذج العامل بنهج النسيان انخفض إلى 62.7 فقط.

وخلص الفريق إلى أن نهج النسيان الدوري يجعل نموذج روبوت الدردشة المعتمد على الذكاء الاصطناعي أفضل في تعلم اللغات بشكل عام، لأنه يستمر في النسيان وإعادة التعلم أثناء التدريب، ما يجعل تعليمه شيئًا جديدًا لاحقًا أسهل وأسرع بكثير.