٢٠ مارس ٢٠١٩
بقلم آرون دوبرو
المترجم : أبو طه/ عدنان أحمد الحاجي
المقالة رقم ٨٨ لسنة ٢٠١٩
التصنيف : أبحاث الذكاء الإصطناعي
Published on March 20, 2019
by Aaron Dubrow
بحث من مختبر هوث في جامعة تكساس UT في أوستن يتنبأ بكيف تستجيب الخلايا العصبية للغة في سياق ما
تفضيل طول السياق عبر القشرة. يحسب مؤشر تفضيل طول السياق لكل ڤوكسل في مشارك ك ويتم إسقاطه على سطح القشرة الخاص بهذا المشارك. م وحدات الڤوكسل الموضحة باللون الأزرق من آل الأفضل نمذجتها باستخدام سياق قصير ، بينما من الأفضل تصميم الڤوكسل Voxels الحمراء بسياق طويل.
هل يمكن أن يساعدنا الذكاء الاصطناعي في فهم كيف يفهم الدماغ اللغة؟ هل يمكن أن يساعدنا علم الأعصاب في معرفة لماذا الذكاء الاصطناعي والشبكات العصبية فعالة في التنبؤ بتصور ( بإدراك) الإنسان؟
تشير الأبحاث التي أجراها ألكساندر هوث Alexander Huth وشايلي جاين Shailee Jain من جامعة تكساس في أوستن (UT أوستن) إلى أن كلاهما ممكن.
في الورقة (١) التي قدمت في مؤتمر ٢٠١٨ حول نظم معالجة المعلومات العصبية (NeurIPS) ، وصف الباحثان نتائج التجارب التي استخدمت الشبكات العصبية الاصطناعية للتنبؤ بكيف تستجيب مناطق مختلفة في الدماغ لكلمات محددة بدقة أكبر من أي وقت مضى .
وقال هوث ، الأستاذ المساعد في علم الأعصاب وعلوم الحاسب في جامعة تكساس في أوستن: "حين تأتي الكلمات إلى داخل رؤوسنا ، فإننا نشكل أفكارًا لما يقوله لنا أحد الناس ، ونريد أن نعرف كيف ذلك جاء إلينا داخل الدماغ". "يبدو أنه ينبغي أن يكون لذلك أنظمة ، ولكن من الناحية العملية ، ليست هذه هي الطريقة التي تعمل بها اللغة. مثلها مثل أي شيء في البايلوجيا ، من الصعب للغاية اختزالها بمجموعة بسيطة من المعادلات."
البحث استخدم نوعًا من الشبكات العصبية المتواترة والتي تسمى الذاكرة طويلة المدى (LSTM) التي تتضمن في حساباتها علاقات كل كلمة بما جاء قبلها للحفاظ على ( لإستبقاء) السياق بشكل أفضل.
وقالت جين Jain ، طالبة الدكتوراه في مختبر هوث في جامعة تكساس في أوستن: "إذا كان للكلمة معاني متعددة ، فإنك تستنتج معنى هذه الكلمة لتلك الجملة المعينة اعتمادًا على ما قيل قبلها". "فرضيتنا هي أن هذا سيؤدي إلى تنبؤات أفضل بنشاط الدماغ لأن الدماغ يهتم بالسياق".
يبدو ذلك واضحًا ، لكن تجارب علم الأعصاب على مدى عقود أُخذ في الإعتبار استجابة الدماغ لكل كلمة على حدة بدون إدراك ارتباطها بسلاسل الكلمات أو الجمل. (يصف هوث أهمية عمل "علم الأعصاب في العالم الحقيقي" في ورقة نشرها في مارس ٢٠١٩ في في مجلة علوم الأعصاب المعرفي كوغنتڤ نيروساينس.(٢)
في عملهما البحثي ، أجرى الباحثان تجارب لاختبار والتنبؤ في النهاية بكيف تستجيب مناطق مختلفة في الدماغ عند الاستماع إلى قصص (على وجه التحديد ، من موث راديو أور Moth Radio Hour، ٣). استخدموا البيانات التي تم جمعها من آلات التصوير بالرنين المغناطيسي الوظيفي (fMRI) التي تلتقط التغيرات في مستوى الأوكسجين في الدم في الدماغ بناءً على مدى نشاط مجموعات العصبونات. هذه تعمل بمثابة مراسل حيث يتم "تمثيل" مفاهيم اللغة في الدماغ.
باستخدام الحواسيب الفائقة القوة في مركز تكساس للحوسبة المتقدمة (TACC) ، قاما الباحثان بتدريب نموذج اللغة باستخدام طريقة LSTM حتى يتمكن من التنبؤ بفعالية بالكلمة التالية - وهي مهمة تشبه عمليات إكمال الكلمة التلفائي أثناء البحث في قوقل Google ، الأمر الذي يبرع فيه العقل البشري بشكل خاص .
وقال هوث: "في محاولة للتنبؤ بالكلمة التالية ، يتعين على هذا النموذج أن يتعلم ضمنيًا كل هذه الأشياء الأخرى حول كيف تعمل اللغة" ، مثل الكلمات التي تبدو أنها تتبع كلمات أخرى ، بدون الدخول فعليًا إلى الدماغ أو أي بيانات عنه. ".
استنادًا إلى نموذج اللغة وبيانات الرنين المغناطيسي الوظيفي ، قاما الباحثان بتدريب نظام يمكنه التنبؤ بكيف يستجيب الدماغ عندما يسمع كل كلمة لأول مرة في قصة جديدة .
أظهرت الجهود السابقة أنه من الممكن معرفة مواضع استجابات اللغة في الدماغ بشكل فعال. ومع ذلك ، أظهر البحث الجديد أن إضافة العنصر السياقي - في هذه الحالة ما يصل إلى ٢٠ كلمة جاءت قبلها - تحسن تنبؤات نشاط الدماغ بشكل كبير. وجدا أن توقعاتهما تتحسن حتى عندما يُستخدم أقل قدر من السياق. كلما زاد السياق المقدم ( المعطى) ، كلما كانت دقة توقعاتهما أفضل.
وقالت جين "لقد أظهر تحليلنا أنه لو تضمن ال LSTM كلمات أكثر ، كلما كان تنبؤها بالكلمة التالية أفضل" ، وهذا يعني أنه يجب أن تتضمن معلومات من جميع الكلمات في الماضي. "
ذهب البحث أبعد من ذلك. واستكشف أي أجزاء الدماغ كانت أكثر حساسية لمقدار السياق المتضمن . وجدا ، على سبيل المثال ، أن المفاهيم التي يبدو أنها متموضعة في القشرة السمعية كانت أقل اعتمادًا على السياق.
"إذا سمعت كلمة كلب ، فهذه المنطقة لا تهتم بما كانت عليه الكلمات العشر قبلها ، إنها ستستجيب فقط لصوت كلمة كلب" ، كما أوضح هوث.
من ناحية أخرى ، كان من السهل تحديد مناطق الدماغ التي تتعامل مع التفكير العالي المستوى عندما يتم تضمين المزيد من السياق. وهذا يدعم نظريات العقل (انظر التعريف في ٣) وإستيعاب اللغة.
وقال هوث: "كانت هناك مراسلات لطيفة حقاً بين التسلسل الهرمي للشبكة الاصطناعية والتسلسل الهرمي للدماغ ، والتي وجدناها مثيرة للاهتمام".
معالجة اللغة الطبيعية - أو البرمجة اللغوية العصبية NLP (٤) - تقدمت خطوات كبيرة في السنوات الأخيرة. ولكن عندما يتعلق الأمر بالإجابة على أسئلة ، أو إجراء محادثات طبيعية ، أو تحليل مشاعر في نصوص مكتوبة ، فإن NLP لا تزال أمامها طريق طويل. يعتقد الباحثان أن نموذج اللغة الذي طورته ال LSTM يمكن أن يساعد في هذه المجالات.
يعمل ال LSTM (والشبكات العصبية بشكل عام) من خلال تعيين قيم في الفراغ ذي الأبعاد العالية high-dimensional space ( اكثر من ثلاثة أبعاد) للمكونات الفردية (هنا ، الكلمات) بحيث يمكن تعريف كل مكون من خلال آلاف العلاقات المتباينة الخاصة بالعديد من الأشياء الأخرى.
درب الباحثان نموذج اللغة عن طريق ادخال عشرات الملايين من الكلمات المستمدة من رسائل رديت Reddit (٥). تنبأ النظام بعد ذلك بكيف تستجيب الآلاف من وحدات الڤوكسل voxels وهي وحدات البكسل ثلاثية الأبعاد (٦) في أدمغة ستة مشاركينً لمجموعة ثانية من القصص التي لم يستمع إليها لا النموذج ولا الأفراد من قبل. نظرًا لأنها كانا مهتمين بتأثيرات طول السياق وتأثير الطبقات الفردية في الشبكة العصبية ، فقد قاما في الأساس باختبار ٦٠ معاملاً مختلفًا (٢٠ طولًا لاستبقاء السياق وثلاثة أبعاد طبقية مختلفة ) لكل مشارك.
كل هذا أدى إلى مشاكل حوسبية كبيرة ، تطلبت كميات هائلة من قوة حوسبية وذاكرة وتخزين واسترجاع للبيانات. TACC مجهزة بما يلزم للتغلب على هذه المشكلة. استخدم الباحثون حاسوب Maverick العملاق ، الذي يحتوي على كل من وحدات معالجة الغرافيكس ووحدات المعالجة المركزية لمهام الحوسبة ، و Corral ، للتخزين وإدارة البيانات ، للحفاظ على البيانات وتوزيعها. ومن خلال موازاة المشكلة عبر العديد من المعالجات ، تمكنا من اجراء العملية الحوسبية في أسابيع بدلاً من سنوات.
وقال هوث: "لتطوير هذه النماذج بفعالية ، تحتاج إلى الكثير من بيانات التدريب". "هذا يعني أنه يجب عليك المرور عبر مجموعة البيانات بالكامل في كل مرة تريد فيها تحديث العوامل الوازنة. وهذا بطيء بطبيعته إذا لم تستخدم موارد موازية مثل تلك الموجودة في TACC."
هذا أدو بهوث وجين Huth and Jain إلى التفكير في إصدار آخر للنظام أكثر بساطة ، حيث بدلاً من تطوير نموذج للتنبؤ اللغوي ثم تطبيقه على الدماغ ، طورا نموذجًا يتنبأ باستجابة الدماغ مباشرةً. وسمياه نظام من النهاية إلى النهاية end-to-end system ، حيث يأملا أن يواصلا البحث فيه في المستقبل. مثل هذا النموذج من شأنه تحسين أدائه مباشرة على استجابات الدماغ. التنبؤ الخاطئ لنشاط الدماغ من شأنه أن يوفر تغذية استرجاعية الى النموذج وتحفيز التحسينات.
وقال هوث: "إذا نجح هذا ، فمن الممكن أن تتعلم هذه الشبكة قراءة النص أو مدخل اللغة بطريقة تشبه طريقة عمل أدمغتنا". "تخيل قوقل ترانسليت Google Translate ( موقع قوقل للترجمة) ، لكنه يفهم ما تقوله ، بدلاً من مجرد تعلم مجموعة من القواعد."
مع وجود مثل هذا النظام في مكانه ، يعتقد هوث أن الأمر مجرد مسألة وقت حتى يصبح نظام قراءة الأفكار الذي يمكنه ترجمة نشاط الدماغ إلى لغة ممكنًا. في غضون ذلك ، حصل الباحثان على رؤى ثاقبة في كل من علوم الأعصاب والذكاء الاصطناعي من تجاربهما.
وقالت جين: "إن الدماغ هو آلة حوسبية فعالة للغاية والهدف من الذكاء الاصطناعي هو بناء آلات جيدة فعلاً في جميع المهام التي يمكن أن يقوم بها الدماغ". "لكننا لا نفهم الكثير عن الدماغ. لذا ، نحاول استخدام الذكاء الاصطناعي للتساؤل أولاً عن كيف يعمل الدماغ ، وبعد ذلك ، بناءً على الأفكار التي نكتسبها من خلال طريقة الاستنطاق هذه ، ومن خلال علوم الأعصاب النظرية ، نستخدم هذه النتائج لتطوير ذكاء اصطناعي أفضل.
"إن الفكرة هي فهم الأنظمة المعرفية ( الإدراكية) ، البيولوجية منها والاصطناعية ، واستخدامها ترادفياً لمعرفة وبناء آلات أفضل."
مصادر من داخل وخارج النص:
١-https://papers.nips.cc/paper/7897-incorporating-context-into-language-encoding-models-for-fmri.pdf
٢-https://www.mitpressjournals.org/doi/full/10.1162/jocn_e_01276
٣-https://ar.m.wikipedia.org/wiki/نظرية_العقل
٤-https://ar.m.wikipedia.org/wiki/برمجة_لغوية_عصبية
٥-https://ar.m.wikipedia.org/wiki/ريديت
٦-https://ar.m.wikipedia.org/wiki/فوكسل
المصدر الرئيسي:
https://www.tacc.utexas.edu/-/brain-inspired-ai-inspires-insights-about-the-brain-and-vice-versa-
للمواضيع المترجمة السابقة يرجى زيارة المدونة على صفحتنا على الإنترنت على هذا العنوان؛
https://sites.google.com/view/adnan-alhajji
ليست هناك تعليقات:
إرسال تعليق