הפוטנציאל המיטיב שיש להתפלגויות מוטות על למידה

24 אפריל, 2022
הפוטנציאל המיטיב שיש להתפלגויות מוטות על למידה

בעוד ששפות העולם נבדלות זו מזו באופנים רבים, הן חולקות קווי דמיון שיכולים ללמד אותנו על הקוגניציה האנושית. במחקר חדש של פרופ' ענבל ארנון וד"ר אורי לוי רוטבין, בדקו החוקרות את ההשלכות של אחד מקווי הדמיון החזקים ביותר בין שפות על הלמידות (learnability).

קו הדמיון שנחקר הוא התפלגות המילים בשפה: בקרב כל שפות העולם שנחקרו, נמצא כי מילים מתפלגות לפי התפלגות זיפיאנית. כלומר- הקשר בין שכיחות המילה לדרגה שלה (איפה היא מדורגת בשכיחות שלה- הכי שכיחה, השנייה הכי שכיחה וכו') מתואר לפי חוק חזקה: יש הרבה מילים שכיחות מאוד, השכיחות יורדת בצורה לא ליניארית, עד שמגיעים לזנב ארוך של מילים בעלות שכיחות נמוכה המהוות את הרוב המוחלט של המילים בשפה. המקור להתפלגות הזו ומדוע היא נפוצה כל כך בין שפות העולם נחקר רבות, אך ההשלכות שיכולות להיות להתפלגות הזיפיאנית על היכולת של דוברים ללמוד את השפה כמעט ולא נחקרו.

במחקר זה מציעות ענבל ואורי כי התפלגות זו יכולה להקל על למידת השפה בזכות כך שהתפלגות זו צפויה יותר מאשר התפלגויות פחות מוטות: קל יותר לנחש מה תהיה המילה הבאה בהתפלגות זיפיאנית לעומת התפלגות אחידה למשל. בשלב הראשון של המחקר נותחו נתונים של דיבור מוכוון אל ילדים מחמש עשרה שפות שונות ואלה כומתו בעזרת אנרטופיה (unigram entropy) עד כמה ההתפלגות של המילים צפויה. התוצאה הייתה - ערכים דומים מאוד בין השפות השונות. בשלב השני נבדק האם ערכים אלו יכולים לשפר למידת שפה לעומת התפלגויות פחות צפויות. נעשה שימוש במטלת למידה סטטיסטית בה סטודנטים וילדים שמעו רצפים של מילים מומצאות חסרות משמעות, אותן ניתן ללמוד רק בזכות ההסתברות של מילים להופיע אחת אחרי השניה. הרצפים נבדלו זה מזה ברמת האנטרופיה שלהם: רצף אחיד לו אנטרופיה מקסימלית, רצף עם אנטרופיה נמוכה יותר אך לא צפוי כמו שפה, ורצף בעל אנטרופיה דומה לזו שנמצא בשפה טבעית.

בעוד שהרצף המופחת לא שיפר כלל את הלמידה, גם מבוגרים וגם ילדים שנחשפו לרצף עם אנטרופיה כמו של השפה הטבעית הראו למידה טובה יותר. השיפור היה גם עבור המילים הלא שכיחות. הממצאים הללו מדגימים את הפוטנציאל המיטיב שיש להתפלגויות מוטות על למידה ומעלה שאלות בקשר לתרומה האפשרית של לחצים קוגניטיביים לתפוצה הרחבה של התפלגויות זיפיאניות בשפות העולם.

לקריאת המאמר המלא לחצו כאן

ראה גם: כללי, פרסומים