שאלה | מדוע וכיצד משתמשים בדגימה שלילית (negative sampling) במודל skip-gram

מדוע וכיצד משתמשים בדגימה שלילית (negative sampling) במודל skip-gram

		Negative sampling מונעת מהמילים הנפוצות לקבל משקל גבוה מדי על ידי הסרתן מהאימון.
		Negative sampling נועדה לשפר את הדיוק של המודל על ידי שימוש בכל המילים שבמשפט.
		מודל skip-gram הוא מודל קלסיפיקציה שבשבילו אנחנו צריכים דוגמאות חיוביות ושליליות לאימון, את החיוביות לוקחים מסט האימון ( המילים שליד הtarget), ואת השליליות יוצרים באופן מלאכותי - דוגמים באופן אקראי מהמילים בקורפוס, יכול להיות שהמילים השליליות יופיעו בחיוביות בסבירות נמוכה.
		Negative sampling נועדה להמיר את מודל Skip-Gram ממודל לא מפוקח (unsupervised) למודל מפוקח (supervised).