נתון LM, מודל שפה גנרטיבי פשוט מבוסס בי-גרמס (bigrams) שנלמד על קורפוס האימון הכולל את המשפטים הבאים (משפט בשורה): a cat sat on the mat the bat sat on the mat on a mat a bat quietly sat the cat sat on the mat and spat the fat rat sat on the mat and spat - don’t over react the boy holding a baseball bat sat on the mat the cat and the bat sat on my hat כמו כן, נתונים שני המשפטים הבאים (שאינם בקורפוס האימון): A. the bat sat on the mat and spat B. the cat sat on the mat and spat