נתון LM, מודל שפה גנרטיבי פשוט מבוסס בי-גרמס (bigrams) שנלמד על קורפוס האימון הכולל את המשפטים הבאים (משפט בשורה):
a cat sat on the mat
the bat sat on the mat
on a
mat a bat quietly sat
the cat sat on the mat and spat
the fat rat sat on the mat and spat - don’t over react
the boy holding a baseball bat sat on the mat
the cat and the bat sat on my hat
כמו כן, נתונים שני המשפטים הבאים (שאינם בקורפוס האימון):
A. the bat sat on the mat and spat
B. the cat sat on the mat and spat