נתונה רשת בארכיטקטורת הטרנספורמר (transformer). האנקודר (encoder) יכול לקבל רצף באורך מקסימלי של s מילים. מימד שיכוני המילים (embeddings) של המודל הוא d. המודל מקבל קלט ספציפי W בן k מילים.
נתון כי:
.k=221 ,s=1024, d=200
מה יהיה מימד הווקטור המציין את מיקום המילה בקלט (ה-positional encoding vector)?
נמקו את בחירתך במקום המיועד בתחתית העמוד!
נתונה רשת בארכיטקטורת הטרנספורמר (transformer). האנקודר (encoder) יכול לקבל רצף באורך מקסימלי של s מילים. מימד שיכוני המילים (embeddings) של המודל הוא d. המודל מקבל קלט ספציפי W בן k מילים.
נתון כי:
.k=221 ,s=1024, d=200
מה יהיה מימד הווקטור המציין את מיקום המילה בקלט (ה-positional encoding vector)?
נמקו את בחירתך במקום המיועד בתחתית העמוד!
* השאלה נוספה בתאריך: 20-07-2025