מדעי הנתונים ובינה עסקית

כשרוצים לקבוע האם לפצל לפי תכונה מסויימת אז עושים בדיקת מובהקות סטטיסטית, כלומר בודקים אם הערך הסטטיסטי גדול מהקריטי ובמידה וכן מפצלים לפי התכונה. כאשר נקטן את הערך minimum significance level עבור אותה דרגת חופש בעצם נגדיל את הערך הקריטי. דבר זה עלול לגרום לכך שכעת הערך הקריטי יהיה גדול מהסטטיסטי ולכן לא נפצל ואז עשויות להיות פחות שכבות.

כשרוצים לקבוע האם לפצל לפי תכונה מסויימת אז עושים בדיקת מובהקות סטטיסטית, כלומר בודקים אם הערך הסטטיסטי גדול מהקריטי ובמידה וכן מפצלים לפי התכונה. כאשר נגדיל את הערך minimum significance level עבור אותה דרגת חופש בעצם נקטין את הערך הקריטי. דבר זה עלול לגרום לכך שכעת הערך הקריטי יהיה קטן מהסטטיסטי ולכן כן נפצל ואז עשויות להיות יותר שכבות ברשת.

לפי הרצאה: מספר הפיצולים של משתנה רציף באלגוריתם CART הוא מספר הערכים השונים פחות אחד (במצגת רשום בלי פחות אחד אבל הוא ציין זאת שזה יותר מדוייק) אבל כאן מדובר על משתנה רציף ויש לו אינסוף ערכים לכן נתבסס על מס' הרשומות.

לפי גרף התפלגות של חי בריבוע- שואף לאפס.

הסבר מתמטי: לפי נוסחת ג'יני: 2^p סכום - 1 נציב בנוסחה p ו אחד פחות p ונקבל את התשובה.

אם יש לי תכונות רציפות אז נרצה לפצל לפיהן בIFN כי המדד הפיצול הוא לפי IG ולתכונות רציפות יש IG גבוה יותר. וכך המסלול יהיה קצר יותר.

כשעץ החלטה קטן יותר יש פחות עלים ורמות בעץ ולכן תהיה סבירות לתכונות שונות בעלה משותף דבר זה יגדיל את שגיאת האימון ומצד שני יקטין את דיוק האימון של העץ.

לפי הגרף של התפלגות חי בריבוע

לפי הנוסחה של חישוב משקלים בIFN המכנה בתוך הלוג הוא הדבר היחיד שמשתנה בנוסחה והערך שיתקבל יהיה שלילי אם הערך שנציב שהוא ההסתברות של אחד הסיווגים מכלל תצפיות האימון הוא הקטן יותר.

ככל שעץ החלטה גדול יותר הוא יתאים יותר טוב לתצפיות האימון והשאיפה שיהיו רשומות מסיווג אחד בכל עלה כך דיוק האימון יהיה גדול יותר ובהתאם שגיאת האימון תהיה נמוכה יותר.