מדעי הנתונים ובינה עסקית

בתור משתמשים כאשר יש בעיית סיווג יינתנו לנו קבוצת המבחן וקבוצת האימון. לשם בניית המודל נשתמש בקבוצת האימון ולבדיקת המודל נשתמש בקבוצת המבחן.

דיוק האימון המינימלי (הקטן ביותר) כאש יש לנו שני סיווגים יכול להיות 50 אחוז.

ההפרש המקסימלי בין שני מודלים יכול להיות 100% במקרה קיצוני כאשר יש מודל אחד שתמיד צודק ואז שגיאת המבחן היא 0 והמודל השני תמיד טועה ושגיאת המבחן היא 100 ולכן ההפרש הוא 100.

מספר הפיצולים האפשריים של אלגוריתם CART הוא מספר הערכים השונים פחות אחד ומכיוון שזוהי בעיית סיווג בניארית התשובה היא 1.

זה שחוקים הם זרים זה לא מחייב כיסוי מלא בעץ החלטה. עצי החלטות מייצרים חוקים שאין בינהם חפיפה, אין רשומה שיכולה להתאים לשני חוקים בו זמנית.

זה לא ייתכן מכייון שבחישוב משקל של קשתות שיוצאים מקודקוד טרמינלי אז בנוסחה לחישוב במכנה שבתוך הלוג שמים את ההסתברות של הסיווג ובהכרח סיווג שלו יש הסתברות נמוכה יותר יהיה לו משקל שלילי.

אלגוריתם שניתן לעצור תוך כדי ריצה ועדיין לקבל תוצאות משמעותיות. ב- ID3 ובIFN ניתן להשתמש בprepruning ועדיין לקבל תוצאות משמעותיות. לעומת C4.5 ו CART שחייבים לבנות קודם את הרשת או העץ ואז לעשות Postpruning.

מודל יציב זה שינויים קטנים בנתונים גורמים לשינויים קטנים במודל וכאשר שינויים גדולים בנתונים גורמים לשינויים גדולים במודל כלומר המודל מגיב באופן ישיר ויחסי בהתאם לשינויים אם הוא יציב.

מה שיהיה שונה אלו ההסתברויות לא בהכרח הערך החזוי.

אחת מפונקציות האקטיבציה הפופולריות ביותר היא פונקציית ReLU שמאופיינת בכך שכאשר X<0 היא שווה ל-0 וכאשר X>=0 היא שווה ל-X. אז עבור קלט שלילי נקבל -0.