ע"פ תורת האינפורמציה, אי וודאות האירוע שווה למינימום אם

כאשר הסתברות של תוצאה היא 1 אז אין אי וודאות כלומר האנטרופיה היא מינימלית.