Термінологічний словник

міра інформації, що повідомляється появою події певної ймовірності; міра оцінки інформації, що міститься в повідомленні; міра, що характеризує зменшення невизначеності, що міститься в одній випадковій величині відносно іншої.