Основното понятие, което се разглежда е “ентропия”, като мярка за неопределеност на дадена случ.величина, въведена от Клод Шенон през 1948
година. Разглеждат се приложения в кодирането, компресирането на данни,
залагания и хазарт. Споменават се и основните теореми за комуникационни канали.