Ентропи, относителна ентропия, взаимна информация
Асимптотично равноделно свойство
Ентропийна интензивност на случаен процес
Компресиране на данни -код на Хофман, неравенство на Крафт
Теория на нформацията и залози
Капацитет на комуникационен канал
Диференциална ентропия
Гаусов комуникационен канал
Теория на информацията и статистика

Целта на курса е запознаване с принципи, методи и процедури за статистистически анализ на данни и интерпретация на резултата.

Вкурса се проследяват последователните етапи на едно изследване на статистистическиданни- поставяне на задачата, избор на модел, планиране на експеримента, събиране на информацията, прилагане на съответни изчислителни процедури и интерпретация на резултатите.

Вниманието е насочено към предварителното проучване на данните и задачата за прогнозиране на количествена променлива (регресионна задача).