Никитин Н. В. - Матрица плотности - Основы классической теории информации. Часть 2
0:02:01 1. Ограничения на величину шенноновской энтропии
0:12:27 2. Двоичная энтропия
0:22:22 3. Неравенство Йенсена и вогнутость энтропии Шеннона
0:29:14 4. Классическая относительная энтропия и неравенство Гиббса
0:45:12 5. Классическая совместная энтропия и субаддитивность
0:59:29 6. Условная вероятность и теорема Байеса
1:00:43 7. Классическая условная энтропия
1:12:03 8. Доказательство субаддитивности
1:17:54 9. Классическая взаимная информация
1:21:26 10. Нагляная связь между различными энтропиями и взаимной информацией
1:24:32 11. Сильная субаддитивность