Александр Шень. Алгоритмическая теория информации и случайность индивидуальных объектов

В середине XX века Шеннон ввёл понятие энтропии, которое можно интуитивно описать как “среднее количестве битов информации в одном значении случайной величины“. Но его нельзя применить к индивидуальным объектам (скажем, к тексту романа или ДНК) - где нет ансамбля многих однородных объектов, нет и случайных величин. В середине 1960х годов разным людям (Колмогоров, Соломонов, Левин, Чейтин,...) стало понятно, что можно определять количество информации (сложность) индивидуального объекта как минимальную длину
Back to Top