Опубликован: 11.04.2007 | Уровень: специалист | Доступ: платный
В курсе излагаются основные понятия и факты теории информации. Рассмотрены способы измерения, передачи и обработки информации.
Значительное внимание уделено свойствам меры информации, характеристикам канала связи, помехозащитному, уплотняющему и криптографическому кодированию. Кроме того, рассмотрены вопросы формализации информации, в частности, в документах Internet. Изложение сопровождается большим количеством примеров и упражнений.
Необходимые знания: Для студентов вузов соответствующих специальностей и всех интересующихся вопросами точной работы с
информацией и методами построения кодов с полезными
свойствами.
План занятий
Занятие | Заголовок << | Дата изучения |
---|---|---|
- | ||
Лекция 17 минут | ВведениеОглавление | - |
Лекция 224 минуты | Предмет и основные разделы кибернетики
Теория информации – дочерняя наука кибернетики. В связи с этим рассматриваются кибернетические системы, управление – основная категория кибернетики. Характеристики непрерывной и дискретной информации являются важными составляющими дальнейшего изучения теории информации. Обозначаются принципы хранения, измерения, обработки и передачи информации. Схема передачи информации позволяет понять принципы и важность кодирования. Описывается сущность работы ЦВМ и АВМ и их применение на практике
Оглавление | - |
Тест 124 минуты | - | |
Лекция 348 минут | Базовые понятия теории информации
Изучать любую теорию невозможно без неких базовых принципов, на которых строятся дальнейшие исследования. Для теории информации такими понятиями являются: информация, канал связи, шум, кодирование. Способы измерения информации и ее количество являются важными составляющими дальнейшего обучения. Клод Шеннон предложил вероятностный подход к измерению дискретной и непрерывной информации. Предлагаются различные математические выкладки, примеры задач. Много задач для самостоятельной проверки знаний
Оглавление | - |
Тест 221 минута | - | |
Лекция 415 минут | Смысл энтропии Шеннона
Вводится понятие энтропии. На нескольких примерах показывается, как вычисляется энтропия дискретной случайной величины. Вводится понятие префиксного кодирования. Задачи на самостоятельную работу улучшают восприятие материала. Также много различных математических исследований
Оглавление | - |
Тест 318 минут | - | |
Лекция 523 минуты | Сжатие информации
Сжатие информации – важнейший аспект передачи данных, что дает возможность более оперативно передавать данные. Доказывается основная теорема о кодировании при отсутствии помех. Также в лекции рассматривается метод блокирования, который используется на практике для повышения степени сжатия. Дается также математическое обоснование метода Шеннона-Фэно. Некоторое количество примеров для проверки полученных знаний
Оглавление | - |
Тест 418 минут | - | |
Лекция 644 минуты | Арифметическое кодирование
В лекции подробно рассматривается арифметическое кодирование. Математическое доказательство его "выгодности" по отношению к другим методам кодирования. Проводится сравнение с другими методами кодирования. Очень хорошо освещены адаптивные алгоритмы сжатия информации, адаптивное арифметическое кодирование. Характерно большое количество примеров и заданий для самостоятельного изучения
Оглавление | - |
Тест 521 минута | - | |
Лекция 739 минут | Подстановочные или словарно-ориентированные алгоритмы сжатия информации. Методы Лемпела-Зива
История происхождения, положительные и отрицательные стороны, сравнение и применение на практике таких алгоритмов, как: LZ77, LZ78, LZSS, LZW. Практические задания для укрепления основного материала лекции. Особенности программ архиваторов. Непосредственное применение алгоритмов кодирования в архиваторах для обеспечения продуктивной работы в MS-DOS и WINDOWS
Оглавление | - |
Тест 621 минута | - | |
Лекция 840 минут | Сжатие информации с потерями
Иногда, для обеспечения продуктивной работы, можно сжимать данные с потерями без ущерба для конфиденциальной и важной информации. Такая технология используется для сжатия звука, видео и графики. В лекции описываются стандарты сжатия. Вводятся такие понятия, как информационный канал, устройства канала связи, задержка сигнала во времени. Доказывается основная теорема и кодировании при наличии помех. Описывается помехозащитное кодирование. Несколько заданий для самопроверки только улучшат восприятие материала
Оглавление | - |
Тест 718 минут | - | |
Лекция 942 минуты | Математическая модель системы связи
Рассматриваются такие классы кодов, как коды с исправлением и обнаружением ошибок. Хорошее математическое обоснование материала лекции. Описываются последовательные коды и их применение на практике. Матричное кодирование позволяет использовать меньший объем памяти при кодировании информации. Практические задания помогут лучше разобраться в сложном материале лекции
Оглавление | - |
Тест 818 минут | - | |
Лекция 101 час 1 минута | Групповые коды
Объясняется, какой блочный код называется групповым. Математическое обоснование выводов. Упражнения для самопроверки. Совершенные и квазисовершенные коды. Их свойства. Полиномиальные коды. Частный случай полиномиальных кодов – циклические коды. Очень хорошее и доходчивое объяснение материала характерно для данной лекции
Оглавление | - |
Тест 918 минут | - | |
Лекция 1116 минут | Понятие о кодах Боуза-Чоудхури-Хоккенгема
Рассказывается методика построения кодов, минимальное расстояние между кодовыми словами которых равно заданному числу. Математическое обосновании кодов Боуза-Чоудхури-Хоккенгема, упражнения для самопроверки. Рассматриваются циклические избыточные коды(CRC) и их применение на практике
Оглавление | - |
Тест 1018 минут | - | |
Лекция 1248 минут | Основы теории защиты информации
В лекции дается понятие криптографии, использование ее на практике, различные методы криптографии, их свойства и методы шифрования. Вводится понятие нераскрываемый шифр. Подробно описываются две системы шифрования: криптосистема без передачи ключей и криптосистема с открытым ключом. Хорошее математическое обоснование систем. Суть электронной подписи. Рассказывается о стандарте шифрования данных DES
Оглавление | - |
Тест 1118 минут | - | |
Лекция 1338 минут | Информация в Internet
В Интернете используется множество различных форматов данных. Некоторые из них используются довольно часто, некоторые реже. Как же связать это бесчисленное множество различных форматов с теорией информации? Данная лекция дает ответы на эти и другие вопросы. Дается понятие сущности компьютерного шрифта, текстов с разметкой и их применение, язык логической разметки HTML. TeX как язык программирования в академических кругах. Также рассматривается формат PDF как самый популярный формат создания, хранения и передачи электронных книг
Оглавление | - |
Тест 1221 минута | - | |
Дополнительный материал 112 минут | Управляющие коды ASCIIОглавление | - |
Дополнительный материал 210 минут | Кодировка видимых символов ASCIIОглавление | - |
Дополнительный материал 318 минут | Кодировка букв русского алфавитаОглавление | - |
Дополнительный материал 414 минут | Элементы теории чиселОглавление | - |
Дополнительный материал 58 минут | Используемые обозначенияОглавление | - |
5 часов | - |