Опубликован: 11.04.2007 | Уровень: специалист | Доступ: платный
В курсе излагаются основные понятия и факты теории информации. Рассмотрены способы измерения, передачи и обработки информации.
Значительное внимание уделено свойствам меры информации, характеристикам канала связи, помехозащитному, уплотняющему и криптографическому кодированию. Кроме того, рассмотрены вопросы формализации информации, в частности, в документах Internet. Изложение сопровождается большим количеством примеров и упражнений.
Необходимые знания: Для студентов вузов соответствующих специальностей и всех интересующихся вопросами точной работы с информацией и методами построения кодов с полезными свойствами.

План занятий

ЗанятиеЗаголовок <<Дата изучения
-
Лекция 1
7 минут
Введение
Оглавление
    -
    Лекция 2
    24 минуты
    Предмет и основные разделы кибернетики
    Теория информации – дочерняя наука кибернетики. В связи с этим рассматриваются кибернетические системы, управление – основная категория кибернетики. Характеристики непрерывной и дискретной информации являются важными составляющими дальнейшего изучения теории информации. Обозначаются принципы хранения, измерения, обработки и передачи информации. Схема передачи информации позволяет понять принципы и важность кодирования. Описывается сущность работы ЦВМ и АВМ и их применение на практике
    Оглавление
      -
      Тест 1
      24 минуты
      -
      Лекция 3
      48 минут
      Базовые понятия теории информации
      Изучать любую теорию невозможно без неких базовых принципов, на которых строятся дальнейшие исследования. Для теории информации такими понятиями являются: информация, канал связи, шум, кодирование. Способы измерения информации и ее количество являются важными составляющими дальнейшего обучения. Клод Шеннон предложил вероятностный подход к измерению дискретной и непрерывной информации. Предлагаются различные математические выкладки, примеры задач. Много задач для самостоятельной проверки знаний
      Оглавление
        -
        Тест 2
        21 минута
        -
        Лекция 4
        15 минут
        Смысл энтропии Шеннона
        Вводится понятие энтропии. На нескольких примерах показывается, как вычисляется энтропия дискретной случайной величины. Вводится понятие префиксного кодирования. Задачи на самостоятельную работу улучшают восприятие материала. Также много различных математических исследований
        Оглавление
          -
          Тест 3
          18 минут
          -
          Лекция 5
          23 минуты
          Сжатие информации
          Сжатие информации – важнейший аспект передачи данных, что дает возможность более оперативно передавать данные. Доказывается основная теорема о кодировании при отсутствии помех. Также в лекции рассматривается метод блокирования, который используется на практике для повышения степени сжатия. Дается также математическое обоснование метода Шеннона-Фэно. Некоторое количество примеров для проверки полученных знаний
          Оглавление
            -
            Тест 4
            18 минут
            -
            Лекция 6
            44 минуты
            Арифметическое кодирование
            В лекции подробно рассматривается арифметическое кодирование. Математическое доказательство его "выгодности" по отношению к другим методам кодирования. Проводится сравнение с другими методами кодирования. Очень хорошо освещены адаптивные алгоритмы сжатия информации, адаптивное арифметическое кодирование. Характерно большое количество примеров и заданий для самостоятельного изучения
            Оглавление
              -
              Тест 5
              21 минута
              -
              Лекция 7
              39 минут
              Подстановочные или словарно-ориентированные алгоритмы сжатия информации. Методы Лемпела-Зива
              История происхождения, положительные и отрицательные стороны, сравнение и применение на практике таких алгоритмов, как: LZ77, LZ78, LZSS, LZW. Практические задания для укрепления основного материала лекции. Особенности программ архиваторов. Непосредственное применение алгоритмов кодирования в архиваторах для обеспечения продуктивной работы в MS-DOS и WINDOWS
              Оглавление
                -
                Тест 6
                21 минута
                -
                Лекция 8
                40 минут
                Сжатие информации с потерями
                Иногда, для обеспечения продуктивной работы, можно сжимать данные с потерями без ущерба для конфиденциальной и важной информации. Такая технология используется для сжатия звука, видео и графики. В лекции описываются стандарты сжатия. Вводятся такие понятия, как информационный канал, устройства канала связи, задержка сигнала во времени. Доказывается основная теорема и кодировании при наличии помех. Описывается помехозащитное кодирование. Несколько заданий для самопроверки только улучшат восприятие материала
                Оглавление
                  -
                  Тест 7
                  18 минут
                  -
                  Лекция 9
                  42 минуты
                  Математическая модель системы связи
                  Рассматриваются такие классы кодов, как коды с исправлением и обнаружением ошибок. Хорошее математическое обоснование материала лекции. Описываются последовательные коды и их применение на практике. Матричное кодирование позволяет использовать меньший объем памяти при кодировании информации. Практические задания помогут лучше разобраться в сложном материале лекции
                  Оглавление
                    -
                    Тест 8
                    18 минут
                    -
                    Лекция 10
                    1 час 1 минута
                    Групповые коды
                    Объясняется, какой блочный код называется групповым. Математическое обоснование выводов. Упражнения для самопроверки. Совершенные и квазисовершенные коды. Их свойства. Полиномиальные коды. Частный случай полиномиальных кодов – циклические коды. Очень хорошее и доходчивое объяснение материала характерно для данной лекции
                    Оглавление
                      -
                      Тест 9
                      18 минут
                      -
                      Лекция 11
                      16 минут
                      Понятие о кодах Боуза-Чоудхури-Хоккенгема
                      Рассказывается методика построения кодов, минимальное расстояние между кодовыми словами которых равно заданному числу. Математическое обосновании кодов Боуза-Чоудхури-Хоккенгема, упражнения для самопроверки. Рассматриваются циклические избыточные коды(CRC) и их применение на практике
                      Оглавление
                        -
                        Тест 10
                        18 минут
                        -
                        Лекция 12
                        48 минут
                        Основы теории защиты информации
                        В лекции дается понятие криптографии, использование ее на практике, различные методы криптографии, их свойства и методы шифрования. Вводится понятие нераскрываемый шифр. Подробно описываются две системы шифрования: криптосистема без передачи ключей и криптосистема с открытым ключом. Хорошее математическое обоснование систем. Суть электронной подписи. Рассказывается о стандарте шифрования данных DES
                        Оглавление
                          -
                          Тест 11
                          18 минут
                          -
                          Лекция 13
                          38 минут
                          Информация в Internet
                          В Интернете используется множество различных форматов данных. Некоторые из них используются довольно часто, некоторые реже. Как же связать это бесчисленное множество различных форматов с теорией информации? Данная лекция дает ответы на эти и другие вопросы. Дается понятие сущности компьютерного шрифта, текстов с разметкой и их применение, язык логической разметки HTML. TeX как язык программирования в академических кругах. Также рассматривается формат PDF как самый популярный формат создания, хранения и передачи электронных книг
                          Оглавление
                            -
                            Тест 12
                            21 минута
                            -
                            Дополнительный материал 1
                            12 минут
                            -
                            Дополнительный материал 2
                            10 минут
                            -
                            Дополнительный материал 3
                            18 минут
                            -
                            Дополнительный материал 4
                            14 минут
                            -
                            Дополнительный материал 5
                            8 минут
                            -
                            5 часов
                            -
                            Евгений Плескач
                            Евгений Плескач
                            Беларусь, Минск
                            Xxxx Xxxx
                            Xxxx Xxxx
                            Россия