МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РОССИЙСКОЙ ФЕДЕРАЦИИ ГОСУДАРСТВЕННОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ВЫСШЕГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ «ОРЛОВСКИЙ ГОСУДАРСТВЕННЫЙ ТЕХНИЧЕСКИЙ УНИВЕРСИТЕТ» ГОСУДАРСТВЕННОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ВЫСШЕГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ «ОРЛОВСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ» ТЕОРИЯ ИНФОРМАЦИИ Книга 2 Рекомендовано Учебно-методическим объединением вузов Российской Федерации по образованию в области историко-архивоведения в качестве учебника для студентов высших учебных заведений, обучающихся по специальностям 090103 «Организация и технология защиты информации» и 090104 «Комплексная защита объектов информатизации» Орел 2009 УДК 621.391(075) ББК 32.811я7 Т33 Рецензенты: доктор технических наук, профессор учебно-научного комплекса «Автоматизированные системы и информационные технологии» Академии Государственной противопожарной службы МЧС России Н.Г. Топольский, доктор физико-математических наук, декан факультета «Компьютерные системы и информационные технологии» Российского нового университета А.С. Крюковский Т33 Теория информации. <...> Алфавитное неравномерное двоичное кодирование сигналами равной длительности. <...> Циклические коды, БЧХ – коды; код Хэмминга, сверточные коды Контрольные вопросы ГЛАВА 8. <...> Квантовая информация – основной объект квантовой информатики 12.3. <...> Раскрыто содержание Марковских и эргодических источников информации, эффективного кодирования, алфавитного неравномерного двоичного кодирования сигналами равной длительности. <...> Описаны префиксные, линейные коды, коды Хемминга, сверточные коды, циклические и БЧХ – коды, а также параметры кодов и их границ, корректирующие свойства кодов. <...> Восьмая глава дает представление о математической модели канала связи, пропускной способности непрерывного канала связи и представляет математических аппарат теоремы Шеннона для его описания. <...> В девятой главе раскрыты подходы к формализации понятия ценности <...>
Теория_информации_учебник_для_вузов._В_2-х_книгах._Книга_2.__Под_общей_научной_редакцией_В.Т._Еременко,_В.А._Минаева,_А.П._Фисуна,_В.А.Зернова,_А.В._Коськина__(Рекомендован_УМО_вузов_Российской_Федерации).pdf
МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РОССИЙСКОЙ ФЕДЕРАЦИИ
ГОСУДАРСТВЕННОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ
ВЫСШЕГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ
«ОРЛОВСКИЙ ГОСУДАРСТВЕННЫЙ ТЕХНИЧЕСКИЙ УНИВЕРСИТЕТ»
ГОСУДАРСТВЕННОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ
ВЫСШЕГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ
«ОРЛОВСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ»
ТЕОРИЯ ИНФОРМАЦИИ
Книга 2
Рекомендовано Учебно-методическим объединением вузов
Российской Федерации по образованию в области
историко-архивоведения в качестве учебника
для студентов высших учебных заведений,
обучающихся по специальностям
090103 «Организация и технология защиты информации»
и 090104 «Комплексная защита объектов информатизации»
Орел 2009
Стр.1
УДК 621.391(075)
ББК 32.811я7
Т33
Рецензенты:
доктор технических наук, профессор учебно-научного комплекса
«Автоматизированные системы и информационные технологии»
Академии Государственной противопожарной службы МЧС России
Н.Г. Топольский,
доктор физико-математических наук, декан факультета «Компьютерные
системы и информационные технологии» Российского нового университета
А.С. Крюковский
Т33 Теория информации. Книга 2: учебник для вузов / В.Т. Еременко,
В.А. Минаев, А.П. Фисун, И.С. Константинов, А.В. Коськин,
В.А. Зернов, ЮА. Белевская, С.В. Дворянкин; под общей научной
редакцией В.Т. Еременко, В.А. Минаева, А.П. Фисуна, В.А.Зернова,
А.В. Коськина. – Орел: ОрелГТУ, ОГУ, 2009. – 238 с.
ISBN 978-5-93932-311-6
В учебнике представлены основные положения классической теории
информации. Системно изложены фундаментальные понятия информации,
раскрыто содержание ее свойств, количественных и качественных
характеристик, знания по современным процедурам кодирования
информации и математической теории передачи знаков, лежащей
в основе теории связи. Определены границы применимости классической
теории информации. Рассмотрены вопросы формирования
квантовой теории информации.
Материал рассчитан на студентов, аспирантов и специалистов в
области разработки и эксплуатации информационных телекоммуникационных
систем и обеспечения их информационной безопасности.
УДК 621.391(075)
ББК 32.811я7
ISBN 978-5-93932-311-6
ОрелГТУ, 2009
ОГУ, 2009
2
Стр.2
СОДЕРЖАНИЕ
ПРЕДИСЛОВИЕ
ВВЕДЕНИЕ
ГЛАВА 7. КОДИРОВАНИЕ ИНФОРМАЦИИ
7.1. Постановка задачи кодирования. Теоремы Шеннона
об источниках информации
7.2. Марковские и эргодические источники
7.3. Эффективное кодирование
7.4. Алфавитное неравномерное двоичное
кодирование сигналами равной длительности. Префиксные
коды
7.5. Линейные коды. Параметры кодов и их
границы
7.6. Составление таблицы опознавателей.
Коды Хэмминга. Корректирующие свойства кодов
7.7. Циклические коды, БЧХ – коды; код
Хэмминга, сверточные коды
Контрольные вопросы
ГЛАВА 8. ЭЛЕМЕНТЫ МАТЕМАТИЧЕСКОЙ
ТЕОРИИ СВЯЗИ
8.1. Математическая модель канала связи
8.2. Пропускная способность непрерывного
канала. Теорема Шеннона
Контрольные вопросы
ГЛАВА 9. ПОДХОДЫ К ФОРМАЛИЗАЦИИ ПОНЯТИЯ
ЦЕННОСТИ ИНФОРМАЦИИ
9.1. Апостериорный подход
9.2. Формализация понятий неопределенности
и количества информации, отличные от
подхода Шеннона
Контрольные вопросы
ГЛАВА 10. ОПРЕДЕЛЕНИЕ ГРАНИЦ
ПРИМЕНИМОСТИ КЛАССИЧЕСКОЙ
ТЕОРИИ ИНФОРМАЦИИ
10.1. Случайный выбор, как источник генерации информации
10.2.
Современные взгляды на характеристики
информации
10.3. Синергетический подход к классификации информации
10.4.
Методологический анализ рецепции
информации
Контрольные вопросы
5
9
16
16
22
31
41
49
61
78
100
102
102
116
121
123
123
127
141
142
145
152
157
160
166
3
Стр.3
ГЛАВА 11. ВЗГЛЯДЫ НА ИНФОРМАЦИЮ
В КОНТЕКСТЕ ПОСТНЕКЛАССИЧЕСКОЙ
НАУКИ
11.1. Многозначность определения понятия
информации
11.2. Информационные процессы в нелинейном мире
Контрольные вопросы
ГЛАВА 12.. КВАНТОВАЯ ТЕОРИЯ ИНФОРМАЦИИ
(ВМЕСТО ЗАКЛЮЧЕНИЯ)
12.1. Источники формирования квантовой
информатики: основные понятия, достижения, проблемы
12.2.
Квантовая информация – основной объект
квантовой информатики
12.3. Классическая информация в квантовых
каналах
12.4. Квантовая информация в квантовых каналах
12.5. Квантовая различимость
12.6. Создание и преобразование запутанности – важный
динамический процесс квантовой теории информации
Контрольные
вопросы
ЛИТЕРАТУРА
168
170
177
185
186
186
206
207
210
213
213
215
216
4
Стр.4