МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РОССИЙСКОЙ
ФЕДЕРАЦИИ
ГОСУДАРСТВЕННОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ
ВЫСШЕГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ
«ШУЙСКИЙ ГОСУДАРСТВЕННЫЙ ПЕДАГОГИЧЕСКИЙ
УНИВЕРСИТЕТ»
Теоретические основы информатики
Методические рекомендации по решению задач
Шуя, 2008
ББК 32.97
УДК 004.3
М 54
Печатается по решению редакционноиздательского Совета ГОУ ВПО «Шуйский
государственный педагогический университет»
Автор-составитель: Завьялова О.А. <...> Практикум содержит основные теоретические сведения, примеры
и задачи по темам «Различные подходы к определению количества
информации», «Оптимальное кодирование», «Представление и
обработка чисел на компьютере», «Передача информации в линиях связи»
и предназначены для проведения практических работ по курсу
«Теоретические
основы
информатики»,
для
организации
самостоятельной работы, подготовки к экзаменам. <...> Пособие предназначено для студентов, обучающихся по
дополнительной специальности «Информатика».
(с) ГОУ ВПО «Шуйский государственный
педагогический университет, 2008
2
Содержание
ТЕМА 1. <...> Различные подходы к определению количества
информации
Согласно американскому ученому и инженеру Клоду Шеннону,
информация – это снятая неопределенность. <...> Шеннон впервые ввел такую трактовку в теории связи. <...> Согласно Шеннону, информативность сообщения характеризуется
содержащейся в нем полезной информацией, т.е. той частью сообщения,
которая полностью снимает, или уменьшает существующую до ее
получения неопределенность какой-либо ситуации. <...> 1 бит – количество информации, которое можно передать в
сообщении, состоящем из одного двоичного знака (0 или 1). <...> Пусть мы имеем алфавит, мощностью N, все
символы которого встречаются с одинаковой частотой. <...> Количество
информации, которое вмещает один символ N элементного алфавита,
равно log2N. <...> 4
Другими словами, количество информации, которое необходимо
для устранения неопределенности из N равнозначных вариантов равно <...>
Теоретические_основы_информатики_методические_рекомендации_по_решению_задач.pdf
МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РОССИЙСКОЙ
ФЕДЕРАЦИИ
ГОСУДАРСТВЕННОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ
ВЫСШЕГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ
«ШУЙСКИЙ ГОСУДАРСТВЕННЫЙ ПЕДАГОГИЧЕСКИЙ
УНИВЕРСИТЕТ»
Теоретические основы информатики
Методические рекомендации по решению задач
Шуя, 2008
Стр.1
ББК 32.97
УДК 004.3
М 54
Печатается по решению редакционноиздательского
Совета ГОУ ВПО «Шуйский
государственный педагогический университет»
Автор-составитель: Завьялова О.А.
Рецензент: к. п. н., доцент Замогильнова Л.В.
М 54 Теоретические основы информатики. Методические
рекомендации по решению задач. – Шуя: Изд-во «Весть». ГОУ ВПО
«Шуйский государственный педагогический университет, 2008.
Практикум содержит основные теоретические сведения, примеры
и задачи по темам «Различные подходы к определению количества
информации», «Оптимальное кодирование», «Представление и
обработка чисел на компьютере», «Передача информации в линиях связи»
и предназначены для проведения практических работ по курсу
«Теоретические основы информатики», для организации
самостоятельной работы, подготовки к экзаменам.
Пособие предназначено для студентов, обучающихся по
дополнительной специальности «Информатика».
(с) ГОУ ВПО «Шуйский государственный
педагогический университет, 2008
2
Стр.2
Содержание
ТЕМА 1. РАЗЛИЧНЫЕ ПОДХОДЫ К ОПРЕДЕЛЕНИЮ
КОЛИЧЕСТВА ИНФОРМАЦИИ .......................................................... 4
ПРАКТИЧЕСКАЯ РАБОТА № 1. ФОРМУЛА ХАРТЛИ ОПРЕДЕЛЕНИЯ
КОЛИЧЕСТВА ИНФОРМАЦИИ. ................................................................... 4
Теоретические сведения .................................................................... 4
Примеры решения задач ................................................................... 5
Задачи для самостоятельного решения .......................................... 6
ПРАКТИЧЕСКАЯ РАБОТА № 2. ФОРМУЛА ШЕННОНА ОПРЕДЕЛЕНИЯ
КОЛИЧЕСТВА ИНФОРМАЦИИ. ................................................................... 8
Теоретические сведения .................................................................... 8
Примеры решения задач ................................................................... 9
Задачи для самостоятельного решения .......................................... 9
ТЕМА 2. ОПТИМАЛЬНОЕ КОДИРОВАНИЕ ИНФОРМАЦИИ .. 11
ПРАКТИЧЕСКАЯ РАБОТА № 3. ПОСТРОЕНИЕ ПРЕФИКСНЫХ КОДОВ. ...... 11
Теоретические сведения .................................................................. 11
Примеры решения задач ................................................................. 12
Вопросы и задачи для самостоятельного решения ...................... 13
ТЕМА 3. ПРЕДСТАВЛЕНИЕ И ОБРАБОТКА ЧИСЕЛ НА
КОМПЬЮТЕРЕ ...................................................................................... 14
ПРАКТИЧЕСКАЯ РАБОТА № 4. СИСТЕМЫ СЧИСЛЕНИЯ. ПРАВИЛА ПЕРЕВОДА
ЧИСЕЛ. .................................................................................................... 15
Примеры решения задач ................................................................. 15
Задачи для самостоятельного решения ........................................ 19
ПРАКТИЧЕСКАЯ РАБОТА №5. ПРЕДСТАВЛЕНИЕ ЧИСЕЛ В КОМПЬЮТЕРЕ 20
Теоретические сведения .................................................................. 20
Примеры решения задач ................................................................. 23
Задачи для самостоятельного решения ........................................ 25
ТЕМА 4. ОБЩАЯ СХЕМА ПЕРЕДАЧИ ИНФОРМАЦИИ В ЛИНИЯХ
СВЯЗИ ....................................................................................................... 26
ПРАКТИЧЕСКАЯ РАБОТА № 6. ПЕРЕДАЧА ИНФОРМАЦИИ В КОМПЬЮТЕРНЫХ
СЕТЯХ ..................................................................................................... 26
Теоретические сведения .................................................................. 26
Задачи для самостоятельного решения ........................................ 31
ЛИТЕРАТУРА ......................................................................................... 32
3
Стр.3