 |
Порядок выполнения заданий
|
|
|
|
Санкт-Петербургский колледж телекоммуникаций
«УТВЕРЖДАЮ»
ЗАМ. Директора по Э и Р
____________________________
«» ____________2015 г.
Практическое занятие 5
Использование закона аддитивности информации при решении задач на определение количества информации
по дисциплине: «Основы теории информации»
для специальностей:
230111 «Компьютерные сети»
среднего профессионального образования
(базовый уровень)
Каждая работа рассчитана
на 2 часа
Санкт-Петербург
Описание практического занятия составлено в соответствии с рабочей программой по учебной дисциплине «Основы теории информации»
Составитель: К.В. Лебедева, К.Д. Волкова
Рассмотрено и одобрено на заседании цикловой комиссии № (цикловая комиссия общепрофессиональных дисциплин электросвязи)
Утверждено на заседании методического совета
_______________ 2015 г. Протокол №_
Председатель цикловой (предметной) комиссии:
______________________
Практическое занятие №5
Использование закона аддитивности информации при решении задач на определение количества информации
Цель занятия:
В соответствии с рабочей программой по дисциплине «Основы теории информации», в результате выполнения заданий ПЗ, студент должен:
уметь:
- измерять количество информации;
знать:
- основные понятия теории информации;
- виды информации и способы представления ее в электронно-вычислительных машинах (ЭВМ);
- свойства информации;
- меры и единицы измерения информации;
Таким образом, студент во время проведения ПЗ и самостоятельной работы по теме должен:
- закрепить навыки подсчёта количества информации с помощью закона аддитивности
|
|
|
Краткие теоретические сведения
Аддитивность — свойство величин, состоящее в том, что значение величины, соответствующее целому объекту, равно сумме значений величин, соответствующих его частям, в некотором классе возможных разбиений объекта на части. Например, аддитивность объёма означает, что объём целого тела равен сумме объёмов составляющих его частей.
Закон аддитивности информации
Количество информации H(x1, x2), необходимое для установления пары (x1, x2), равно сумме количеств информации H(x1) и H(x2), необходимых для независимого установления элементов x1, x2: H(x1, x2) = H(x1) + H(x2).
Методические указания
Пусть необходимо отгадать сразу два независимых предмета х1 и х2, про которые известно, что х1 принадлежит множеству Х1, содержащему N1 элементов, а х2 принадлежит множеству Х2, содержащему N2 элементов. Вполне допустимо считать, что необходимо угадать пару (х1,х2) где х1 принадлежит множеству Х1, а где х2 принадлежит множеству Х2. Тогда по ф. Хартли для угадывания задуманной пары необходимо задать log2N1N2 вопросов, т.е. получить бит информации. Для угадывания х1 понадобится log2N1 вопросов, для х2 - log2N2. Всего понадобится log2N1 + log2N2 вопросов (бит информации).
Мы получили два выражения для одного и того же количеств информации. Согласно основному логарифимическому тождеству, обе величины равны:
log2N1N2 = log2N1 + log2N2. Получаем закон аддитивности информации.
Используя закон аддитивности информации и ф. Хартли, подсчитаем, какое количество информации несёт достоверный прогноз погоды.
.
Решение.
Предположим, что прогноз погоды на следующий день заключается в предсказании дневной температуры (обычно выбор делается из 16 возможных для данного сезона значений) и одного из четырех значений облачности (солнечно, переменная облачность, пасмурно, дождь). Получаемое при этом количество информации равно
|
|
|
I=log216 +log24 = 4 + 2 = 6 (бит)
Ответ: 6 бит.
Задания на практическую работу
Вариант задания определяет преподаватель.
Работа выполняется в тетради для практических работ и сдается преподавателю.
Используя формулу Хартли и закон аддитивности информации решите задачи.
| 1. Какое количество информации несёт сообщение «Встреча назначена на 2 февраля в 15:00»? 2. Алфавит некоторого языка состоит из 32 символов. За сколько секунд мы сможем передать текст из 1600 оптимально закодированных символов этого алфавита, если скорость передачи составляет 100 байт в секунду? | |
| 1. В игре используется 36 карт (4 масти по 9 карт). Двоичный код каждой карты состоит из двух частей – кода масти и кода карты. По сколько бит должно быть выделено на кодировку карты? 2. Определите количество информации в своей фамилии при условии, что для кодирования фамилий будет использоваться 32-символьный алфавит. | |
| 1. В 9-этажном доме 6 подъездов. Какое количество информации несёт сообщение «Петя живёт в 3 подъезде на 8 этаже»? 2. В языке некоторого племени всего 16 различных букв. Все слова состоят из 5 букв, всего различных слов в языке 8000. Сколько компьютерной памяти заведомо потребуется для хранения всех слов этого языка? | |
| 1. При игре в кости используют 2 одинаковых кубика, грани которых помечены числами от 1 до 6. Сколько информации несет сообщение о том, что при бросании двух кубиков в сумме выпало 12 очков? 2. В течение 5 секунд было передано сообщение, объем которого составил 375 байт. Каков размер алфавита, с помощью которого записано сообщение, если скорость передачи составила 200 символов в секунду? | |
| 1. В игре используется 52 карты (4 масти по 13 карт). Двоичный код каждой карты состоит из двух частей – кода масти и кода карты. По сколько бит должно быть выделено на кодировку карты? 2. Алфавит некоторого языка состоит из 26 символов. За сколько секунд мы сможем передать текст из 1300 оптимально закодированных символов этого алфавита, если скорость передачи составляет 200 байт в секунду? | |
| 1. В 10-этажном доме 5 подъездов. Какое количество информации несёт сообщение «Вася живёт в 5 подъезде на 5 этаже»? 2. Определите количество информации в своей фамилии при условии, что для кодирования фамилий будет использоваться 26-символьный алфавит. | |
| 1. В игре используется 108 карт (6 мастей по 18 карт). Двоичный код каждой карты состоит из двух частей – кода масти и кода карты. По сколько бит должно быть выделено на кодировку карты? 2. В течение 10 секунд было передано сообщение, объем которого составил 680 байт. Каков размер алфавита, с помощью которого записано сообщение, если скорость передачи составила 400 символов в секунду? | |
| 1. Какое количество информации несёт сообщение «Встреча назначена на 15 декабря в 18:00»? 2. При игре в кости используют 2 одинаковых кубика, грани которых помечены числами от 1 до 6. Сколько информации несет сообщение о том, что при бросании двух кубиков в сумме выпало 8 очков? | |
| 1. В 20-этажном доме 4 подъезда. Какое количество информации несёт сообщение «Федя живёт в 1 подъезде на 16 этаже»? 2. В языке некоторого племени всего 24 различных буквы. Все слова состоят из 10 букв, всего различных слов в языке 16000. Сколько компьютерной памяти заведомо потребуется для хранения всех слов этого языка? | |
| 1. Какое количество информации несёт сообщение «Встреча назначена на 7 июня в 14:00»? 2. Определите количество информации в своей фамилии при условии, что для кодирования фамилий будет использоваться 26-символьный алфавит. |
Порядок выполнения заданий
|
|
|
Задания выполняются согласно данному варианту. При выполнении практического занятия следует опираться на краткие сведения, описанные ранее.
Содержание отчета
1. Отчёт выполняется в тетради для практических занятий
2. Название занятия и цель занятия
3. Запись своего варианта, указанного преподавателем
4. Полное решение своего варианта задания
Пример выполнения заданий
Задача 1.
Вычислить, какой объем памяти компьютера потребуется для хранения одной страницы текста на английском языке, содержащей 2400 символов.
Решение.
Мощность английского алфавита, включая разделительные знаки, N = 32.
Тогда для хранения такой страницы текста в компьютере понадобится 2400log232 бит = 2400*5 =12000 бит = 1500 байт.
|
|
|
Задача 2.
В течение 5 секунд было передано сообщение, объем которого составил 375 байт. Каков размер алфавита, с помощью которого записано сообщение, если скорость передачи составила 200 символов в секунду?
Решение.
1) 375 байт / 5 с = 75 байт/с – скорость передачи,
2) Так как 75 байт/с соответствуют 200 симв./с., то в одном символе содержится 75 байт / 200 = 0,375 байт = 3 бита.
3) log2 N = 3 бита, следовательно, N = 23 = 8 символов.
Вопросы для защиты ПЗ
1. Сформулируйте закон аддитивности информации
2. В игре ребята использовали 2 монетки. Сколько информации несёт сообщение о том, что при бросании двух монеток выпали 2 решки?
ПРИЛОЖЕНИЕ
Самостоятельная работа по практическому занятию №5
«Использование закона аддитивности информации при решении задач на определение количества информации»
Самостоятельная работа по теме занятия включает в себя:
- изучение теоретического материала лекционных занятий, учебной литературы, Интернет-ресурсов, раздела «Краткие сведения из теории» настоящего описания ПЗ;
- выполнение практических заданий и решение задач
Задачи и практические задания
Числа, необходимые для решения задач, приведены в таблице 1.
Таблица 1.
| Вариант | ||||||||||
| A | ||||||||||
| B | ||||||||||
| C | ||||||||||
| D |
1. Была получена телеграмма: «Встречайте вагон 7 поезд №111». Какое количество информации получил адресат, если известно, что в этот город приходит A поездов, а в каждом поезде по В вагонов?
2. Для общения в языке племени Мумбо-Юмбо используется C основных понятий и D связок, позволяющих соединять эти понятия. Для передачи сообщения племя использует двоичный код: сочетание звонких и глухих звуков барабана. Сообщения передаются порциями: понятие+связка. Сколько ударов требуется для кодировки каждой порции сообщения?
3. Определите количество информации в своём имени при условии, что для кодирования будет использоваться 64-символьный алфавит.
|
|
|
