Глава 1.3. Н. Угринович. Базовый курс. 8 класс

Количество информации как мера уменьшения неопределенности знания

Люди обмениваются информацией в форме сообщений. Сообщение – это и речь, которую мы слушаем (радиосообщение, объяснение учителя), и воспринимаемые нами зрительные образы (фильм по телевизору, сигнал светофора), и текст книги, которую мы читаем и т. д. Информативным назовем сообщение, которое пополняет знания человека, то есть несет для него информацию.

Информативность сообщения Для разных людей одно и то же сообщение с точки его информативности может быть разным. Если сведения «старые», то есть человек это уже знает, или содержание сообщения непонятно человеку, то для него это сообщение неинформативно. Информативно то сообщение, которое содержит новые и понятные сведения.

Примеры Вопрос: - Содержит ли информацию вузовский учебник по высшей математике с точки зрения первоклассника? - Да, содержит с любой точки зрения! Потому что в учебнике заключены знания людей: авторов учебника, создателей математического аппарата (Ньютона, Лейбница и др.), современных математиков.

Примеры Вопрос: - Будет ли информативным текст этого учебника для первоклассника, если он попытается его прочитать? Иначе говоря, может ли первоклассник с помощью этого учебника пополнить собственные знания? Очевидно, что ответ отрицательный. Читая учебник, то есть, получая сообщения, первоклассник ничего не поймет, а, стало быть, не обратит его в собственные знания.

Примеры Вопрос: - Какой город является столицей Франции? Ответ: - Столица Франции – Париж. Сообщение информативно? - Нет, так как это вам известно.

Примеры Вопрос: - Что изучает коллоидная химия? Ответ: - Коллоидная химия изучает дисперсионные состояния систем, обладающих высокой степенью раздробленности. Сообщение информативно? - Нет, так как непонятно.

Примеры Вопрос: - Какую высоту и вес имеет Эйфелева башня? Ответ: - Эйфелева башня имеет высоту 300 метров и вес 9000 тонн. Сообщение информативно: - Да

Информативность сообщения Если сообщение неинформативно для человека, то количество информации в нем с точки зрения этого человека равно нулю. Количество информации в информативном сообщении больше нуля.

Информация и неопределенность Допустим, вы оказались на перекрестке в незнакомом городе и не знаете, как пройти к вокзалу. Ваше состояние можно охарактеризовать, как состояние неопределенности. Но вот прохожий объяснил дорогу к вокзалу. Теперь у вас появилась информация, а неопределенность пропала.

Информация и неопределенность Пример: вы услышали по телевизору, что завтра будет солнечная погода. Ваше состояние изменилось: вы стали обладателем информации, а неопределенность, которая до этого существовала, исчезла.

Информация и неопределенность Подобное происходит всякий раз, когда у вас появляется та или иная информация, неопределенность, если она до этого имела место, уменьшается или вовсе ликвидируется.

Информация и неопределенность Эту интуитивно ясную связь между обыденными представлениями об информации и о неопределенности можно сформулировать так: Появление информации суть уменьшение неопределенности.

Информация и неопределенность Вы сдали зачет по информатике. Вы получите одно из двух сообщений: «зачет» или «незачет» Сколько возможных информационных сообщений? Во сколько раз уменьшится неопределенность вашего знания, когда вы узнаете о своей оценке? Вы решили контрольную работу по алгебре. Вы получите одно из четырех сообщений: «2», «3», «4» или «5» Сколько возможных информационных сообщений? Во сколько раз уменьшится неопределенность вашего знания, когда вы узнаете о своей оценке?

Чем более неопределенна первоначальная ситуация (чем большее количество информационных сообщений возможно), тем больше мы получим новой информации при получении информационного сообщения (тем в большее количество раз уменьшится неопределенность знания)

Количество информации можно рассматривать как меру уменьшения неопределенности знания при получении информационных сообщений

N = 2 I N - количество возможных информационных сообщений I – количество информации, которое несет полученное сообщение

Вам известны единицы измерения длины. Это миллиметры, сантиметры, метры и километры. Для количественного выражения любой величины необходимо сначала определить единицу измерения.

Масса измеряется в граммах, килограммах, центнерах и тоннах.

Углы измеряются в градусах.

Время – в секундах, минутах и часах.

За единицу количества информации принимается такое количество информации, которое содержится в информационном сообщении, уменьшающем неопределенность знания в два раза. Такая единица названа битом

Определение количества информации События Кол-во вариантов (N) Вероятность события Бит информации ( I ) Ванька- Встанька 110 Бросание одной монеты 21/21 Оценка за контр. работу 41/42 Бросание восьмигранной пирамидки 81/83 Отгадывание числа от 1 до /164 Бросание шестигранного кубика 61/6 ? N = 2 I

Количество информации в сообщении об одном из N равновероятных событий NINININI

Задания для закрепления Пример 1. Сколько информации несет сообщение о том, что из колоды карт достали карту красной масти? Решение: 1 бит, т. к. красных и черных карт одинаковое количество.

Задания для закрепления Пример 2. Сколько информации несет сообщение о том, что из колоды карт достали карту бубновой масти? Решение: 2 бита, так как всего в колоде 4 масти, и количество карт в них одинаковое.

Задания для закрепления Пример 3. Проводятся две лотереи «4 из 32» и «5 из 64». Сообщение о результатах, какой из лотерей несет больше информации?

Решение Вытаскивание любого номера из лотерейного барабана – события равновероятные. Поэтому в первой лотерее количество информации в сообщении об одном номере равно 5 бит (2 5 = 32), а во втором – 6 бит (2 6 = 64). Сообщение о 4-х номерах в первой лотерее несет 5 * 4 = 20 бит. Сообщение о 5-ти номерах второй лотереи несет 6 * 5 = 30 бит. Следовательно, сообщение о результатах второй лотереи несет больше информации, чем первой.

Задания для закрепления Пример 4. В течение четверти ученик получил 100 оценок. Сообщение о том, что он получил четверку, несет 2 бита информации. Сколько четверок ученик получил за четверть? Решение: Данный результат мог быть получен путем следующих рассуждений: 2 бита информации несет сообщение об одном из четырех равновероятных событий (2 2 = 4). То есть вероятность получения четверок равна ¼. Тогда количество четверок определится как: 100 / 4 = 25. Таким образом, в течение четверти ученик получил 25 четверок.

Самостоятельное решение Задача 1. Вы подошли к светофору, когда горел желтый свет. После этого загорелся зеленый. Какое количество информации вы при этом получили? Ответ: 1 бит

Самостоятельное решение Задача 2. Вы подошли к светофору, когда горел красный свет. После этого загорелся желтый свет. Сколько информации вы при этом получили? Ответ: 0 бит

Самостоятельное решение Задача 3. В корзине 8 шаров. Все шары разного цвета. Сколько информации несет сообщение о том, что из корзины достали красный шар? Ответ: 3 бита

Самостоятельное решение Задача 4. Сколько бит информации несет сообщение о том, что из колоды в 32 карты достали даму крести? Ответ: 5 бит

Самостоятельное решение Задача 5. в школьной библиотеке 16 стеллажей с книгами. На каждом стеллаже 8 полок. Библиотекарь сообщил Пете, что нужная ему книга находится на пятом стеллаже на третьей сверху полке. Какое количество информации библиотекарь передал Пете? Ответ: 7 бит

Самостоятельное решение Задача 6. При угадывании целого числа в некотором диапазоне было получено 6 бит информации. Сколько чисел содержится в этом диапазоне? Ответ: 64 числа

Самостоятельное решение Задача 7. Сообщение о том, что Петя живет во втором подъезде, несет 3 бита информации. Сколько подъездов в доме? Ответ: 8 подъездов

Производные единицы измерения информации 1 Килобайт Kб (кило) = байт (2 10 байт) 1 Мегабайт Mб (мега) = 1024 Кб (2 10 Kб) = 2 20 байт 1 Гигабайт Гб (гига) = 1024 Мб (2 10 Mб)= 2 30 байт 1 Терабайт Tб (тира) = 1024 Гб (2 10 Гб)= 2 40 байт 1 Петабайт Pб (пета) = 1024 Тб (2 10 Tб)= 2 50 байт 1 Эксабайт Eб (экса) = 1024 Pб (2 10 Pб)= 2 60 байт 1 Зеттабайт Zб (зета) = 1024 Eб (2 10 Eб)= 2 70 байт 1 Йоттабайт Yб (йота) = 1024 Zб (2 10 Zб)= 2 80 байт 1 байт = 8 битов ( 2 3 битов)