2 Задача 1. Закодируйте свое имя с помощью азбуки Морзе. ВАСЯ Код неравномерный, нужен разделитель! !

3 Задача 2. Закодируйте свое имя с помощью кодовой таблицы (Windows-1251): ABCDEF CАБВГДЕЖЗИЙКЛМНОП DРСТУФХЦЧШЩЪЫЬЭЮЯ ВАСЯ С2 С0 D1 DF ВАСЯ Код равномерный, разделитель НЕ нужен! !

1 бит (binary digit, двоичная цифра) – это количество информации, которое мы получаем при выборе одного из двух возможных вариантов (вопрос: «Да» или «Нет»?) Примеры: Эта стена – зеленая? Да. Дверь открыта? Нет. Сегодня выходной? Нет. Это новый автомобиль? Новый. Ты будешь чай или кофе? Кофе. 4

Количество вариантов Количество бит информации вариантов – между 4 (2 бита) и 8 (3 бита) Ответ: количество информации между 2 и 3 битами

1 байт (byte) = 8 бит 1 Кб (килобайт) = 1024 байта 1 Мб (мегабайт) = 1024 Кб 1 Гб (гигабайт) = 1024 Мб 1 Тб (терабайт) = 1024 Гб 1 Пб (петабайт) = 1024 Тб

I – количество информации в битах N – количество вариантов 7 Пример: В аэропорту стоит 6 самолетов, из них один летит в Москву. Сколько информации в сообщении «В Москву летит второй самолет»? бит

8 Алфавит – набор знаков, используемых при кодировании информации с помощью некоторого языка. Примеры: АБВГДЕЖЗИЙКЛМНОПРС Т УФХЦЧШЩЪЫЬЭЮЯ 32 ABCDEFGHIJKLMNOPQRSTUVWXYZ 26 × O Мощность алфавита – количество символов. Все символы несут одинаковую информацию: ! мощность алфавита информационная емкость символа

Задача. Определить объем информации в сообщении ПРИВЕТВАСЯ для кодирования которого используется русский алфавит (только заглавные буквы). Ответ: 10·5 бит = 50 бит считаем все символы (здесь 10 символов) мощность алфавита – 32 символа (32=2 5 ) 1 символ несет 5 бит информации Решение:

10 Вероятность события – число от 0 до 1, показывающее, как часто случается это событие в большой серии одинаковых опытов. p = 0 событие никогда не происходит (нет неопределенности) p = 0,5 событие происходит в половине случаев (есть неопределенность) p = 1 событие происходит всегда (нет неопределенности) Полная система событий: одно из N событий обязательно произойдет (и только одно!). p i – вероятность выбора i -ого варианта ( i = 1,…, N )

11 Вычисление вероятности Задача. В пруду живут 100 рыб, из них 20 карасей, 30 пескарей, а остальные – окуни. Какова вероятность поймать карася (пескаря, окуня), если все рыбы одинаково голодны? Формула: число «нужных» событий общее число событий Решение: караси пескари окуни Как иначе посчитать p 3 ? ?

12 Как посчитать информацию, если варианты не равновероятны? – вероятность выбора i -ого варианта ( i = 1,…, N ) Идея: если случается менее вероятное событие, мы получаем больше информации. Если произошло событие i, мы получаем информацию Клод Шеннон ( ) американский математик и электротехник, один из создателей математической теории информации и криптографии.

13 Задача 2. Посчитать, чему равна информация в сообщении «Сейчас идет снег» зимой и летом. Решение: Событие 1 – идет снег, событие 2 – снег не идет. летом зимой летом бита зимой бит Что еще нужно для решения? ?

14 Задача 3. Отличник Вася Пупкин получил такие оценки по истории за I четверть: Сколько информации получили в этом сообщении родители? Алфавитный подход: возможны 4 разные оценки: 2, 3, 4 и 5 каждая оценка несет 2 бита информации (все одинаково!) Ответ: 5·2 бит = 10 бит Содержание информации не учитывается! !

15 Вероятностный подход: задаем вероятности получения всех оценок информация при получении 5, 4 и 3: Могло быть > 10 бит? ? бит < 10 бит Ответ: информации в сообщении Что еще нужно для решения? ?

Ю.А. Шрейдер: Тезаурус – знания приемника информации о внешнем мире, его способность воспринимать те или иные сообщения. 16 I тезаурус наилучшее восприятие сведения не новы ничего непонятно…

Задачи

18 Задача 1. В пруду живут 100 рыб, из них 20 карасей, 30 пескарей, а остальные – окуни. Сколько информации несет сообщение о том, что рыбак поймал карася (пескаря, окуня), если все рыбы одинаково голодны? Формула: Решение: карась пескарь окунь бита бит

25 Кб = =25·1024 байт =25·1024·8 бит =25:1024 Мб =25:1024:1024=25: Гб =25:1024:1024:1024= 25: Тб 19 крупные единицы мелкие единицы деление умножение

Сколько места в памяти надо выделить для хранение предложения Привет, Вася! 20 Ответ: 13 байт или 104 бита (в UNICODE: 26 байт или 208 бит) считаем все символы, включая знаки препинания и пробелы (здесь 13 символов) если нет дополнительной информации, то считаем, что 1 символ занимает 1 байт в кодировке UNICODE 1 символ занимает 2 байта

Сколько места надо выделить для хранения 10 страниц книги, если на каждой странице помещаются 32 строки по 64 символа в каждой? 21 на 1 странице 32·64=2048 символов на 10 страницах 10·2048=20480 символов каждый символ занимает 1 байт Решение: Ответ: байт или … 20480·8 бит или … 20480:1024 Кб = 20 Кб

Сколько места в памяти надо выделить для хранения 16-цветного рисунка размером 32 на 64 пикселя? 22 общее число пикселей: 32·64=2048 при использовании 16 цветов на 1 пиксель отводится 4 бита (выбор 1 из 16 вариантов) Решение: Ответ: 2048·4 бита = 8192 бита или … 2048·4:8 байта = 1024 байта или … 1024:1024 Кб = 1 Кб

Для хранения растрового рисунка размером 32 на 64 пикселя выделили 2 Кб памяти. Каково максимально возможное количество цветов в палитре? 23 общее число пикселей: 32·64=2 5 · 2 6 =2 11 память 2 Кб =2 · 2 10 байта = 2 11 байта= 2 14 бита на 1 пиксель приходится 2 14 :2 11 = 2 3 = 8 бит 8 бит выбор 1 из 256 вариантов Решение: Ответ: не более 256 цветов

24 Сколько бит нужно выделить для хранения текста МУНСА УРЕ КАМУКА при использовании алфавита племени МУМУКА: буквы МУКАЕНРС и пробел? в алфавите 9 символов (8 букв и пробел) 2 3 < 9 < 2 4, поэтому на 1 символ нужно выделить 4 бита в тексте 16 символов (считая пробелы) Решение: Ответ: 4·16 бит = 64 бита = 8 байт Если в алфавите 25 символов? ?

Объем сообщения, содержащего 1024 символов, составил 1/512 часть мегабайта. Какова мощность алфавита, с помощью которого записано сообщение? 25 объем сообщения в битах: 1024·1024·8 бит / 512 = 2 10 ·2 10 ·2 3 / 2 9 = 2 14 бит (= бит) на 1 символ приходится 2 14 / 1024 = 2 14 / 2 10 = 2 4 = 16 бит мощность алфавита 2 16 = символов Решение: Ответ: символов (кодировка UNICODE)

26 Скорость передачи данных через ADSL-соединение равна бит/c. Передача файла через это соединение заняла 2 минуты. Определите размер файла в килобайтах. время передачи: 2·60 сек=120 сек передано информации 256 ·1000·120 бит = 2 8 · 2 3 ·125 · 2 2 ·30 бит= Решение: Ответ: объем файла 3750 Кб 2 13 ·125·30 Кб 2 13