«Кто владеет информацией, тот владеет миром!» Э.Тайлеран

Теоретическое и практическое освоение нетрадиционного вопроса теории вероятностей Применение полученных знаний для разработки тематического модуля по решению задач с помощью энтропии и информации ЦЕЛЬ:

Элементы теории информации Энтропия как мера степени неопределенности Энтропия как мера степени неопределенности Условная энтропия Условная энтропия Свойства энтропии Свойства энтропии Понятие об информации Понятие об информации Свойства количества информации Свойства количества информации

ЭНТРОПИЯ Где вероятности равновозможных исходов. Он же предложил назвать эту величину энтропией К. Шеннон

КОЛИЧЕСТВО ИНФОРМАЦИИ Количество информации I(α,β) показывает, насколько осуществление опыта α уменьшает неопределенность β т.е. как много нового узнаем мы об исходе опыта β, произведя измерение (наблюдение) α; Информацию можно измерить числом, которое называется количеством информации об опыте β, содержащемся в опыте α I(α,β)=H(β) – H(β/α)

Где же правда?(задачи о лжецах) Где же правда?(задачи о лжецах) Задачи на взвешивание Задачи на взвешивание Угадывание задуманного Угадывание задуманного Решение логических задач с помощью подсчета информации

ТЕОРИЯ ИНФОРМАЦИИ Человечество Всегда пользовалось информацией, но только в середине XX в. информационные процессы стали предметом научных исследований. Совокупность наук об информационных процессах называют информатикой. Одна из них – наука об измерении и передаче информации – называется теорией информации.

ЗАДАЧИ НА ВЗВЕШИВАНИЕ Задача: Имеется 12 монет одного достоинства, одна из которых фальшивая, отличающаяся от других по весу (причем неизвестно, легче она или тяжелее настоящих). Каково наименьшее число взвешиваний на чашечных весах без гирь, которое позволяет обнаружить фальшивую монету?

Решение: т.е. определение фальшивой монеты связано с получением информации, измеряющейся числом log24 или k*log3log24 Отсюда и,т.к. k – целое число, то k3

M 1 M 2 M 3 M 4 M 5 M 6 M 7 M 8 M 9 M 10 M 11 M 12 = M 3 M 4 M 6 M 1 M 2 M 5 М1М1 М3М3 М7М7 М5М5 М8М8 М3М3 М4М4 М 11 М 10 М6М6 М 12 М9М9 М 10 М 11 М9М9 М 12 Аналогично 1-му = M1 M2M1 M2 M7 M8M7 M8 M3 M4M3 M4 = = M 1 M 2 M 3 M 9 M 10 M 11 = M 9 M 10 = M 1 M 12 M 9 M 10 =