Чтобы посмотреть презентацию с картинками, оформлением и слайдами, скачайте ее файл и откройте в PowerPoint
на своем компьютере.
Текстовое содержимое слайдов презентации:
Измерение информации. Содержательный подход.Учитель информатики 1 категории Т.Ю. Хохлова
Я знаю, что ничего не знаю.СократПарадокс: Чем большим объёмом знаний обладает человек, тем больше он ощущает недостаток знаний.
Содержательный подходС «человеческой» точки зрения информация – это знания, которые мы получаем из внешнего мира. Количество информации, заключённое в сообщении, должно быть тем больше, чем больше оно пополняет наши знания.Как же с этой точки зрения определяется единица измерения информации? Бит
Проблема измерения информации исследована в теории информации, основатель которой Клод Шеннон.В теории информации дается следующее определение:Сообщение, уменьшающее неопределённость знания в два раза, несёт 1 бит информации.Что такое неопределённость знаний?
Равновероятные событияНеопределенность знаний о результате некоторого события – это количество возможных результатов.Причем ни один из этих результатов не имеет преимущества перед другим.То есть они равновероятны.Возможные событияПроизошедшее событие
В случае с монетой перед её подбрасыванием неопределенность знаний о результате равна двум.Игральный же кубик с шестью гранями может с равной вероятностью упасть на любую из них. Значит, неопределённость знаний о результате бросания равна шести. Следовательно, можно сказать так:Неопределённость знаний о результате некоторого события (бросание монеты или игрального кубика, вытаскивание жребия и т.д.) – это количество возможных результатов.Узнав результат бросания монеты, вы получили 1 бит информации.Сообщение об одном из двух равновероятных результатов некоторого события несёт 1 бит информации.
Задача №1Студент на экзамене может получить одну из четырёх оценок: «2», «3», «4», «5».На вопрос: «Ну, что получил?» - ответил: «Четвёрку!» Сколько битов информации содержится в его ответе? Будем отгадывать оценку, задавая вопросы, на которые можно ответить только «да» и «нет».Первый вопрос- Оценка выше «тройки»?Да. Остались 4 и 5. Вы получили 1 бит информации.Второй вопросОценка 5?Нет. Осталось 4. Вы получили еще 1 бит информации.Вывод: сообщение об одном из четырех равновероятных событий несет 2 бита информации.4
Задача №2На книжном стеллаже восемь полок. Книга поставлена на любую из них. Сколько информации содержит сообщение о том, где находится книга.
Метод половинного деленияМетод поиска, на каждом шаге которого отбрасывается половина вариантов, называется методом половинного деления.При угадывании отметки было задано два вопроса, каждый из которых уменьшил неопределённость ситуации в два раза, а всего возможных вариантов было четыре. 2×2=4, т.е. 22=4При угадывании расположения книги задано три вопроса, каждый из которых уменьшил неопределённость ситуации в 2 раза, а всего возможных вариантов было восемь. 2×2×2=8, т.е. 23=8Исходя из этого можно вывести формулу 2i=N, где i – количество информации в сообщении, N – количество вариантов (событий).Используем полученную формулу для определения количества информации при подбрасывании монеты: 21 = 2, i = 1 бит
Главная формула информатикиКоличество информации (i), содержащееся в сообщение об одном из равновероятных результатов некоторого события, определяется из решения показательного уравнения: 2i=NИли i = log2N, где i – количество информации, N – количество равновероятных событий (если значение N не равно степеням двойки).Ральф Винтон Лайон Хартли (1888-1970) внёс вклад в основания теории информации, введя в 1928 году логарифмическую меру информации.
ЗадачаЗанятия могут состоятся в одном из кабинетов, номера которых от 1 до 16. Сколько информации содержит сообщение учителя о том, что занятия будут проходить в кабинет №7?Дано:N = 16 вариантовНайти:i = ?1 способ:2i = N2i = 162i = 24i = 4 (бита)2 способ:1 вопрос: Номер кабинета меньше 9? – Да (1 бит)2 вопрос: Номер кабинета больше 4? – Да (1 бит)3 вопрос: Номер кабинета четный? – Нет (1 бит)4 вопрос: Номер кабинета 5? – Нет (1 бит)
Подведение итоговРавновероятные результаты: никакой результат не имеет преимущества перед другими.Неопределённость знаний – число возможных результатов ()вариантов сообщения) – N.Количество информации в сообщении об одном результате события – i битов.Главная формула информатики 2i=N1 бит – количество информации в сообщении об одном из двух равновероятных результатов некоторого события.
Домашнее заданиеПараграф 4, вопросы 4 и 5 письменно
Приложенные файлы
Ответить устно на вопросы:
- Что понимают под информацией?
- Что можно делать с информацией?
- Какие виды представления информации в компьютере вы знаете?
- Какие приемы кодирования сообщений применялись в древности?
- Что такое код и кодирование информации?
- Приведите примеры различных способов кодирования информации.
- Перечислите достоинства и недостатки кодирования, применяемого в компьютерах.
- Как называется кодировка для представления символов, вводимых с клавиатуры?
- Давайте подумаем, что может служить оценкой количества информации?
- Верно ли, что истрепанная
- книжка, если в ней нет
- вырванных страниц, несет для
- вас ровно столько же
- информации, сколько такая же
- новая?
- Давайте подумаем, что может служить оценкой количества информации?
- Каменная глыба весом в три тонны несет для археологов столько же информации, сколько ее хороший фотоснимок в археологическом журнале.
- Не так ли?
- Давайте подумаем, что может служить оценкой количества информации?
- Когда московская радиостудия передает последние известия, то одну и ту же информацию получает и подмосковный житель, и житель Новосибирска. Но поток энергии радиоволн в Новосибирске намного меньше, чем в Москве .
- Следовательно, мощность сигнала, также как и вес носителя, никак не могут служить оценкой количества информации, переносимой сигналом.
- А как же тогда измерить количество информации?
- Различные подходы к определению и измерению информации
- Содержательный
- (вероятностный) подход:
- Количество информации как мера уменьшения неопределенности
- знаний
- Просмотр ролика
- Пусть у нас
- имеется монета,
- которую мы
- бросаем на ровную
- поверхность.
- Возможные события
- Произошедшее событие
- С равной вероятностью произойдет одно из
- двух возможных событий – монета
- окажется в одном из двух положений:
- «орёл» или «решка».
- События равновероятны, если при возрастающем числе опытов количества выпадений «орла» и «решки» постепенно сближаются.
- Перед броском существует неопределённость нашего знания (возможны два события ), а после броска наступает полная определённость.
- Неопределённость нашего знания уменьшается в два раза, так как из двух возможных равновероятностных событий реализовалось одно.
- При бросании равносторонней четырехгранной пирамиды существуют 4 равновероятных события.
- При бросании шестигранного игрального кубика существует
- 6 равновероятных событий.
- Сообщение, уменьшающее неопределённость знания в два раза,
- несёт 1 бит информации.
- Бит – минимальная единица измерения информации.
- 1 байт = 23 битов = 8 битов
- 1 Кбайт = 210 байт = 1024 байт
- 1 Мбайт = 210 Кбайт = 1024 Кбайт
- 1 Гбайт = 210 Мбайт = 1024 Мбайт
- гбайт
- кбайт
- мбайт
- Тбайт
- :1024
- :1024
- :1024
- :1024
- *1024
- *1024
- *1024
- *1024
- Количество i информации, содержащееся в сообщении о том, что произошло одно из N равновероятностных событий, определяется из решения показательного уравнения
- 2i = N
- Задача: В рулетке общее количество лунок равно 128. Какое количество информации мы получим в зрительном сообщении об остановке шарика в одной из лунок.
- N = 128
- i - ?
- Дано:
- Решение:
- 2i = N
- 2i = 128
- 27 = 128
- i = 7 бит
- Ответ: i = 7 бит
- Количество возможных событий и количество информации
- Задача:
- В коробке 32 карандаша, все карандаши разного цвета. Наугад вытащили красный. Какое количество информации при этом было получено?
- Решение.
- Так как вытаскивание карандаша любого цвета из имеющихся в коробке 32 карандашей является равновероятным, то число возможных событий равно 32.
- N = 32, i = ?
- N = 2i, 32 = 25, i = 5 бит.
- Ответ: 5 бит.
- В книге 512 страниц. Сколько информации несет сообщение о том, что закладка лежит на какой-либо странице?
- Решение задач в тетради
- Сколько информации содержит сообщение о том, что на поле 4х4 клетки одна из клеток закрашена?
- Решение задач в тетради
- Сколько информации содержит сообщение о выпадении грани с числом 3 на шестигранном игральном кубике?
- Решение задач в тетради
- Каков смысл содержательного подхода к измерению информации?
- Какая формула была изучена?
- Назовите в порядке возрастания, какие единицы измерения информации вам известны.
- Как взаимосвязаны между собой единицы измерения информации?
- Закрепление материала
- 1. Вы подошли к светофору, когда горел красный свет. После этого загорелся желтый. Какое количество информации Вы при этом получили?
- Решите устно
- 2. Вы подошли к светофору, когда горел желтый свет. После этого загорелся зеленый. Какое количество информации Вы при этом получили?
- Решите устно
- 3. "Вы выходите на следующей остановке?" - спросили человека в автобусе. "Нет", - ответил он. Сколько информации содержит ответ?
- Решите устно
- 4. Какое количество информации несет в себе сообщение о том, что нужная Вам программа находится на одной из восьми дискет?
- Решите устно
- 1. Проанализировать записи в тетради.
- 2. Решить 2 индивидуальные задачи на карточках.
Описание презентации по отдельным слайдам:
1 слайд
Описание слайда:
2
слайд
Описание слайда:
3
слайд
Описание слайда:
Неопределенность знания и количество информации Другой подход к измерению информации называют содержательным подходом. В этом случае количество информации связывается с содержанием (смыслом) полученного человеком сообщения. Вспомним, что с «человеческой» точки зрения информация - это знания, которые мы получаем из внешнего мира. Количество информации, заключенное в сообщении, должно быть тем больше, чем больше оно пополняет наши знания. Как же с этой точки зрения определяется единица измерения информации? Вы уже знаете, что эта единица называется битом. Проблема измерения информации исследована в теории информации, основатель которой - Клод Шеннон. В теории информации для бита дается следующее определение:
4
слайд
Описание слайда:
СОДЕРЖАТЕЛЬНЫЙ ПОДХОД К ИЗМЕРЕНИЮ ИНФОРМАЦИИ Сообщение о том, что произошло одно событие из двух равновероятных (неопределенность знания уменьшилась в два раза), несет 1 бит информации. 8 цветных шаров в корзине – 8 равновероятных событий Неопределенность знания о том, что из корзины может быть извлечен шар красного цвета, равна 8. Более строгое определение равновероятности: если увеличивать количество бросаний монеты (100, 1000, 10000 и т. д.), то число выпадений орла и число выпадений решки будут все ближе к половине количества бросаний монеты. Следовательно, можно сказать так: Неопределенность знания о результате некоторого события (бросание монеты или игрального кубика, вытаскивание жребия и др.) - это количество возможных результатов.
5
слайд
Описание слайда:
На книжном стеллаже восемь полок. Книга может быть поставлена на любую из них. Сколько информации содержит сообщение о том, где находится книга? Задаем вопросы: - Книга лежит выше четвертой полки? - Нет. - Книга лежит ниже третьей полки? - Да. - Книга - на второй полке? - Нет. - Ну теперь все ясно! Книга лежит на первой полке! Каждый ответ уменьшал неопределенность в два раза. Всего было задано три вопроса. Значит, набрано 3 бита информации. И если бы сразу было сказано, что книга лежит на первой полке, то этим сообщением были бы переданы те же 3 бита информации.
6
слайд
Описание слайда:
МЕТОД БИНАРНОГО ПОИСКА Требуется угадать задуманное число из диапазона чисел от 1 до 8 8 вариантов возможных событий 3 вопроса 3 бита информации А какую оценку получил Ваш друг на экзамене? Четыре равновероятных события. 1 2 3 4 5 6 7 8 5 6 7 8 5 6 Игра, использующая метод бинарного поиска Правила игры:Требуется угадать задуманное число из данного диапазона целых чисел. Игрок, отгадывающий число, задает вопросы, на которые можно ответить только «да» или «нет». Если каждый ответ отсекает половину вариантов (уменьшает выбор в 2 раза), то он несет1 битинформации. Тогда общее количество информации(в битах), полученной при угадывании числа, равно количеству заданных вопросов. № вопроса Вопросы да нет 1 Число меньше 5 ? 2 Число меньше 7 ? 3 Это число равно 5 ?
7
слайд
Описание слайда:
А сейчас попробуем получить формулу, по которой вычисляется количество информации, содержащейся в сообщении о том, что имел место один из множества равновероятных результатов некоторого события. Обозначим буквой N количество возможных результатов события, или, как мы это еще называли, - неопределенность знания. Буквой i будем обозначать количество информации в сообщении об одном из N результатов. В примере с монетой: N = 2, i = 1 бит. В примере с оценками: N = 4, i = 2 бита. В примере со стеллажом: N = 8, i = 3 бита. Нетрудно заметить, что связь между этими величинами выражается следующей формулой: 2i = N. Действительно: 21 = 2 ; 22 = 4 ; 23 = 8.
8
слайд
Описание слайда:
С полученной формулой мы уже знакомы из базового курса информатики, и еще не однажды мы с ней встретимся. Значение этой формулы столь велико, что мы назвали ее главной формулой информатики. Если величина N известна, a i неизвестно, то данная формула становится уравнением для определения i. В математике оно называется показательным уравнением. Пусть на стеллаже не 8, а 16 полок. Чтобы ответить на вопрос, сколько информации содержится в сообщении о месте нахождения книги, нужно решить уравнение: 2i = N. Поскольку 16 = 2 , то i = 4 бита. Количество информации (i), содержащееся в сообщении об одном из N равновероятных результатов некоторого событий, определяется из решения показательного уравнения: 2i = N. Если значение N равно целой степени двойки (4, 8, 16, 32, 64 и т. д.), то показательное уравнение легко решить в уме, поскольку i будет целым числом. А чему, например, равно количество информации в сообщении о результате бросания игральной кости, у которой имеется шесть граней и, следовательно, N = 6? Можно догадаться, что решение уравнения 2i = 6. будет дробным числом, лежащим между 2 и 3, поскольку 22 = 4 < 6, а 2 = 8 > 6. А как точнее узнать это число?
9
слайд
Описание слайда:
ПОКАЗАТЕЛЬНОЕ УРАВНЕНИЕ N i Определение количества информации, содержащейся в сообщении о том, что произошло одно из N равновероятных событий N i Определение количества равновероятных событий N, если известно, сколько информации человек получил в сообщении о том, что произошло одно из этих событий. 2 i = N N i N i N i N i 1 0.00000 17 4.08746 33 5.04439 49 5.61471 2 1.00000 18 4.16993 34 5.08746 50 5.64386 3 1.58496 19 4.24793 35 5.12928 51 5.67243 4 2.00000 20 4.32193 36 5.16993 52 5.70044 5 2.32193 21 4.39232 37 5.20945 53 5.72792 6 2.58496 22 4.45943 38 5.24793 54 5.75489 7 2.80735 23 4.52356 39 5.28540 55 5.78136 8 3.00000 24 4.58496 40 5.32193 56 5.80735 9 3.16993 25 4.64386 41 5.35755 57 5.83289 10 3.32193 26 4.70044 42 5.39232 58 5.85798 11 3.45943 27 4.75489 43 5.42626 59 5.88264 12 3.58496 28 4.80735 44 5.45943 60 5.90689 13 3.70044 29 4.85798 45 5.49185 61 5.93074 14 3.80735 30 4.90689 46 5.52356 62 5.95420 15 3.90689 31 4.95420 47 5.55459 63 5.97728 16 4.00000 32 5.00000 48 5.58496 64 6.00000
3 Содержательный подход к измерению информации Для человека информация это знания человека. Рассмотрим вопрос с этой точки зрения. Получение новой информации приводит к расширению знаний. Если некоторое сообщение приводит к уменьшению неопределенности нашего знания, то можно говорить, что такое сообщение содержит информацию. Отсюда следует вывод, что сообщение информативно (т.е. содержит ненулевую информацию), если оно пополняет знания человека. Например, прогноз погоды на завтра информативное сообщение, а сообщение о вчерашней погоде неинформативно, т.к. нам это уже известно. Нетрудно понять, что информативность одного и того же сообщения может быть разной для разных людей. Например: «2x2=4» информативно для первоклассника, изучающего таблицу умножения, и неинформативно для старшеклассника.
4 Информативность сообщения Но для того чтобы сообщение было информативно оно должно еще быть понятно. Быть понятным, значит быть логически связанным с предыдущими знаниями человека. Определение « значение определенного интеграла равно разности значений первообразной подынтегральной функции на верх нем и на нижнем пределах », скорее всего, не пополнит знания и старшеклассника, т.к. оно ему не понятно. Для того, чтобы понять данное определение, нужно закончить изучение элементарной математики и знать начала высшей. Получение всяких знаний должно идти от простого к сложному. И тогда каждое новое сообщение будет в то же время понятным, а значит, будет нести информацию для человека. Сообщение несет информацию для человека, если содержащиеся в нем сведения являются для него новыми и понятными.
5 Единица измерения информации Очевидно, различать лишь две ситуации: «нет информации» «есть информация» для измерения информации недостаточно. Нужна единица измерения, тогда мы сможем определять, в каком сообщении информации больше, в каком меньше. Единица измерения информации была определена в науке, которая называется теорией информации. Эта единица носит название «бит». Ее определение звучит так: Сообщение, уменьшающее неопределенность знаний в два раза, несет 1 бит информации. Неопределенность знаний о некотором событии это количество возможных результатов события.
6 Пример: После сдачи зачета или выполнения контрольной работы ученик мучается неопределенностью, он не знает, какую оценку получил. «Зачет», «незачет»? «2», «3», «4» или «5»? Наконец, учитель объявляет результаты, и он получаете одно из двух информационных сообщений: «зачет» или «незачет», а после контрольной работы одно из четырех информационных сообщений: «2», «3», «4» или «5». Информационное сообщение об оценке за зачет приводит к уменьшению неопределенности знания в два раза, так как получено одно из двух возможных информационных сообщений. Информационное сообщение об оценке за контрольную работу приводит к уменьшению неопределенности знания в четыре раза, так как получено одно из четырех возможных информационных сообщений.
7 Пример: На книжном стеллаже восемь полок. Книга может быть поставлена на любую из них. Сколько информации содержит сообщение о том, где находится книга? Задаем вопросы: - Книга лежит выше четвертой полки? - Нет. - Книга лежит ниже третьей полки? - Да. - Книга на второй полке? - Нет. - Ну теперь все ясно! Книга лежит на первой полке! Каждый ответ уменьшал неопределенность в два раза. Всего было задано три вопроса. Значит набрано 3 бита информации. И если бы сразу было сказано, что книга лежит на первой полке, то этим сообщением были бы переданы те же 3 бита информации.
8 Формула вычисления кол-ва информации Если обозначить возможное количество событий, или, другими словами, неопределенность знаний N, а буквой I количество информации в сообщении о том, что произошло одно из N событий, то можно записать формулу: 2 I = N Количество информации, содержащееся в сообщении о том, что произошло одно из N равновероятных событий, определяется из решения показательного уравнения: 2 I = N.
10 Задание 1: Сколько информации содержит сообщение о том, что из колоды карт достали король пик? Решение: В колоде 32 карты. В перемешенной колоде выпадение любой карты равновероятное событие. N = 32. I - ? 2 I = N 2 I = = 32 I = 5 бит
12
12 Задание 2: Сколько информации содержит сообщение о выпадении грани с числом 3 на шестигранном игральном кубике? Решение: N = 6. I - ? 2 I = N 2 I =
