Человек, никогда не совершавший ошибок, никогда не пробовал ничего нового.
А. Эйнштейн

Задачи на определение количества информации

Равновероятностные события (формула Хартли)

  • Сообщение, записанное символами 64-символьного алфавита, содержит 30 символов. Какой объём информации оно несёт?
  • Жители планеты Принтер использует 256 символьный алфавит, а жители планеты Плоттер - 128. Для жителей какой планеты сообщение из 10 знаков несёт больше информации и на сколько?
  • В велокроссе участвуют 119 спортсменов. Специальное устройство регистрирует прохождение каждым участником промежуточного финиша, записывая его номер с использованием минимально возможного количества бит, одинакового для каждого спортсмена. Каков информационный объём сообщения, записанного устройством, после того как промежуточный финиш прошли 70 велосипедистов?
  • Словарный запас некоторого языка составляет 256 слов, каждое из которых состоит точно из 4 букв. Сколько букв в алфавите?
  • Сколько информации несёт сообщение о том, что было угадано число в диапазоне целых чисел от 684 до 811?
  • В некоторой стране автомобильный номер длиной 7 символов составляется из заглавных букв (26 символов) и десятичных цифр в любом порядке. Каждый символ кодируется одинаковым  и минимально возможным количеством бит, а каждый номер  - одинаковым и минимально возможным количеством байт. Определите объём памяти, необходимый для хранения 20 автомобильных номеров.

Неравновероятностные события (формула Шеннона)

  • Бабушка испекла 8 пирожков с капустой, 24 пирожков с повидлом. Маша съела один пирожок. Вычислить вероятность выбора пирожка с разной начинкой и количество информации, которое при этом было получено.
  • В корзине лежат 32 клубка красной и черной шерсти. Среди них 4 клубка красной шерсти. Сколько информации несет сообщение, что достали клубок красной шерсти? Сколько информации несет сообщение, что достали клубок шерсти любой окраски?
  • В озере обитает 12500 окуней, 25000 пескарей, а карасей и щук по 6250. Какое количество информации несет сообщение о ловле рыбы каждого вида. Сколько информации мы получим, когда поймаем какую-нибудь рыбу?
  • В классе 30 человек. За контрольную работу по информатике получено 15 пятерок, 6 четверок, 8 троек и 1 двойка. Какое количество информации несет сообщение о том, что Андреев получил пятерку?
  •  коробке лежат кубики: 10 красных, 8 зеленых, 5 желтых, 12 синих. Вычислите вероятность доставания кубика каждого цвета и количество информации, которое при этом будет получено.
  • В непрозрачном мешочке хранятся 10 белых, 20 красных, 30 синих и 40 зеленых шариков. Какое количество информации будет содержать зрительное сообщение о цвете вынутого шарика?
  • В корзине лежат белые и черные шары. Среди них 18 черных шаров. Сообщение о том, что из корзины достали белый шар, несет 2 бита информации. Сколько всего в корзине шаров?
  • На остановке останавливаются троллейбусы с разными номерами. Сообщение о том, что к остановке подошел троллейбус с номером N1, несет 4 бита информации. Вероятность появления на остановке троллейбуса с номером N2 в два раза меньше, чем вероятность появления троллейбуса с номером N1. Сколько информации несет сообщение о появлении на остановке троллейбуса с номером N2?