Информация и измерение информации

Информационные процессы, алфавитный и содержательный подходы, формула Хартли, единицы измерения информации. 100 заданий на отработку.

Простыми словами

Чтобы угадать задуманное число от 1 до 8, достаточно трёх вопросов «да/нет»: каждый ответ вдвое сужает выбор. Один такой ответ несёт 1 бит информации — это и есть единица её измерения.

Информационные процессы — это хранение, передача и обработка информации. Передача всегда идёт по одной схеме:

Помехи искажают сообщение — поэтому применяют помехоустойчивое кодирование

Свойства информации: объективность, достоверность, полнота, актуальность, полезность, понятность.

Понятие	Смысл
достоверность	информация отражает истинное положение дел
актуальность	информация важна именно в данный момент времени
полнота / понятность	содержит все нужные сведения / выражена понятным получателю языком
носитель информации	материальный объект, хранящий сведения (бумага, диск, флеш-память)
кодирующее устройство	преобразует сообщение к виду, пригодному для передачи по каналу связи; на приёме декодирующее — обратно
дискретный сигнал	величина принимает конечное число значений; аналоговый (непрерывный) — любые значения в диапазоне

Алфавитный подход

Мощность алфавита $N$ — число различных символов. Все символы кодируются одинаковым числом бит $i$ (вес символа):

N = 2^{i}, I = K \cdot i

N

— мощность алфавита,

i

— бит на символ,

K

— число символов,

I

— объём сообщения в битах

$N$	2	4	8	16	32	64	128	256
$i$ , бит	1	2	3	4	5	6	7	8

Если $N$ — не степень двойки, $i$ округляют вверх: наименьшее $i$ , при котором $2^{i} \geq N$ . Для $N = 5$ нужно 3 бита: $2^{2} = 4 < 5 \leq 8 = 2^{3}$ .

Объём. $N = 16$ , $K = 96$ : $i = 4$ , $I = 96 \cdot 4 = 384$ бит $= 384 : 8 = 48$ байт.
Мощность. $I = 576$ бит, $K = 192$ : $i = 576 : 192 = 3$ , $N = 2^{3} = 8$ .
Длина. $N = 64$ , $I = 1536$ бит: $i = 6$ , $K = 1536 : 6 = 256$ символов.

В библиотеке 722 книги. Сколько бит нужно на номер? $2^{9} = 512 < 722 \leq 1024 = 2^{10}$ — 10 бит.

Чтобы сравнить объёмы сообщений в разных алфавитах, для каждого найдите $i$ по $N$ и посчитайте $K \cdot i$ . Длиннее — не значит больше: 100 символов из 256-символьного алфавита ( $800$ бит) «тяжелее» 300 символов из 4-символьного ( $600$ бит).

Содержательный подход: формула Хартли

Сообщение о том, что произошло одно из $N$ равновероятных событий, несёт

i = lo g_{2} N ⟺ N = 2^{i}

формула Хартли:

i

— количество информации в битах,

N

— число равновероятных исходов

Один бит — сообщение, уменьшающее неопределённость ровно в 2 раза. Если неопределённость уменьшилась в 8 раз, получено 3 бита: $8 = 2^{3}$ .

Из 8 пронумерованных карточек вынули одну: $i = lo g_{2} 8 = 3$ бита. Победитель турнира из 4 равных участников: $lo g_{2} 4 = 2$ бита.

Единицы измерения

Единица	Равна
1 байт	8 бит $= 2^{3}$ бит
1 Кбайт	1024 байта $= 2^{10}$ байт $= 2^{13}$ бит
1 Мбайт	1024 Кбайт $= 2^{20}$ байт
1 Гбайт	1024 Мбайт $= 2^{30}$ байт

$8$ Кбайт $= 8 \cdot 1024 \cdot 8 = 2^{3} \cdot 2^{10} \cdot 2^{3} = 2^{16} = 65536$ бит.

В школьном курсе и в задачах ЕГЭ приставки «кило-», «мега-», «гига-» перед байтом и битом означают умножение на 1024, если не сказано иначе. По стандарту СИ 1 kB = 1000 байт, а 1024 байта обозначают отдельно — 1 KiB (кибибайт); так считают производители дисков и скорость сетей.

Переводите в степени двойки: $1024 = 2^{10}$ , $8 = 2^{3}$ . Тогда умножение и деление превращаются в сложение и вычитание показателей.

Примеры заданий

Это несколько заданий из тренажёра, остальные — в тренажёре в начале страницы.

к информационным процессам относят

только передачу информации
хранение, передачу и обработку информации
только измерение информации
только защиту информации

Показать ответ

Ответ: хранение, передачу и обработку информации
Решение. Три базовых информационных процесса — хранение, передача и обработка информации.

устройство, преобразующее сообщение к виду, пригодному для передачи по каналу связи, называется

источником
кодирующим устройством
помехой
приёмником

Показать ответ

Ответ: кодирующим устройством
Решение. В схеме передачи информации после источника стоит кодирующее устройство, перед приёмником — декодирующее.

минимальная единица измерения количества информации — это

байт
Кбайт
символ
бит

Показать ответ

Ответ: бит
Решение. Бит — количество информации в сообщении, уменьшающем неопределённость ровно вдвое.

свойство информации «актуальность» означает, что информация

выражена понятным языком
получена из надёжного источника
содержит все нужные сведения
важна именно в данный момент времени

Показать ответ

Ответ: важна именно в данный момент времени
Решение. Актуальность — соответствие информации текущему моменту; полнота, достоверность и понятность — другие свойства.

свойство информации «достоверность» означает, что информация

выражена понятным языком
отражает истинное положение дел
поступила вовремя
занимает мало места

Показать ответ

Ответ: отражает истинное положение дел
Решение. Достоверная информация не искажает действительность.

сигнал, при котором величина принимает конечное число значений, называется

дискретным
аналоговым
непрерывным
шумовым

Показать ответ

Ответ: дискретным
Решение. Дискретный сигнал принимает конечное число значений; непрерывный (аналоговый) — бесконечное.

процесс представления информации в виде, удобном для хранения и передачи, называется

дискретизацией
декодированием
кодированием
архивацией

Показать ответ

Ответ: кодированием
Решение. Кодирование — переход к другой форме представления; обратный процесс называется декодированием.

Три сообщения записаны разными алфавитами. Какое из них имеет наибольший информационный объём?

Сообщение	Мощность алфавита N	Число символов K
первое	128	50
второе	16	200
третье	64	120

Первое
Третье
Второе

Показать ответ

Ответ: Второе
Решение. первое: i = 7, I = 50·7 = 350 бит; второе: i = 4, I = 200·4 = 800 бит; третье: i = 6, I = 120·6 = 720 бит. Наибольший объём у второе сообщения.