Информационный канал
Канал информационный — это совокупность устройств, объединенных линиями связи, предназначенных для передачи информации от источника информации (начального устройства канала) до ее приемника (конечного устройства канала).
Линии связи обеспечивают прохождение информационных сигналов между устройствами канала. Информация обычно передается при помощи электрического тока (по проводам), света (по оптоволокну), электромагнитных волн радиодиапазона (в пространстве) и, редко, звука (в плотной среде: атмосфере, воде и т.п.) и прочих.
Устройства канала — это, как правило, репитеры, просто передающие усиленным принятый сигнал (пример, радиорелейные линии).
К устройствам канала иногда относят и кодеры/декодеры, но в только тех случаях, когда кодирование/декодирование происходит с высокой скоростью, не требующей ее специального учета, как замедляющего фактора; обычно же кодеры/декодеры относят к источникам или приемникам информации.
Технические характеристики канала определяются принципом действия входящих в него устройств, видом сигнала, свойствами и составом физической среды, в которой распространяются сигналы, свойствами применяемого кода.
Эффективность канала характеризуется скоростью и достоверностью передачи информации, надежностью работы устройств и задержкой сигнала во времени.
Задержка сигнала во времени — это интервал времени от отправки сигнала передатчиком до его приема приемником. Математически канал задается множеством допустимых сообщений на входе, множеством допустимых сообщений на выходе и набором условных вероятностей P(y/x) получения сигнала y на выходе при входном сигнале x. Условные вероятности описывают статистические
свойства “шумов” (или помех), искажающих сигнал в процессе передачи. В случае, когда P(y/x) = 1 при y = x и P(y/x) = 0 при y ≠ x, канал называется каналом без “шумов”. В соответствии со структурой входных и выходных сигналов выделяют дискретные и непрерывные каналы. В дискретных каналах сигналы на входе и выходе представляют собой последовательность символов одного или двух (по одному для входа и выхода) алфавитов. В непрерывных каналах входной и выходной сигналы представляют собой функции от непрерывного параметра-времени. Бывают также смешанные или гибридные каналы, но тогда обычно рассматривают их дискретные и непрерывные компоненты раздельно. Далее рассматриваются только дискретные каналы.
Способность канала передавать информацию характеризуется числом — пропускной способностью или емкостью канала (обозначение — C).
Для случая канала без шума формула расчета емкости канала имеет вид
где N(T) — число всех возможных сигналов за время T.
Пример. Пусть алфавит канала без “шумов” состоит из двух символов — 0 и 1, длительность τ секунд каждый. За время T успеет пройти n = T/τ сигналов, всего возможны 2n различных сообщений длиной n.
В этом случае 
рис. 7 Схема, на которой изображен процесс прохождения информации по каналу с описанными в примере характеристиками.
Здесь для кодирования используется уровень сигнала: низкий для 0 и высокий для 1. Недостатки этого способа проявляются в случаях, когда нужно передавать много сплошных нулей или единиц. Малейшее рассогласование синхронизации между приемником и передатчиком приводит тогда к неисправимым ошибкам. Кроме того, многие носители информации, в частности, магнитные, не могут поддерживать длительный постоянный уровень сигнала.
Для передачи информации используется обычно другой способ, когда для представления 0 и 1 используются две разные частоты, отличающиеся друг от друга ровно в два раза (см. рис. 8) — это так
называемая частотная модуляция (ЧМ или FM).
Рис. 8
Таким образом, при таком кодировании, если сигнал 1 имеет длительность τ , то 0 — 2τ .
Рассчитаем емкость этого канала. Нужно рассчитать N(T). Пусть n = T/τ, тогда получается, что нужно рассчитать сколькими способами можно разбить отрезок длины n отрезками длины 2 и 1. Получаем,
что N(T) = Sn = Cnn + Cn−2 n-1 + Cn−4 n−2 + · · ·, где первое слагаемое — это количество способов, которыми можно разбить отрезок длины n n отрезками длины 1, второе слагаемое — это количество способов, которыми можно разбить отрезок длины n (n − 2) отрезками длины 1 и одним отрезком длины 2, третье слагаемое — это количество способов, которыми можно разбить отрезок длины n (n − 4) отрезками длины 1 и двумя отрезками длины 2 и т.д. Таким образом, S1 = 1. Вследствие того, что Ckm + Ck+1 m = Ck+1 m+1 для любых k < m, получается, что
,
т. е. Sn+1 = Sn + Sn−1 при n > 1. Если положить, что S0 = 1, то S0, S1, . . . — это последовательность 1, 1, 2, 3, 5, 8, 13, 21, 34, . . ., т.е. числа Фибоначчи. C XIX века для вычисления n-го члена последовательности Фибоначчи известна формула
Таким образом, 
бод.
При использовании частотной модуляции на практике нули, как правило, кодируются в два раза плотнее. Это достигается тем, что учитываются не уровни сигнала, а смена уровня (полярности). Если частота ν соответствует 1, то с частотой 2ν производится проверка уровня сигнала. Если он меняется, то это сигнал 1, если нет, то — 0.
На практике частота ν — это частота синхронизации, т.е. частота импульса, который независимо от данных меняет полярность сигнала. 0 не генерирует импульса смены полярности, а 1 генерирует (см. рис. 9).
рис.9
Для записи информации на первые магнитные диски и ленты использовался метод FM. На гибкие диски 5.25” и 3.5” информация записывается методом MFM (Modified FM) — модификацией метода FM, позволяющей в 2 раза повысить плотность записи. Это достигается тем, что частота синхронизации увеличивается вдвое. MFM можно использовать с теми же физическими каналами, что и FM, потому что импульсы синхронизации не передаются перед 1 и первым 0 в серии нулей (см. рис. 10).
Рис. 10
Метод записи с групповым кодированием, RLL — Run Limited Length, не использует импульсы синхронизации, применяется, в частности, в жестких дисках “винчестер” и существует в нескольких разновидностях. Одна из них основана на замене тетрад байта на 5-битные группы. Эти группы подбираются таким образом, чтобы при передаче данных нули не встречались подряд более двух раз, что делает код самосинхронизирующимся.
Например, тетрада 0000 заменяется группой бит 11001, тетрада 1000 — 11010, тетрада 0001 — 11011, тетрада 1111 —01111 (см. рис. 11). Существуют разновидности RLL, в которых заменяются последовательности бит различной длины. Кодирование MFM или FM можно представить как частный случай RLL.
Рис. 11
При необходимости передачи записанных с помощью некоторого кода сообщений по данному каналу приходиться преобразовывать эти сообщения в допустимые сигналы канала, т. е. производить надлежащее кодирование, а при приеме данных — декодирование. Кодирование целесообразно производить так, чтобы среднее время, затрачиваемое на передачу, было как можно меньше. Получается, что исходному входному алфавиту нужно однозначно сопоставить новый алфавит, обеспечивающий большую скорость передачи.
Следующий, основной факт теории передачи информации или основная теорема о кодировании при наличии помех позволяет при знании емкости канала и энтропии передатчика вычислить максимальную скорость передачи данных в канале.
Теорема Шеннона. Пусть источник характеризуется д.с.в. X. Рассматривается канал с шумом, т.е. для каждого передаваемого сообщения задана вероятность ε его искажения в процессе передачи (вероятность ошибки). Тогда существует такая скорость передачи u, зависящая только от X, что ∀ε > 0 ∃u' < u сколь угодно близкая к u такая, что существует способ передавать значения X со скоростью u' и с вероятностью ошибки меньшей ε, причем
Упомянутый способ образует помехоустойчивый код.
Кроме того, Фэно доказана следующая обратная теорема о кодировании при наличии помех. Для u' > u можно найти такое положительное число ", что в случае передачи информации по линии связи со скоростью u0 вероятность ошибки " передачи каждого символа сообщения при любом методе кодирования и декодирования будет не меньше ε (ε очевидно растет вслед за ростом u0).