70 лет информационной эпохе К.Шеннона

Шеннон,_Клод


1948 г. ~ 8 дБ до достижения «границы Шеннона» для КИМ

Л.1. Работы по теории информации и кибернетике (1963) — Шеннон

Л.2. Shannon C., Communication in the presence of noise, PIRE, 37, I (1949),10

Основные положения теории связи К.Шеннона
(по материалам главы 8, Л.1.,с.451,452).

Идеальной системой передачи (преобразования — примеч.автора) информации является система обеспечивающая ее передачу без ошибок со скоростью С.
Такая система не может быть осуществлена ни при каком конечном процессе кодирования, но к ней можно приблизиться настолько, насколько это желательно.о мере приближения к идеалу происходит следующее:
1) Скорость передачи двоичных чисел приближается к C=WLog(1+P/N).
2) Частота ошибок приближается к нулю.
3) Передаваемый сигнал по своим статистическим свойствам приближается к белому шуму….
4) Пороговый эффект становится очень острым….
5) Требуемые задержки в передатчике и приемнике неограниченно возрастают….

«Аксиомы одной эпохи — нерешенные задачи
следующей» Тони Р.Х.

Об аксиомах теории связи К.Шеннона.

Любая научная теория создается на основе аксиоматических моделей, являющихся последовательными приближениями к описанию Природы.Совокупность таких непротиворечивых друг другу моделей составляет аксиоматическую базу конкретной теории.Не является исключением из этого положения и теория связи К.Шеннона.Развитие теории заключается в замене (изменении) исходных аксиом и (или) в уменьшении их числа.Любые аксиомы исторически ошибочны, что является следствием теоремы Геделя о неполноте (существование утверждений, недоказуемых логически).В пределах предпосылок моделей научные знания, когда они применяются в этих границах, являются абсолютной истиной, за пределами этих границ они ошибочны.Поэтому в науке существуют ошибки, которые как при своем возникновении, так и при дальнейшем развитии науки были, есть и останутся только ошибками.Их ошибочность является абсолютной истиной потому, что относится к областям применимости проверенных моделей.Последнии два утверждения находятся в полном согласии с теорией фальсифицируемости (опровергаемости) научных теорий К.Поппера.Различные модели (утверждения) становятся аксиомами, в тех или иных теориях, по различным критериям, в частности, как уже доказанные в других теориях, вновь введенные в данной теории в силу удобства применения или очевидности и другим критериям.Понятно что, аксиомы, введенные в базу по критерию очевидности, являются исторически первыми кандидатами на удаление, замену или изменение, то есть представляют собой, в рамках теории фальсифицируемости, потенциальный фальсификатор данной научной теории.
Основополагающей аксиомой математической теории информации
К.Шеннона (во всяком случае для технической информации в виде данных, сообщений и т.п.)является определение информации, как меры устраненной чего — либо неопределенности (негэнтропии), что является неопровержимым утверждением при использовании доказательства от противного.
Материализуя информацию для целей ее преобразования (передачи), путем отображения информации на физический носитель, Шеннон переносит на него энтропийные свойства,закладывая таким образом функциональную связь между информацией и энергией (мощностью), в последние годы подтвержденную экспериментально.Перенос энтропийных свойств собственно информации на энтропийно — энергетические свойства ее материального носителя является, хотя и не артикулированной, но важной второй аксиомой теории связи К.Шеннона.
Отметим, что обращение к энтропийному описанию процессов преобразования информации не является обязательным и единственным, возможны геометрический подход, методы статистических решений и др.
В нашу задачу не входит полный анализ аксиоматической базы теории связи К.Шеннона, тем более, что уже на втором шаге мы добрались до «ахиллесовой пяты» теории — ее потенциального фальсификатора, представляющего собой функциональную связь между информацией и энергией.Остановимся на этом более подробно.
Преобразуя формулу Шеннона для пропускной способности (см.выше), в случае использования дискретных (энергетических, вместо мощностных, в случае непрерывных) сигналов имеем (символ «B» заменяем на «W»)

R=WLog[1+(EoR/NoW)],

где R — скорость передачи, [бит/с];
Eo — энергия носителя одного бита информации, [Дж];
No — спектральная плотность мощности белого (с равномерной плотностью) шума.
Добавляя, в соответствии с определением (C) условие
R < = C
и раскрывая неопределенность относительно (Eo/No), окончательно получаем так называемый «предел Шеннона»

(Eo/No) < = Ln2 = ~ 0,693,

где (Eo/No) — величина, обратная энергетической эффективности, [Дж/Вт/Гц].


Итак, введенное в аксиоматическую базу теории связи, исторически очевидное, из всего предшествующего, полувекового опыта создания систем преобразования (передачи) информации, утверждение об принципиальной информативности мощностной (энергетической) характеристики материальных процессов — носителей информации, наряду с неотъемлемой ее функцией материализации информации, привело к наличию принципиальных энергетических ограничений при разработке систем преобразования информации, успешно действующих и по сей день, вот уже в течение 70-и лет.