Формулы Шеннона для непрерывного и дискретного каналов
Формулы Шеннона представляют собой математические записи теорем кодирования Шеннона для дискретных и непрерывных сообщений, передаваемых по каналам с ограниченной пропускной способностью на фоне шумов и помех. Каналы в зависимости от типов сигналов на входе и выходе принято делить на дискретные, непрерывные и смешанные. В общей структурной схеме канала передачи (см. рис. 17.1) дискретными являются каналы от входа модулятора до выхода демодулятора и от входа кодера до выхода декодера. Непрерывный (аналоговый) канал – это собственно последовательная линия передачи (телефонная линия, скрученная пара проводов, коаксиальный кабель и др.). Дискретные каналы не являются независимыми от аналогового канала, который часто образует наиболее "узкое место" при передаче и из-за собственной ограниченной полосы пропускания, внешних шумов и помех определяет общую достижимую скорость передачи (при заданном допустимом уровне ошибок при приеме).
![](image/17-1.gif)
Рис. 17.1. Общая структурная схема канала передачи: 1 – непрерывный (аналоговый) канал; 2, 3 – дискретные каналы
Прежде, чем рассматривать формулы Шеннона, целесообразно обратиться к рис. 17.1 и пояснить функции отдельных устройств. Кодер/декодер в конкретной системе может совмещать, на первый взгляд, прямо противоположные функции. Во-первых, кодер может быть использован для внесения избыточности в передаваемую информацию с целью обнаружения влияния шумов и помех на приемном конце (там этим занимается соответствующий декодер).
Формулы Шеннона представляют собой математические записи теорем кодирования Шеннона для дискретных и непрерывных сообщений, передаваемых по каналам с ограниченной пропускной способностью на фоне шумов и помех. Каналы в зависимости от типов сигналов на входе и выходе принято делить на дискретные, непрерывные и смешанные. В общей структурной схеме канала передачи (см. рис. 17.1) дискретными являются каналы от входа модулятора до выхода демодулятора и от входа кодера до выхода декодера. Непрерывный (аналоговый) канал – это собственно последовательная линия передачи (телефонная линия, скрученная пара проводов, коаксиальный кабель и др.). Дискретные каналы не являются независимыми от аналогового канала, который часто образует наиболее "узкое место" при передаче и из-за собственной ограниченной полосы пропускания, внешних шумов и помех определяет общую достижимую скорость передачи (при заданном допустимом уровне ошибок при приеме).
![](image/17-1.gif)
Рис. 17.1. Общая структурная схема канала передачи: 1 – непрерывный (аналоговый) канал; 2, 3 – дискретные каналы
Прежде, чем рассматривать формулы Шеннона, целесообразно обратиться к рис. 17.1 и пояснить функции отдельных устройств. Кодер/декодер в конкретной системе может совмещать, на первый взгляд, прямо противоположные функции. Во-первых, кодер может быть использован для внесения избыточности в передаваемую информацию с целью обнаружения влияния шумов и помех на приемном конце (там этим занимается соответствующий декодер).
Избыточность проявляется в добавлении к передаваемой полезной информации так называемых проверочных разрядов, формируемых, как правило, аппаратурными средствами из информационной части сообщения. Известно много различных помехоустойчивых кодов, причем самый простой из них однобитовый (бит четности/нечетности) далеко не всегда удовлетворительно работает на практике. Вместо него в локальных сетях используются контрольная сумма или циклический код (CRC – Cyclic Redundancy Check), занимающий в формате передаваемого сообщения 2 или 4 байта, независимо от длины в байтах информационной части сообщения. При больших объемах передаваемой информации целесообразно сжать ее до передачи. В этом случае говорят уже о статистическом кодировании. Здесь уместна аналогия с обычными программами архивации файлов (типа arj, rar, pkzip и др.), которые широко используются при организации обмена в Интернет. Если проблема с большими объемами информации и после такого обратимого сжатия до конца не решается, можно рассмотреть возможность необратимого сжатия информации с частичной ее потерей ("огрублением"). Конечно, здесь не идет речь об отбрасывании части цифровых данных, но по отношению к изображениям иногда можно пойти на снижение разрешения (числа пикселей) без искажения общего вида "картинки". Понятно, что оба типа кодирования (помехоустойчивое избыточное кодирование и статистическое кодирование) служат, в конечном счете, решению одной задачи – повышению качества передачи как в смысле отсутствия или минимального допустимого уровня ошибок в принятом сообщении, так и в смысле максимального использования пропускной способности канала передачи.
В высокоскоростных модемах нередко реализуются оба типа кодирования. Что касается функций модулятора/демодулятора на рис. 17.1, то они, как уже было сказано, включают согласование полосы частот, занимаемой сигналами, с полосой пропускания линии передачи. Кроме того, выходные каскады передатчиков (после модуляторов) реализуют усиление сигналов по мощности и амплитуде, это одно из средств увеличения отношения сигнал/шум. Действительно, ничто (кроме, пожалуй, техники безопасности) не заставляет разработчиков придерживаться в аналоговом канале столь жестких ограничений сигналов по амплитуде, как в дискретных (цифровых) каналах (от 0 до +5В при использовании аппаратуры в стандарте ТТЛ). Например, для распространенного стандарта последовательного порта компьютера RS-232C предусмотрена "вилка" амплитуд от –(3...12) В до +(3...12) В. Конечно, это касается амплитуд вблизи передатчика, в то время как вблизи приемника амплитуда сигналов может быть существенно ослаблена.
Формула Шеннона для непрерывного (аналогового) канала достаточна проста:
Vмакс=
![](http://www.intuit.ru/img/symbols/delta.gif)
где Vмакс – максимальная скорость передачи (бит/сек),
![](http://www.intuit.ru/img/symbols/delta.gif)
![](image/17-2.gif)
Рис. 17.2. Зависимость максимальной скорости передачи Vмакс для аналоговой линии от отношения сигнал-шум по мощности S/N
Под шумом понимается любой нежелательный сигнал, в том числе внешние помехи или сигнал, вернувшийся к передающему устройству – может быть и модему – в результате отражения от противоположного конца линии. Сами по себе сосредоточенные помехи не столь существенно ограничивают пропускную способность аналогового канала, как непредсказуемый в каждый момент времени белый гауссовский шум. "Умные" высокоскоростные модемы умеют, как будет отмечено в дальнейшем, определять уровень и задержку "своих" отраженных сигналов и компенсировать их влияние.
Формула Шеннона для многопозиционного дискретного канала, построенного на базе предыдущего непрерывного канала, в отсутствие ошибок при приеме, имеет следующий вид:
Vмакс=2*
![](http://www.intuit.ru/img/symbols/delta.gif)
Здесь n – общее число вариантов дискретного (цифрового) сигнала (алфавит). Если за время одной посылки (длительность элементарного аналогового сигнала типа отрезка синусоиды) передается информация о k двоичных разрядах, то n=2k. Практически расширение алфавита для дискретных сигналов приводит к появлению все менее различимых элементарных посылок, так что величина n ограничивается сверху все тем же отношением сигнал/шум S/N в аналоговом канале.
При учете ошибок при приеме формула Шеннона для многопозиционного дискретного канала, построенного на базе непрерывного канала, имеет следующий вид:
Vмакс=2*
![](http://www.intuit.ru/img/symbols/delta.gif)
Здесь pош – отношение числа бит, принятых с ошибками, к общему числу переданных бит за время наблюдения, теоретически стремящееся к бесконечности, а практически достаточное для набора статистики. Согласно стандарта ITU-T для телефонных сообщений должно выполняться условие pош
![](http://www.intuit.ru/img/symbols/le.gif)
![](http://www.intuit.ru/img/symbols/le.gif)
![](http://www.intuit.ru/img/symbols/srarr.gif)
![](http://www.intuit.ru/img/symbols/srarr.gif)
![](http://www.intuit.ru/img/symbols/delta.gif)
![](http://www.intuit.ru/img/symbols/srarr.gif)
Формулы Шеннона показывают, что наиболее эффективный способ повышения максимальной скорости передачи Vмакс состоит в увеличении полосы пропускания линии передачи
![](http://www.intuit.ru/img/symbols/delta.gif)
![](http://www.intuit.ru/img/symbols/delta.gif)
На практике чаще всего имеется телефонная линия, по которой и нужно организовать передачу с применением модемов. Аналоговая телефонная линия (точнее, тракт передачи, функционирующий на этой линии, с учетом фильтров) имеет фиксированную полосу пропускания
![](http://www.intuit.ru/img/symbols/delta.gif)
![](http://www.intuit.ru/img/symbols/cong.gif)
Избыточность проявляется в добавлении к передаваемой полезной информации так называемых проверочных разрядов, формируемых, как правило, аппаратурными средствами из информационной части сообщения. Известно много различных помехоустойчивых кодов, причем самый простой из них однобитовый (бит четности/нечетности) далеко не всегда удовлетворительно работает на практике. Вместо него в локальных сетях используются контрольная сумма или циклический код (CRC – Cyclic Redundancy Check), занимающий в формате передаваемого сообщения 2 или 4 байта, независимо от длины в байтах информационной части сообщения. При больших объемах передаваемой информации целесообразно сжать ее до передачи. В этом случае говорят уже о статистическом кодировании. Здесь уместна аналогия с обычными программами архивации файлов (типа arj, rar, pkzip и др.), которые широко используются при организации обмена в Интернет. Если проблема с большими объемами информации и после такого обратимого сжатия до конца не решается, можно рассмотреть возможность необратимого сжатия информации с частичной ее потерей ("огрублением"). Конечно, здесь не идет речь об отбрасывании части цифровых данных, но по отношению к изображениям иногда можно пойти на снижение разрешения (числа пикселей) без искажения общего вида "картинки". Понятно, что оба типа кодирования (помехоустойчивое избыточное кодирование и статистическое кодирование) служат, в конечном счете, решению одной задачи – повышению качества передачи как в смысле отсутствия или минимального допустимого уровня ошибок в принятом сообщении, так и в смысле максимального использования пропускной способности канала передачи.
В высокоскоростных модемах нередко реализуются оба типа кодирования. Что касается функций модулятора/демодулятора на рис. 17.1, то они, как уже было сказано, включают согласование полосы частот, занимаемой сигналами, с полосой пропускания линии передачи. Кроме того, выходные каскады передатчиков (после модуляторов) реализуют усиление сигналов по мощности и амплитуде, это одно из средств увеличения отношения сигнал/шум. Действительно, ничто (кроме, пожалуй, техники безопасности) не заставляет разработчиков придерживаться в аналоговом канале столь жестких ограничений сигналов по амплитуде, как в дискретных (цифровых) каналах (от 0 до +5В при использовании аппаратуры в стандарте ТТЛ). Например, для распространенного стандарта последовательного порта компьютера RS-232C предусмотрена "вилка" амплитуд от –(3...12) В до +(3...12) В. Конечно, это касается амплитуд вблизи передатчика, в то время как вблизи приемника амплитуда сигналов может быть существенно ослаблена.
Формула Шеннона для непрерывного (аналогового) канала достаточна проста:
Vмакс=
![](http://www.intuit.ru/img/symbols/delta.gif)
где Vмакс – максимальная скорость передачи (бит/сек),
![](http://www.intuit.ru/img/symbols/delta.gif)
![](image/17-2.gif)
Рис. 17.2. Зависимость максимальной скорости передачи Vмакс для аналоговой линии от отношения сигнал-шум по мощности S/N
Под шумом понимается любой нежелательный сигнал, в том числе внешние помехи или сигнал, вернувшийся к передающему устройству – может быть и модему – в результате отражения от противоположного конца линии. Сами по себе сосредоточенные помехи не столь существенно ограничивают пропускную способность аналогового канала, как непредсказуемый в каждый момент времени белый гауссовский шум. "Умные" высокоскоростные модемы умеют, как будет отмечено в дальнейшем, определять уровень и задержку "своих" отраженных сигналов и компенсировать их влияние.
Формула Шеннона для многопозиционного дискретного канала, построенного на базе предыдущего непрерывного канала, в отсутствие ошибок при приеме, имеет следующий вид:
Vмакс=2*
![](http://www.intuit.ru/img/symbols/delta.gif)
Здесь n – общее число вариантов дискретного (цифрового) сигнала (алфавит). Если за время одной посылки (длительность элементарного аналогового сигнала типа отрезка синусоиды) передается информация о k двоичных разрядах, то n=2k. Практически расширение алфавита для дискретных сигналов приводит к появлению все менее различимых элементарных посылок, так что величина n ограничивается сверху все тем же отношением сигнал/шум S/N в аналоговом канале.
При учете ошибок при приеме формула Шеннона для многопозиционного дискретного канала, построенного на базе непрерывного канала, имеет следующий вид:
Vмакс=2*
![](http://www.intuit.ru/img/symbols/delta.gif)
Здесь pош – отношение числа бит, принятых с ошибками, к общему числу переданных бит за время наблюдения, теоретически стремящееся к бесконечности, а практически достаточное для набора статистики. Согласно стандарта ITU-T для телефонных сообщений должно выполняться условие pош
![](http://www.intuit.ru/img/symbols/le.gif)
![](http://www.intuit.ru/img/symbols/le.gif)
![](http://www.intuit.ru/img/symbols/srarr.gif)
![](http://www.intuit.ru/img/symbols/srarr.gif)
![](http://www.intuit.ru/img/symbols/delta.gif)
![](http://www.intuit.ru/img/symbols/srarr.gif)
Формулы Шеннона показывают, что наиболее эффективный способ повышения максимальной скорости передачи Vмакс состоит в увеличении полосы пропускания линии передачи
![](http://www.intuit.ru/img/symbols/delta.gif)
![](http://www.intuit.ru/img/symbols/delta.gif)
На практике чаще всего имеется телефонная линия, по которой и нужно организовать передачу с применением модемов. Аналоговая телефонная линия (точнее, тракт передачи, функционирующий на этой линии, с учетом фильтров) имеет фиксированную полосу пропускания
![](http://www.intuit.ru/img/symbols/delta.gif)
![](http://www.intuit.ru/img/symbols/cong.gif)