Н. Ахмед -КВРао
1 )рто тональные
преобразования
при обработке
цифровых
сигналов

N. Ahmed • К. R. Rao
Orthogonal Transforms
for Digital
Signal Processing
Springer-Verlag
Berlin • Heidelberg- New York-1975

Н. Ахмед • KR P&o
Орто гонал ьные
преобразования
при обработке
цифровых
сигналов
Перевод с английского Т. Э. Кренкеля.
Под редакцией И. Б. Фоменко
МОСКВА СВЯЗЬ-1980

ББК 32.88
А95
УДК 621.395.4
Ахмед Н., Рао К. Р.
А95 Ортогональные преобразования при обработке
цифровых сигналов: Пер. с англ./Под ред. И. Б. Фо-
Фоменко. — М.: Связь, 1980. — 248 с, ил.
В пер.: 1 р. 40 к.
Книга написана ведущими американскими специалистами в области
перспективного направления ортогональных преобразований цифровых сиг-
сигналов, все шире внедряемых в системах связи, телефонии, телевидении,
радиолокации, телеметрии и т. д. Это своего рода пособие для знакомства,
изучения, обоснованного выбора и инженерных применений различных
ортогональных преобразований при обработке цифровых сигналов.
Книга предназначена для инженеров и техников, специализирую-
специализирующихся в области обработки сигналов.
30602—138 ББК 32.88
А 045@.)-80 9-8° 240200000°
by Springer-Verlag Berlin. Heidelberg 1975.
Перевод на русский язык, предисловие, примечания, издательство «Связь>,
1980.

ПРЕДИСЛОВИЕ К РУССКОМУ ИЗДАНИЮ
Авторы настоящей книги Н. Ахмед и К. Р. Рао одни из первых ак-
активно включились в 70-х гг. в разработку вопросов, связанных с
применением функции Уолша при цифровой обработке сигналов.
Однако в отличие от других исследователей они изучали возмож-
возможность применения для цифровой обработки также и других систем
ортогональных дискретных функций. О плодотворности работ ав-
авторов в этой области можно судить по тому, что за короткий пе-
период 1970—1974 гг. ими было опубликовано более 30 журнальных
статей, посвященных функциям Уолша, различным обобщенным
преобразованиям, преобразованиям BEFORE, дискретным коси-
косинусным преобразованиям, преобразованию Хаара, методам вычис-
вычисления спектров в различных базисах, применению спектральных
методов для решения отдельных задач и т. д. Эта активность про-
продолжается до сих пор, поэтому Ахмед и Рао чрезвычайно популяр-
популярны среди специалистов, занимающихся цифровой обработкой сиг-
сигналов. Основные результаты своих исследований до 1975 г. они об-
обобщили в данной книге, которая была задумана как учебное по-
пособие для студентов, специализирующихся в области цифровой
обработки сигналов. Эту задачу авторам удалось выполнить в
полной мере — книга написана кратко и понятно, хорошо методи-
методически увязана, содержит много задач.
С момента выхода книги в свет прошел немалый срок для та-
такой бурно развивающейся области, как цифровая обработка сиг-
сигналов. В этот период развитие теории ортогональных преобразова-
преобразований стимулировалось, с одной стороны, новыми практическими за-
задачами, которые удобно решать цифровыми методами, и, с другой
стороны, — новыми техническими возможностями, которые открыл
прогресс микроэлектроники, неуклонно развивающейся по пути
увеличения степени интеграции элементных средств.
Следует отметить следующие важнейшие результаты, получен-
полученные за период с 1975 г. в теории ортогональных преобразований,
которые, естественно, не отражены в данной книге. Значительно
расширен ассортимент изученных базисных функций. Построена
теория дискретных функций Виленкина—Крестенсона и обобщен-
обобщенных функций Хаара на конечных интервалах. Развита теория мно-
многомерных преобразований. Синтезированы базисные функции, по-
позволяющие решить отдельные частные задачи оптимизации, т. е.
приводящие к спектру, близкому к классическому, но более эко-
экономные в вычислениях, дающие наиболее сжатое описание сигна-
сигналов, минимизирующие ошибку вычислений, минимизирующие
объем аппаратуры, обеспечивающие уникальные характеристики
аппаратуры и т. д.
5

Более глубоко раскрыта природа быстрого преобразования
Фурье и быстрой свертки — центральных операций почти всех си-
систем цифровой обработки сигналов. На основе этих преобразова-
преобразований разработаны новые модификации алгоритмов быстрых преоб-
преобразований и расширены возможности их технической реализации.
Развиты теория и практическое применение теоретико-число-
теоретико-числовых преобразований, позволяющих одновременно уменьшить и
объем вычислений, и их ошибки. Успешно развиваются спектраль-
спектральные методы в теории кодирования, теории графов, теории функций
многозначной логики.
В результате всех этих достижений, в которые немалый вклад
внесли советские ученые, теория дискретных сигналов оформилась
сейчас как новое и исключительно перспективное научное направ-
направление, в котором сигнал задается на множестве точек, представ-
представляющем собой группу (чаще всего — абелеву, с групповой опера-
операцией в виде специфического сдвига), значения сигнала задаются
как элементы кольца или поля чисел (чаще всего — поля Галуа),
а базисные функции задаются как характеры группы, на которой
определены сигналы. Одним из важных проявлений такого обоб-
обобщения понятия цифрового сигнала являются уже упомянутые тео-
теоретико-числовые преобразования, в которых структуры группы то-
точек определения сигнала и числового поля возможных значений
сигнала оказываются взаимно связанными. Этот наиболее общий
подход к ортогональным цифровым преобразованиям уже дал
многообещающие результаты и в будущем несомненно даст их
еще больше.
Краткий перечень последних достижений приведен с целью
подчеркнуть, что успешное овладение последними достижениями
возможно только после некоторой предварительной подготовки,
важной частью которой может служить изучение книги Ахмеда и
Рао. Кроме того, книга Ахмеда и Рао сохранила свое значение
для решения ряда частных задач, для которых она может ока-
оказаться вполне достаточной.
Благодаря строгой математической трактовке вопросов, совер-
совершенному матричному аппарату исследований и «вечной» актуаль-
актуальности рассмотренных практических аспектов (винеровская фильт-
фильтрация, сжатие данных, распознавание образов) эта книга и сей-
сейчас может считаться ценным первоначальным учебным пособием
для исследователей, инженеров и студентов.
О достижениях последних лет в области ортогональных преоб-
преобразований при цифровой обработке сигналов дает представление
список дополнительной литературы, приводимой переводчиком.
Доктор технических наук, профессор
А. М. Трахтман

ПРЕДИСЛОВИЕ АВТОРОВ
Эта книга предназначается для всех желающих получить сведения
о практическом применении ортогональных преобразований в об-
области цифровой обработки сигналов. Авторы надеются, что на-
настоящая книга будет содействовать работе в этом направлении
специалистов, занимающихся подобными вопросами в различных
областях науки и техники.
Книга состоит из десяти глав. Первые семь глав посвящены
изучению основ, обоснованию и описанию различных ортогональ-
ортогональных преобразований, для понимания которых у читателя предпола-
предполагаются знания по дискретному преобразованию Фурье (например,
из курса дифференциальных уравнений) и матричной алгебре. По-
Последние три главы посвящены некоторым специальным приложе-
приложениям ортогональных преобразований в цифровой обработке сигна-
сигналов. Для их понимания требуется знание основ дискретной теории
вероятностей и элементов общей теории связи.
Большая часть настоящей книги использовалась при чтении
авторами курса лекций студентам старших курсов факультетов
электротехники в течение последних пяти лет в университетах
штатов Канзас и Техас. Первые семь глав соответствуют курсу
лекций, рассчитанному на один семестр. Последние три главы мо-
могут быть положены в основу специального курса лекций, ориенти-
ориентированного на приложения ортогональных преобразований в цифро-
цифровой обработке сигналов.
Так как настоящая книга возникла в результате чтения лек-
лекций, авторы выражают глубокую благодарность студентам стар-
старших курсов, прослушавшим лекции и в особенности Т. Натарайя-
ну. Авторы благодарят сотрудников кафедры электротехники
Канзаского университета и университета штата Техас за поддерж-
поддержку и заведующего кафедрой электротехники Канзаского универси-
университета доктора В. В. Копсела. Авторы считают своим долгом побла-
поблагодарить декана инженерного факультета доктора А. Е. Салиса,
зам. декана доктора Р. Л. Такера и заведующего кафедрой элек-
электротехники доктора Ф. Л. Кэша университета штата Техас за фи-
финансовую, техническую и моральную помощь, оказанную авторам
во время написания книги. Авторы благодарят также Дороти
Бриджес, Анну Вулф, Маршу Пирс, Линду Душ, Евгению Джо,
Еву Хупер, Дану Кэйс, Кэй Моррисон и Шэрон Малден за труд,
связанный с печатью различных глав рукописи.
Наконец, авторы благодарят своих жен Эстер и Каруну, без
моральной поддержки, терпения и понимания которых настоящая
книга не могла бы быть написана.
Н. Ахмед, К. Р. Рао

ГЛАВА 1
Введение
1.1. Общие замечания
В последние годы значительно возрос интерес к изучению ортого-
ортогональных преобразований [1—14, 40]. Это обусловлено главным
образом появлением быстродействующих цифровых вычислитель-
вычислительных машин, значительными достижениями в технологии цифровых
схем и разработкой специализированных цифровых процессоров
[4, 15—17]. Теоретические исследования ортогональных преобра-
преобразований проводятся в области обработки изображений [18—27] и
речевых сигналов [23, 28, 29], отбора признаков при распознава-
распознавании образов [23, 30—32], анализа и проектирования систем связи
[23, 33, 34], обобщенной винеровской фильтрации [35, 36] и
спектроскопии [23, 37]. Ортогональные преобразования использу-
используются для обработки различной информации, такой, как сейсмиче-
сейсмические и акустические данные, данные биологических и биомедицин-
биомедицинских исследований.
Таким образом, область приложений данной работы, охваты-
охватывающей различные дисциплины, является достаточно очевидной.
Эта книга предназначена для тех, кто хочет приобрести знания
для практического применения ортогональных преобразований в
области цифровой обработки сигналов. В первых семи главах при-
приводятся сведения из теории ортогональных преобразований, а так-
также доказательства их основных свойств. Из-за ограниченного
объема книги не все рассматриваемые аспекты будут исследованы
достаточно глубоко. Вернее, здесь будет предпринята попытка до-
добиться компромисса между строгостью и ясностью изложения.
Последние три главы посвящены применению ортогональных пре-
преобразований в трех областях: обобщенной винеровской фильтра-
фильтрации; сжатии данных; отборе признаков при распознавании обра-
образов. Эти области применения были выбраны потому, что они по-
позволяют читателю наилучшим образом понять некоторые теорети-
теоретические положения и методы, а впоследствии самостоятельно при-
применять и развивать их в других областях.
1.2. Терминология
Терминологию, используемую в дальнейшем, удобнее всего по-
пояснить с помощью рис. 1.1, на котором показан сигнал x(t) (или
аналоговый сигнал), являющийся непрерывной функцией време-
8

ни /. Если на вход идеального дискретизатора, осуществляющего
взятие отсчетов с заданной скоростью, составляющей N отсчетов
в секунду, действует сигнал x(t)f то на его выходе формируется
дискретный сигнал (дискретизированный во времени) x*(t), опре-
опрей
деляемый как
N— 1
m=0
В выражении A.2.1) М
та-функция Дирака.
x(t)
A.2Л)
интервал дискретизации, 6@ — дель-
xMt)
-a»- t
Идеальный
дискрети-
затор
Рис. 1.1. Пояснение терминологии
В результате такой дискретизации формируется последова-
последовательность (или последовательность данных) {Х(т)}, т = 0,
1, ..., N—-1, где X(m)=x(mAt). Термин цифровая последователь-
последовательность означает, что каждое значение Х(т) квантуется и кодируется
в цифровой форме. Соответственно термин цифровой сигнал x*(t)
означает, что каждый отсчет х(тМ) в выражении A.2.1) кванту-
квантуется и кодируется в цифровой форме [38].
1.3. Представление сигнала с помощью ортогональных
функций [39]
Множество непрерывных функций действительного переменно-
переменного1 {un(t)} = {u0(t), ux(t)\ ...} называется ортогональным на интер-
интервале (t0, to+T), если
/. (с, если т = п,
\um(t)un(t)dt = L _, A.3.1)
Т
где через Г обозначается f . При с=1 множество {un(t)}
т и
называется ортонормированным.
Предположим, что x(t) — действительный сигнал, заданный на
интервале (U, U + T) и представленный в виде ряда
л МО, A.3.2)
л=0
1 Нижеследующие рассуждения можно отнести и к функциям комплекс-
комплексного переменного, некоторые аспекты которых обсуждаются в задаче 1.4.
9

где ап означает я-й коэффициент разложения. Чтобы найти аПу
достаточно обе части A.3.2) умножить на um(t) и проинтегриро-
проинтегрировать в пределах (t0, to + T):
J x (t) um (t) dt = f 2 an un (t) um (t) dt. A.3.3)
T T n=0
С учетом A.3.1) получаем
am = — [x{t)um(t)dt, /n = 0, 1,... A.3.4)
С J
т
Ортогональное множество {un(t)}, удовлетворяющее условию
~ ul(t)dt<°o, A.3.5)
называется полным или замкнутым, если справедливо любое из
следующих утверждений:
1) не существует сигнала x(t), удовлетворяющего условию
Г ха(<)Ж<оо, A.3.6)
т
такого, что
§x(t)un(t)dt = O, л = 0,1,... A.3.7)
2) для любого кусочно-непрерывного сигнала x(t), удовлетво-
удовлетворяющего условию J x2(t)dt<c<x>, при любом малом еХ) сущест-
существует такое N и конечное разложение
N-1
x(i)= У anun(t), A.3.8)
при котором
A.3.9)
т
Из приведенных выше рассуждений следует, что разложение по
ортогональным функциям дает возможность представить x(t) в
A.3.2) в виде бесконечного, но счетного1 множества чисел {а0,
аь a2f ...}. Кроме того, когда {un(t)} является полным, такое пред-
представление возможно в виде конечного множества чисел {ао,
аь ..., aN-i}.
Физический смысл. Возведя обе части выражения A.3.2) в
квадрат, получим
1 Счетное множество означает, что существует взаимооднозначное соот-
соответствие между элементами множества и положительными целыми числами.
10

00 00
I
я=0 p=0 q=0
Интегрирование обеих частей выражения A.3.10) приводит к
следующему результату:
JV@d/ = 2 а* |и»@Л+22арв,|ир@М0Л. A.3.11)
Г п=0 Г р=0 <7=0 Г
Применяя условие ортогональности функций, заданное выра-
выражением A.3.1), к выражению A.3.11), получаем соотношение
l A.3.12)
л=0
известное как теорема Парсеваля. Тогда, если x(t) есть напряже-
напряжение или ток, приложенные к концам чисто резистивной нагрузки,
равной 1 Ом, то левая часть выражения A.3.12) представляет со-
собой среднюю мощность, рассеиваемую резистором. Таким образом,
множество чисел { —а2п} является распределением мощности в
x(t).
В заключение следует отметить, что рассмотренные выше ме-
методы представления сигналов с помощью ортогональных функций
можно разделить на две основные группы: 1) {un(t)} состоит из
синусоидальных функций и 2) {un(t)} состоит из несинусоидаль-
несинусоидальных функций, которые будут рассмотрены в процессе дальнейшего
изложения.
1.4. Содержание книги
Книга содержит десять глав, из которых в первых семи главах
приводятся основные сведения теории дискретных ортогональных
преобразований. В последних трех главах рассматриваются кон-
конкретные приложения.
В главе 2 дается обзор методов Фурье-представления сигналов.
В ней также рассматривается систематический переход от Фурье-
представлений непрерывных сигналов к Фурье-представлениям
цифровых сигналов.
В главе 3 вводится понятие дискретного преобразования Фурье
как одной из форм Фурье-представления дискретных и цифровых
сигналов. В этой связи свойства дискретного преобразования
Фурье изучаются параллельно со свойствами ряда и преобразова-
преобразования Фурье. Дан вывод рекурсивного алгоритма вычисления спект-
спектра Фурье. В главе 4 дается подробный вывод алгоритма быстрого
преобразования Фурье, позволяющего эффективно вычислять ди-
дискретное преобразование Фурье. На конкретных числовых приме-
примерах проиллюстрированы различные приложения быстрого преоб-
преобразования Фурье,
11

В главе 5 приводятся класс несинусоидальных ортогональных
функций и соответствующая система обозначений. Поясняется по-
понятие секвентности как обобщения понятия частоты. Материал
этой главы используется в гл. 6 и 7 при выводе различных несину-
несинусоидальных ортогональных преобразований.
В гл. 6 подробно исследуется преобразование Уолша-Адамара.
Приводятся алгоритмы вычисления этого преобразования; даются
определения амплитудного и фазового спектров и сравнение их с
соответствующими дискретными спектрами Фурье. Кроме того,
анализируется соответствие преобразований Уолша-Адамара и
дискретных преобразований Фурье.
В главе 7 рассматриваются другие преобразования: обобщен-
обобщенное преобразование Уолша-Адамара, преобразование Хаара, ди-
дискретное косинусное преобразование, пилообразное преобразова-
преобразование. Приводятся алгоритмы быстрых вычислений этих преобразо-
преобразований. Показано, как с помощью обобщенного преобразования
Адамара-Уолша осуществляется систематический переход к ди-
дискретному преобразованию Фурье. Исследование пилообразного
преобразования, преобразования Хаара и дискретного косинусно-
косинусного преобразования оправдано тем, что эти преобразования приме-
применяются в некоторых приложениях, рассматриваемых в последую-
последующих главах.
В главе 8 описывается классический метод обработки сигналов
с помощью ортогональных преобразований, так называемая вине-
ровская фильтрация. Показано, что ортогональные преобразова-
преобразования могут быть использованы для расширения винеровской фильт-
фильтрации при обработке цифровых сигналов, особенно для уменьше-
уменьшения сложности вычислений.
В главе 9 обсуждается применение ортогональных преобразо-
преобразований при сжатии данных. В связи с этим выводится оптимальное
ортогональное преобразование — преобразование Карунена-Лоэ-
ва. Использование этого преобразования для сжатия данных про-
проиллюстрировано примерами, взятыми из области обработки изо-
изображений и обработки электрокардиограмм.
В главе 10 рассматривается применение ортогональных преоб-
преобразований с целью отбора признаков при распознавании образов.
Главная задача данной главы в том, чтобы показать, как исполь-
использование ортогональных преобразований позволяет существенно
уменьшить количество необходимых признаков при сравнительно
незначительном увеличении ошибок классификации. В связи с
этим приводятся некоторые простые алгоритмы классификации и
рассматривается возможность их реализации.
ЗАДАЧИ
1.1. Докажите, что при Zi = Xt+iyt и Z2 — X2+iy2, где t= V—1,
Zx~\- Z2 = Zx + Z2 и ZXZ2 = Zx Za,
где чертой обозначены комплексно-сопряженные величины.
12

1.2. Пусть задано множество функций действительной переменной {un(t)},
определенных на интервале @, 7), таких, что
О, тФ п\
Рассмотрите разложение
оо
*@= £ onun(t).
а) Найдите формулу для вычисления коэффициентов разложения ап.
Ответ.
'- т J ;
т
б) Покажите, что
т п=0
1.3. Покажите, что при Zn=xn+iyn, п—\, 2, 3:
6) BJ) = (Zn)« ;
г) \Z1/Z2Z3\ = \
1.4. Множество ортонормированных комплекснозначных функций {un(t)}t
заданных на интервале (О, Г), определяется как
1 — I 1 , Ш = Л,
т |0» /и Ф п,
где «nfO — функция, комплексно-сопряженная с un(t).
Рассмотрите разложение
X (I) =
п=0
где x(t) — действительный или комплексный сигнал.
а) Найдите формулу для вычисления коэффициентов разложения ап.
Ответ.
= J x(t)un{
ап =J x(t)un(t)dtt n = 0, 1,2, . . .
T
б) Докажите, что теорема Парсеваля для такого представления функций
комплексного переменного выражается следующим образом: I
13

1.5. Полиномы Лежандра рп(х) определяются с помощью следующей ре-
рекуррентной формулы:
~npn_1 (х), /г =1,2,3, . . .
где /?о(Х) = 1 и pi(x) = x. Эти полиномы ортогональны на интервале |лг|<1, т.е.
l /0, т = nf
j Рт (х) Рп (х) dx = | 2_
431.5.И
а) Найдите /?2(Х), р3(х) и pi(x).
б) Докажите, что соотношение C1.5.1) справедливо для множества {ро{х),
Pi00. Рг(х) И рз(х)}.
Ответ.
1.6. Пусть /00 = 1 —1*|, |я|<1. Рассмотрите аппроксимацию
4
/ (х)« У] ап рп (х) ,
где ря fx)— полиномы Лежандра, введенные в задаче 1.5. Вычислите коэф-
коэффициенты по, «1, #2, из И Я4-
Ответ.
а0 = 1; ах = 0 ; а2 = — 5/8 ; а3 = 0 ; а4 =
ГЛАВА 2
Фурье-представление сигналов
В данной главе, во-первых, дается обзор методов Фурье — представления
сигналов, а во-вторых, приводится обоснование систематического перехода от
Фурье-представления аналоговых сигналов к Фурье-представлению дискретных
сигналов.
2.1. Фурье-представление
В качестве иллюстрации общего метода ортогональных представ-
представлений, изложенного в § 1.3, рассмотрим случай, когда множество
функций {un(t)} есть множество синусоидальных функций {1,
cosftcDof, sinmoo*}- Тогда разложение в ряд, соответствующее выра-
выражению A.3.2), примет вид
Оэ оо
х @ = а0 + V an cos n coo t + ^ bn sin n соо /; B.1.1)
где coo (рад/с) — основная угловая частота, которая связана с пе-
периодом Т с функции соотношением Г=2я/со0. Основная угловая ча-
частота в 2я раз превышает основную частоту f0 (периоды/с или Гц).
Частоты ясоо или nf0 называются гармониками, так как они крат-
кратны основным частотам со0 и /о соответственно.
14

Предполагается, что x(t), кроме условия, заданного выраже-
выражением A.3.6), удовлетворяет следующим условиям:
1) x(t) в пределах одного периода имеет по крайней мере ко-
lltHiiior число разрывов;
2) x(t) в пределах одного периода имеет по крайней мере ко-
Ммчпое число максимумов и минимумов.
Можно показать, что при выполнении этих условий множества
М^ффициентов {ап} и {Ьп} являются равномерно ограниченными.
Иипче говоря, это означает, что ряд в B.1.1) сходится равномерно
lin интервале (О, Т) и, следовательно, допускается почленное ин-
Тприрование. В точках разрыва функции x(t) имеет место сходи-
сходимость в среднем. Коэффициенты {а0, ап, Ьп} в B.1.1) можно вы-
МНсчить с учетом свойства ортогональности множества функций
jrns //(.H/, sin ясооО на периоде Т:
л (Т/2
I rosп(о01cosmcoo tdt = J
coSAZ(o0/sinm(D0?d/ = 0, для всех тип; B.1.2)
I
. , . , ,, f Т/2. т = п\
sin п со0 / sin т со0 / dt = {
{0, тфп.
Используя выражения B.1.1) и B.1.2), можно показать, что (за-
дпча 2.1)
пп = ~У fх (/) C0S n(°otdt
Т
И Ьп = — Г х (t) sin п соо / dt. B.1.3)
J %)
Т
Таким образом, из приведенных выше рассуждений следует,
•по сигнал x(t) можно представить множеством действительных
чисел {aOf an, bn}. Чтобы установить связь этих коэффициентов с
рлепределением мощности в x(t), необходимо иметь соотношение,
соответствующее выражению A.3.12), т. е. теорему. Парсеваля.
Можно показать, что (задача 2.2) теорема Парсеваля для пред-
тнления, определяемого выражением B.1.1), имеет вид
B.1.4)
Согласно выражению B.1.4) распределение мощности x(t) опре-
/Н'ляется множеством действительных чисел {а20,— (a2n + b2n)}.
Ряд Фурье в комплексной форме. В качестве другого примера
рассмотрим случай, когда в выражении A.3.2) задано множество
комплексных функций {un(t)}. Принимая за исходное выражение
15

ряда Фурье в обычной форме и используя общепринятые тригоно-
тригонометрические преобразования, нетрудно получить ряд /Фурье в
комплексной форме. С учетом формул /
1 /
cos n (oo t = — (е' n(D0tj^e-in<o0*) B.1.5)
и
sin naHt = —^(е<я<■>« *_е-' *«о*), B.1.6)
где i=Y—1» выражение B.1.1) можно записать в следующем
виде:
00
х (t) = ао + —VJ {ап (е1'п ю°' + е~in °>° f)—i bn (& п <**г—е-1 т «•')} =
со
5] «а» -*' fcn) е*» ®.' + (an + i К) е-'» «•«}. B.1.7)
1
B.1.8)
Введем коэффициент
Тогда из выражений B.1.3) и B.1.8) следует, что
сп == — I д: (/) [cos /г о)о / — t sin n coo
или
х(/)еЛ; B.1.9)
г
причем
^n-cn=-i-(an + ifcJ. B.1.10)
Подставляя выражения B.1.8) и B.1.10) в B.1.7), получаем
cne?n»*K B.1.11)
Из выражений B.1.3) и B.1.9) вновь получим
B.1.12)
Таким образом, из выражений B.11) и B.1.12) получаем окон-
окончательно
00
x(t)= £ спе1пе><>*. B.1.13)
Л=—00
16

Выражение B.1.13) соответствует представлению x(t) рядом
Фурье в комплексной форме, т. е. в этом случае x(t) представля-
представляется множеством комплексных чисел {сп}.
Примечание. Из выражений B.1.9) и B.1.13) следует, что необходимо ввес-
ввести множитель 1/Г либо при интегрировании, либо при суммировании, или для
получения симметрии выражений можно ввести множитель V 1/Г в каждую
из рассмотренных операций.
С помощью соотношения
: (m — n) (
rp
10, тфп
и выражения B.1.13) можно показать, что (задача 2.3)
B.1.14)
B.1.15)
Соотношение B.1.15) представ-
представляет собой теорему Парсеваля, свя-
связанную с представлением B.1.13).
Заметим, что выражения B.1.4) и
B.1.15) будут идентичны, если Со =
= а0 и Сп= — (аЛ—ibn).
Мнимая
ось
Из B.1.15) следует, что распре-
распределение мощности в сигнале x(t)
можно представить множеством
действительных чисел {с0, 2|с2п|}.
Ня оис 2 1 дана геометоиче- Рис' лЛ' ГеометРическая ин
па рис. z.i дана геометриче- тация комплексного числа
екая интерпретация комплексного
числа Сп=—(ап—ьЬп) или сп= |cn|el(Pn ,
Действительная
ось
Рис' лЛ' ГеометРическая интерпре-
где
[ arctg
0.
— bn
B.1.16)
Угол ф, определяемый выражением B.1.16), обычно называет-
называется фазовым углом. Однако в более широком смысле он отражает
ориентацию комплексного вектора сп относительно некоторого
опорного направления, в качестве которого выбирается действи-
действительная ось, как это показано на рис. 2.1.
2.2. Спектр мощности, амплитудный и фазовый спектры
Спектр мощности и амплитудный спектр. На рис. 2.2 показано
периодическое продолжение xp(i) исходного сигнала x(t). Предпо-
Предположим, что xp(t) сместили вправо на величину т. Тогда получим
17

сигнал, обозначенный на рис. 2.2, xp(t—т). Согласно выражению
B.1.13) имеем
-т
0
xp(t)
Xp(t-T)
т
Хх/
2Т t
Рис. 2.2. Периодическое продолжение сигналов x(t) и
Откуда
B.2.1)
или
/—т)=
B.2.2)
B.2.3)
B.2.4)
где сп ъ = сп е~1" ш° \
Из B.2.3) следует, что
' Cn,z\2 = \Cn |2 — I С—п\2> для всех тЕЕ[0, Т).
Введем понятие Фурье-спектра мощности
Рп^\Сп\* лг = О, ±1, ±2, ... B.2.5)
где Рп — мощность /г-й спектральной составляющей. Из приведен-
приведенных рассуждений очевидно и это, в частности, подтверждается вы-
выражениями B.2.4) и B.2.5), что спектр мощности обладает сле-
следующими свойствами:
i) Рп инвариантен величине временного сдвига, т;
ii) Рп неотрицателен;
iii) Pn четная функция п.
В соответствии с понятием спектра мощности с помощью выра-
выражения B.2.5) определим амплитудный Фурье-спектр как
pn = yp^f п = 0, ±1, ±2, ...
где рп — неотрицательный корень квадратный из значения спект-
спектра мощности Рп-
Фазовый сдвиг. Фазовый Фурье-спектр периодического сигнала
Xp(t) определяется из следующего выражения:
B.2.6)
п = 0.

где символами Im[ ] и Re[ ] соответственно обозначены мни-
мнимая и действительная части величины, заключенной в квадратные
скобки. Если xp(t) умножить на действительную постоянную вели-
величину К, то разложение в ряд Фурье имеет следующий вид:
B.2.7)
Из выражений B.2.3) и B.2.7) следует, что фазовый Фурье-спектр
обладает следующими свойствами:
i) ^Fn является функцией т, т. е. в отличие от спектра мощно-
мощности, который не зависит от т, Wn, изменяется при сдвиге сигнала
вдоль оси времени;
ii) Ч'п не зависит от К, т. е. Wn инвариантен к усилению или
ослаблению сигнала, в то время как спектр мощности является
функцией К.
ш) Чг_г=—40, /=1, 2, 3, ... (см. задачу 2.4), т. е. Wn является
нечетной функцией п.
Примечание. С учетом геометрической интерпретации сп, показанной на
рис. 2.1, и приведенных выше рассуждений, сп можно выразить через спектр
мощности и фазовый спектр следующим образом:
или сп=-- рп%
где /?п = \сп\ и
Поскольку
п ,л = 0, ±1, ±2,
л, п = 0, ±1, ±2,
B.2.8)
B.2.9)
то из B.2.8) и B.2.9) следует, что x(t){ может быть восстановлен
однозначно, если известны амплитудный (или спектр мощности)
и фазовый спектры. Рассмотрим простой пример.
Пример 2.2.1. Рассмотрим сигнал x(t), заданный следующим образом:
Ю, вне этих пределов.
Пусть xP(t) является периодическим продолжением x(t) с периодом Т (рис. 2.3).
xp(t)
-Т
Рис. 2.3.
-Т/2 -7 2 0 т/2 Т/2 Т
— периодическое продолжение x(t)
19

а) Запишем разложение сигнала xP(t) в комплексный ряд Фурье
Л=— QO
Т/2
> СП= j
Jn ©ft t
B.2.10)
B.2.11)
-Г/2
б) Построим амплитудный и фазовый Фурье-спектры.
Решение, а) Согласно выражению B.2.11) имеем
X
т/2
=i/2 dt
Г &in ©о т/2 e—in (д0 т/2
I 21
2Л
(пщт/2)
, /1 = 0, ± 1, ± 2, . . .
B.2.12)
б) Графики, соответствующие амплитудному и фазовому спектрам, полу-
полученным из B.2.9), показаны на рис. 2.4а и б соответственно.
г
а)
-бтг
т
\ /
Sm х
бэт
8тг
т
б)
-бэт
7
-4эт
7 "
4эт бэт!
8эт
"Г"
Рис. 2.4. Спектры Фурье для сигнала xp(t), показанного на рис. 2.3:
а — амплитудный; б — фазовый
20

Относительно приведенных выше графиков следует сделать несколько за-
замечаний:
1) интервалы между последовательными рп = \сп\ на рис. 2.4 равны ос-
основной угловой частоте соо = 2я/7;
2) фазовый спектр принимает только три значения: 0, п или —я. Это еле-
дует из выражения B.2.9): cn=PnQ п > я = 0, ±1, ±2, ...
2.3. Преобразование Фурье
Переход от ряда Фурье к преобразованию Фурье лучше всего
проиллюстрировать с помощью конкретного примера 2.2.1, рас-
рассмотренного в предыдущем параграфе. Предположим, что Т стре-
стремится к бесконечности. Тогда согласно рис. 2.3 последовательность
импульсов вырождается в единственный импульс, который пред-
представляет собой апериодическую (т. е. непериодическую) функцию
x(t). На основании рис. 2.4а можно сделать вывод, что с увеличе-
увеличением Т спектральные линии сжимаются и в конце концов превра-
превращаются в непрерывную функцию вида (sin*)/*. Теперь проанали-
проанализируем поведение комплексного коэффициента Фурье сп, который
определяется как
Т/2
сп= f x(t)ert»*'*dt, coo = -^-. B.3.1)
Когда Т стремится к бесконечности, основная угловая частота соо
становится равной дифференциалу угловой частоты dco, а ясоо,
которая представляет собой п-ю гармонику угловой частоты, стано-
становится непрерывной угловой частотой со. Таким образом, выраже-
выражение B.3.1) сводится к следующему:
00
B.3.2)
Правая часть выражения B.3.2) представляет собой преобразова-
преобразование Фурье функции x(t), которое обозначим через fx(<o), т. е.
00
Fx (со) = j"х (t) е- ' <°«dt. B.3.3)
— 00
Рассмотрим предел выражения B.2.10) при Т, стремящемся к
бесконечности. Это выражение можно записать следующим обра-
образом:
00
хР@ = -^ J] спе'"<">«'(ш0). B.3.4)
П=—оо
Когда Т стремится к бесконечности, суммирование по всем гармо-
гармоникам в выражении B.3.4) можно заменить интегрированием в
бесконечных пределах (—оо, оо). Вновь воспользуемся теми же
аргументами, что и в предельном переходе от выражения B.3.1) к
выражению B.3.2). В этом случае соо становится dec, шоо становит-
21

ся со, а сп переходит в Fx(u>). Следовательно, после предельного
перехода выражение B.3.4) определяется как
00
2я J
B.3.5)
и называется обратным преобразованием Фурье функции Fx(u>).
Выражения B.3.3) и B.3.5) можно объединить следующим об-
образом:
00
прямое преобразование Фурье fx(co) = ^x(t)e'iatdt; B.3.3)
— 00
1
обратное преобразование Фурье x(t)= — f /7x(co)eiCDfdco. B.3.5)
2JT J
— oo
Эти два выражения называются парой преобразований Фурье. До-
Достаточным условием для существования преобразования Фурье
апериодической функции x(t) является абсолютная интегрируе-
оо
мость функции x(t) на интервале (—оо, оо), т. е. Г \x(t) \dt<С.оо.
-i *
Из выражения B.3.3) следует, что Fx(a>) является непрерывной
Таблица 2.3.1
Сводка рядов Фурье и пар преобразований Фурье
Форма за-
записи1
I
II
III
Ряды Фурье
П=— 00
1 °°
т ^^
1 п=-
/г
00
*(/)= У cne"t0)»i
П-— оо
Сп = Т" Jх е
Преобразование Фурье
1 °°
*@ = г- f FHco)eto"dco
00
00
Fx(&) = f x(t)eTmdt
— oo
x (/) = —— F^ (со) e1'*f rfco
У2я
Mco)- ._^(/)e-twi Л
У 2 я
00
— 00
1 °°
^(©)= 7Г f 'We"'"' d/
— 00
1 Можно получить еще несколько форм записи, заменив г на —г в каждом из рядов
и преобразований Фурье.
22

функцией со, которая может быть выражена следующим образом:
Fx (со) = А (со) + i В (со), B.3.6)
где j4(oo) и fi(co) — действительная и мнимая части Fx((o) соот-
соответственно. Таким образом, амплитудный спектр мощности и фазо-
фазовый спектры сигнала x(i) соответственно определяются как
B.3.7), B.3.8)
B.3.9)
I CO I < OO.
В таблице 2.3.1 дана сводка рядов Фурье различных форм за-
записи и соответствующие им пары преобразований Фурье.
2.4. Связь между рядом Фурье и преобразованием Фурье
Рассмотрим сигнал x(t), заданный на конечном интервале L
(рис. 2.5). Согласно выражению B.3.3) преобразование Фурье
сигнала x(t), изображенного на рис. 2.5, имеет вид
L/2
Fx((o)= j jc@е-'®*d/. B.4.1)
-L/2
x(t)
Рис. 2.5. Сигнал, заданный на конечном интервале L времени t-
Подставляя в B.4.1) що0 вместо со, получим выражение
L/2
Fx(ncoo)= f л:(Ое-'лв)о'Л= ^(Ое-^*^, л = 0, ±1,±2, ...,
—L/2 L
где (о0=2я/1.
Снова воспользуемся определяемым выражениями B.2.10) и
B.2.11) рядом Фурье для представления L-периодического продол-
продолжения1 функции x(tI в виде
00
@
где
— i n coo t
dt, n-0, ±1, ±1, ...
1 L-периодическое продолжение функции x(t) представляет собой функ-
функцию, получаемую в результате периодического повторения с периодом L функ-
функции x(t). (Прим. ред.)
23

Сравнение выражений B.4.2) и B.4.3) позволяет сделать сле-
следующий вывод: если сигнал задан на конечном интервале време-
времени L, то его преобразование Фурье /^(со) точно определяется ря-
рядом Фурье на множестве точек, равномерно расположенных по
оси со на расстоянии 2л/\Ь рад одна от другой.
2.5. Взаимная корреляция, автокорреляция и свертка
Если xp(\t) и tjp(t) являются соответственно Г-периодическими
продолжениями сигналов x(t) и y(t), то их взаимная корреляцион-
корреляционная функция определяется как
id/, B.5.1)
где т — временной сдвиг, непрерывно изменяющийся в интервале
(—оо, оо) независимо от t. В общей теории гармонического ана-
анализа взаимокорреляционная функция Zxy(x) представляет значи-
значительный интерес.
Прежде чем продолжить изложение, имеет смысл рассмотреть
простой пример, который позволит графически проиллюстрировать
смысл выражения B.5.1). Допустим
x(t) = lU 0<t<ti> B.5.2)
I 0, вне этих пределов
*!• B.5.3)
0, вне этих пределов.
Тогда соответствующие xp(t) и yp(t+i) имеют вид, показанный
на рис. 2.6.
Xp(t)
п
_Т -T + t, -Т/2
П
Т/2
г-Ы т-Т (г-Т/2) т -t} т (г+Т/2) г+Т
T + r -t1
Рис. 2.6. Периодическое продолжение сигналов x(t) и y(t+T)
24

Из выражения B.5.1) следует, что 2ху(х) является также пе-
периодической функцией. Поэтому ее достаточно вычислить в преде-
пределах только одного периода. Теперь рассмотрим произведение
xp{t) и yp(t+x), где xp(t) перемещается относительно yP(t+x) по
оси времени справа налево, как показано на рис. 2.7. Согласно
рис. 2.7а и б соответственно имеем
Zxy(T)-y
-т-И,
= -±г(-т+/1), 0<x<tv
B.5.4)
xp(t)yp(t+T)
П
аГ
O-rtJ-r+tJ
xp(t)yp(t + T)
2
п
п •"
-г 0 t, t
6> (-т +tn)
Рис. 2.7. Графическая интерпретация взаимной корреляции
На рис. 2.8 показана Zxy(x), построенная в соответствии с вы-
выражением B.5.4).
Из приведенных выше графических построений следует, что вы-
вычисление взаимной корреляции двух Г-периодических сигналов
zXY(r)
-Л 7К Л
-Т-Ц -Т -Т
-Т/2 -t.
Рис. 2.8. Взаимная корреляция xP(t) и yP(t)
25

сводится к сдвигу одного сигнала относительно другого и соответ-
соответственно усреднению их произведения за один период.
Теорема корреляции. Если (сп)х и (сп)у являются коэффициен-
коэффициентами разложения в ряд Фурье соответственно сигналов' xp(t) и
УрСО,то
{Cn)-z=(cJx(cy), n = 0, ±1, ±2,..., B.5.5)
где (cn)z — л-й коэффициент разложения Zxy(x) в ряд Фурье, а
(сп)х — величина комплексно-сопряженная с (сп)х.
Доказательство достаточно простое. Согласно выражению
B.1.13) получаем
*P(t)= 2 (cn)*e'»».*f B.5.6)
П=—оо
yP(t)= 2 (Сп)»е'-'' B.5.7)
и Zxy(T)= 2 (с„);е'»«>.«, B.5.8)
где
j4 We"'""•'#, B-5.9)
(<)е-'»-.*Л B.5.10)
и (спI=~-ржЛт)ег-'««.^т. B.5.11)
г
Подставляя B.5.7) в B.5.1), получаем
р@е'««о*л|1. B.5.12)
Т J )
Согласно B.5.9) выражение, заключенное в квадратные скобки в
B.5.12), представляет собой (сп)х. Таким образом, выражение
B.5.12) можно записать как
П-— 00
26

Сравнивая между собой выражения B.5.13) и B.5.8), получаем
выражение B.5.5), а именно (сп)г=(сп)х(сп)У) я = 0, ±1, ±2, ...
Автокорреляция. Если в выражение B.5.1) вместо yP(t) под-
подставить функцию xp(t), то получим
Zxx (т) = ~r^xp (t) хр (t + т) dt, B.5.14)
^ хр
т
где 2хх(т) по определению представляет собой автокорреляцион-
автокорреляционную функцию. Обозначив в выражении B.5.5) (сп)х и (сп)у как
сп, получаем
(сп);=\сп\\ п = 0, ±1, ±2,... B.5.15)
Из выражений B.5.14) и B.5.15) следует, что выражение B.5.8)
можно записать в следующем виде:
^ J] т B.5.16)
Т
При т=0 имеем
или
00
~~ с» |а. B.5.17)
п=\
Нетрудно заметить, что формула B.5.17) выражает теорему
Парсеваля, доказательство которой было приведено выше [см.
выражение B.1.15)].
Свертка. Если xp(t) и yP(t) представляют собой Г-периодиче-
ские продолжения соответственно двух сигналов x(t) и y(t)\ то
свертка функций определяется следующим образом:
v(t)yp(x-f)dt. B.5.18)
Отметим сходство функций 2ху{%) и Zxy(x) соответственно в
выражениях B.5.1) и B.5.18). Как и в случае функции взаимной
корреляции, легко дать графическую интерпретацию выражения
B.5.18). Допустим, что x(t) и y(t) заданы соответственно выра-
выражениями B.5.2) и B.5.3). Тогда соответствующие им функции
xp(t) и ур(т—t) показаны на рис. 2.9. Необходимо отметить, что
Ур(%—/) представляет собой зеркальное отображение yv(t). Так
как Zxy(x) в выражении B.5.18) является периодической функ-
функцией, то ее достаточно вычислить только в пределах одного пе-
периода.
27

■п
x(t)
П
-T-T + t, -Т/2 0 t-j Т/2 Т t,+T
Vp(t + r)
y(t + r)
_T-r -(r+T/2) -r-r+t1 -r+T/2 T-t
-Т-т + t,
■6)
Рис. 2.9. Периодические продолжения сигналов x(t) и
На рис. 2.10а и б показано произведение xp(t) и уР^т—ft;,
yP(r—t) смещается по оси времени относительно xv(t} слева
право. Из рис. 2.10а и б соответственно следует, что
= 2jr, 0<x<t1;
xp(t)yp(r-t)
111 llti
B.5.
xp(t)yp(r-t)
o/t,
П
6) -T
Рис. 2.10. Графическая интерпретация свертки
28

= jr f
B.5.20)
График функции Zxy(x), определяемой выражениями B.5.19) и
B.5.20), показан на рис. 2.11. Как следует из приведенных графи-
графических построений, процессы свертки и корреляции аналогичны
Zxy(r)
2t,/T
■J-
л л
) tt 2t, Т/2 Т T + t,T
_T_T + tl/ -Т/2
-Т+2*,
Рис. 2.11. Свертка xp(t) и
друг другу, только в первом случае определяется корреляция зер-
зеркального отображения одной из функций xp(t) или yP(t) с другой.
Теорема свертки. Если (сп)х и (сп)у являются коэффициента-
коэффициентами ряда Фурье функций xp(t) и yP(t)t определяемыми соответст-
соответственно выражениями B.5.6) и B.5.7), то
(Cn)z = (cn)x(Cnh, л = 0, ±1, ±2,... B.5.21)
где (cn)z ■— коэффициенты разложения Zxy(x) в ряд Фурье:
Так как доказательство этой теоремы аналогично доказательст-
доказательству теоремы корреляции, выраженной соотношением B.5.5), то чи-
читателю предоставляется возможность выполнить его в качестве
упражнения (задача 2.5).
2.6. Теорема отсчетов
Если x(t) — сигнал длительностью L, то его L-периодическое
продолжение можно представить в виде ряда Фурье
*р®= 2 с»е"|в§'. B-6л)
где
29

Из выражения B.6.1) следует, что для точного описания xp(t) не-
необходимо бесконечное число коэффициентов ряда сп- Поэтому в
строгом математическом смысле не существует сигнала x(t) ко-
конечной длительности L, для которого
Сп = °, \n\>Nt B.6.2)
где N — некоторое конечное положительное число. Однако извест-
известно, что во всех реальных ситуациях передаточная функция любой
физически реализуемой системы спадает до нуля «на очень высо-
высоких» частотах. Примерами таких систем являются механизмы ре-
чеобразования, слуха и зрения человека, различные системы свя-
связи. Поэтому можно предположить, что для достаточно больших N
условие B.6.2) выполняется. Сигналы такого типа называются
ограниченными по полосе и имеют полосу, равную TVcoo рад/с.
По существу, теорема отсчетов утверждает, что сигнал x(t) с
ограниченной полосой, равной В, Гц, может быть однозначно вос-
восстановлен по отсчетам, взятым с частотой fs отсчетов в секунду,
где fs^2B. Таким образом, эта теорема дает возможность опери-
оперировать с цифровым сигналом x*(t), соответствующим непрерывно-
непрерывному сигналу x(tI. Ниже приводится доказательство теоремы от-
отсчетов.
Теорема. Если x(t) — такой сигнал длительности L, что разло-
разложение в ряд Фурье его L-периодического продолжения не содер-
содержит гармоник выше номера N/21, то x(t) полностью определяется
множеством значений
Кроме того, он может быть восстановлен по этим значениям сле-
следующим образом:
B.6.4)
Доказательство. Представление x(t) рядом Фурье имеет вид
N/2 in2nt
x(i)= ^ c«e L • °<'<^- B-6-5)
Подставляя t = kL/(N+l) в выражение B.6.5), получаем
N 11 nnk N
cnUn\ B.6.6)
_ _
n=:—N n=—N
1 N/2 без потери общности предполагается целым числом.
30

где U=ei2jlkN+l\ Умножая обе части выражения B.6.6) на U~mh
и суммируя по k в пределах от 0 до N, получаем
^"- B-67)
БЧт^БЕ
k=0 k=0 n=—N
Теперь можно показать, что множество функций {Umh} являет-
является ортогональным, т. е.
N
S
1 0, пфт.
Таким образом, из выражений B.6.7) и B.6.8) следует, что
N
k=0
т. е.
, л = 0, ±1, ±2,...,± N/2. B.6.9)
Из выражения B.6.9) следует, что сп определяется N отсчетными
значениями x(t), взятыми согласно выражению B.6.3). Подстав-
Подставляя выражение B.6.9) в выражение B.6.5), получаем
N/2 г N . i 2 л п t
Х® = -^ГТ У\ \У]х(тггт)и~'"'\е L ■ B-6Л°)
Л^ + 1 LA \LJ \Л^+1/ I
Так как U=ei2nKN+l\ то из B.6.10) вытекает
./V / N/2 i 2лп (А kL \ч
B.6.11а)
\N+lJ\N+l
k=0 l n=-N/2
Пусть z=(\t—kL/(N+l)), тогда выражение B.6.11а) можно пере-
переписать в следующем виде:
N , N/2 ,
x(t) = yixf-^)\ 1 V е' . B.6.116)
k=0 I n=-N/2 '
В выражении B.6.116)
N/2 -ш0 — z - i со0 —- - 1 \ z
B.6.12)
31
( N А
v ; +е

Если теперь воспользоваться тригонометрическим тождеством
sinU+l)CD0^)
Ь cos(о0г + cos 2ю0 г +... + cos — со0z = B.6.13)
и подставить B.6.12) и B.6.13) в выражение B.6.116), то полу-
получим
/ kL \ ап{(*+1)в»т}
k=0
°° 2
Подставляя z= (t—kL/(N+\)) и соо = 2яД, в B.6.14), получаем
результат, который требовалось доказать:
[я
На основании этого можно сделать следующие выводы.
1. Теорема отсчетов устанавливает минимальную частоту от-
отсчетов, которая гарантирует сохранение всей информации, содер-
содержащейся в сигнале x(t); любая частота отсчетов выше минималь-
минимальной также сохраняет информацию. Поскольку минимальное коли-
количество отсчетов на интервале времени L равно (N+1), то времен-
временной интервал А^ между двумя соседними отсчетами должен удов-
удовлетворять условию
2. Так как B=Nfo/2 Гц — полоса сигнала, где fo=l/L — основ-
основная частота, то неравенство B.6.16) можно записать в следующем
виде:
Д/< ^ . B.6.16)
2B(N+\)
3. Выражение B.6.16) означает, что частота отсчетов fs=l/At
должна удовлетворять условию fs^2B(l-\-l/N)y которое при N^>\
принимает следующий вид: fs^2B выборок в секунду B.6.17).
2.7. Заключение
В начале главы рассматривались ряды Фурье, относящиеся к
наиболее известным способам представления сигнала. Далее было
показано, что для Г-периодического сигнала при Т, стремящемся
к бесконечности, ряд Фурье трансформируется в интегральное
преобразование Фурье. Было установлено, что преобразование
Фурье Fx((d) сигнала x(t) конечной длительности L точно опреде-
32

ляется коэффициентами ряда Фурье на множестве точек, равно-
равномерно расположенных на оси со. Расстояние между этими точками
равно 2njL рад. Наконец, были обсуждены некоторые аспекты вы-
вычисления корреляции и свертки и с помощью теоремы отсчетов бы-
было дано обоснование перехода от одного из возможных способов
представления сигналов к цифровым сигналам.
ЗАДАЧИ
2.1. Убедитесь с помощью выражений B.1.1) и B.1.2) в справедливости
выражения BЛ.З).
2.2. Выведите с помощью выражений B.1.1) и B.1.2) выражение B.1.4).
2.3. Выведите с помощью выражений B.1.13) и B.1.14) выражение B.1.15).
2 4 Определите фазовый спектр Фурье следующим образом:
I 0, я = 0.
С помощью этого определения и выражения B.1.3) покажите, что
2.5. Покажите, что если zxy=—\ xp(t)yp(T—t)dt, то
(Сп)у,П=0, ± 1,±2, . .
где
п)х = — J ■
fe
г
v)* = v 1 Ур (О
_i_f7
Q— ш соо t
dt
2.6. Рассмотрите сигнал x(t), показанный на рис. B.12а):
а) покажите, что /7х(со) = B/со2б) A—cos сое);
б) найдите У7, @). [Ответ. Fx@)=e];
в) пусть xP(t) — периодическое продолжение сигнала x(t), показанное на
рис. B.126).
Найдите коэффициенты ряда Фурье сп, которые определяются как
1 °°
спе
in @0 t
1 _
б)
Рис. 2.12
2—8
33

где coo — основная круговая частота, а Т — период сигнала xp(t).
Ответ.
j 0, при четном п ;
\4e/(/i2 л2), при нечетном п.
ГЛАВА 3
Фурье-представление временных
последовательностей
В предыдущей главе были рассмотрены вопросы Фурье-представления ана-
аналоговых сигналов. Такое представление теперь будет распространено на вре-
временные последовательности и цифровые сигналы. Для этого вводится понятие
дискретного преобразования Фурье (ДПФ) и доказывается несколько его
свойств. В частности, формулируются теоремы свертки и корреляции и анали-
анализируются спектральные характеристики такие, как амплитудный и фазовый
спектры и спектр мощности. На примере двумерного ДПФ показано, что ДПФ
может быть распространен на многомерный случай. Наконец, вводятся понятия
мгновенного спектра мощности и фазового спектра.
3.1. Определение дискретного преобразования Фурье
Если {Х(пг)} означает последовательность Х(пг), /п=0, 1, ..., N—1
конечных действительных или комплексных чисел, то дискретное
[1] или конечное [2] преобразование Фурье этой последователь-
последовательности определяется как
n-\
Ca(feH7rSX(m)U7"m> k=0' u- N~l (ЗЛЛ)
m=0
где W=e~i2n/N; i—V — 1. Экспоненциальные функции Whm в
C.1.1) являются ортогональными, т. е. удовлетворяющими усло-
условию
'N, если (k—/) равно нулю или
WkmW~lm = целому, кратному N; C.1.2)
О в других случаях.
Согласно выражению C.1.1) имеем
N— 1 N— 1
V Сх (k) W-ь» = — J] W~km [X @) + X A) Wk+... + X (m) Wkm + ... +
k+X(N-l)Wk{N-l)}7° C.1.3)
Используя соотношение C.1.2) в уравнении C.1.3), получаем
обратное дискретное преобразование Фурье (ОДПФ), которое оп-
определяется следующим образом:
h, m = 0, I,..., N—L C.1.4)
N-1
S
т=0
Так как выражения C.1.1) и C.1.4) составляют пару преобра-
преобразований, то представление временной последовательности {Х(т)}
через экспоненциальные функции Wkm является единственным.
34

Функции Whm являются Л/'-периодическими, т. е.
Wkm = w(k+N)m==wk(m+N)^ ^ = ^ ±^ ±^ C. 1.5)
Следовательно, последовательности {Cx(k)} и {Х(т}}, определяе-
определяемые выражениями C.1.1) и C.1.4), также являются ЛЛпериодиче-
скими. Иначе говоря, последовательности {Х(т)} и {Cx(k)}
удовлетворяют следующим условиям:
X(±m) = X(sN±m)\ Cx(±k) = Cx{sN ±k\ s = 0, ± 1, ±2,...
C.1.6)
Пользуясь выражениями C.1.5) и C.1.6), можно показать, что
q N-\
X (т) Wkm = V X (т) Whm C.1.7)
т—р m=0
И
2 сх (k) w~km =Y^cx (щ w-km, (з. l .8)
k=p k=0
когда р я q удовлетворяют условию \р—q\=N—1. Пару преобра-
преобразований, определяемых выражениями C.1.1) и C.1.4), в соответ-
соответствии с принятым соглашением [2] удобно обозначать как
X(m)~Cx(k).
3.2. Свойства ДПФ
Подробное обсуждение свойств ДПФ можно найтц в [2,4]. Ни-
Ниже рассмотрены те из этих свойств, которые понадобятся в даль-
дальнейшем.
Теорема линейности. Дискретное преобразование Фурье явля-
является линейным преобразованием, т. е. если Х(т) *-*Cx(k) и Z(m) =
= aX(m)+bY(m), то
Cz (k) = aCx (k) + b Cy (k). C.2.1)
Теорема комплексной сопряженности. Если {Х(т)} — {Х@) X
ХХA) ... X(N—1)} — такая последовательность действительных
чисел, что N/2 — целое число и Х(т) <^> Cx(k), то
Cx(N!2 + l)^C(Nl2—l), 1 = 0, 1,..., N/2, C.2.2)
где Cx(k) является величиной, комплексно-сопряженной Cx(k).
Доказательство. Х(т) «->Cx(k) означает, что
л/—1
i. e.
;V-1
JL+i)=±y X(m)W{N/2+l)m =
2 ./ N U У }
N—\
X (m) W~W2-l) m WNm = C"x {N/2—1),
35

так как WN™=\. Таким образом, Cx(Nl2 + l) = Cx(N/2—l), /=0,
1, ..., N12. Это означает, что коэффициент Cx(N/2) всегда действи-
действительный.
Теорема сдвига. Если Xm*-*Cx(k) и
Z(m) = X(m + ft), ft-О, 1, 2,..., Л/—1, C.2.3)
то
С,(*) = И7~*С*№). C.2.4)
Доказательство. Z(m) <^>Cz(k), т. е.
Z(m)Wkin, k = 0, 1, 2,..., tf-1, C.2.5)
C.2.6)
C.2.7)
Из выражений C.1.7) и C.2.7) следует, что Cz(k) = W~khCx(k)9
а это и требовалось доказать. Аналогично при Z(m)l=X(m—h),
й=0, 1, ..., N—1, можно доказать, что
Cz(k) = WkhCx(k). C.2.8)
Теорема свертки. Если {Х(т)} и {Y(m)} — последовательно-
последовательности действительных чисел, при которых
X (т) <-* Сх {k)y Y (m) ^ Cy (k), C.2.9)
а свертки этих пocлeдoвaтeльнocfeй определяются как
= — VX(h)Y(m — h), m = 0, I,..., N—l, C.2.10)
A/ LA
из этого следует,
Допустим т +
Cz{k) = W~kh ■
1
h =
1
N
что
7l + h)Wkm
-г. Тогда
У] Mr)
r=h
согласно C.2.6) получаем
и \
IP*}.
то
Cz(k) = Cx(k)Cy(k). C.2.11)
Доказательство. Вычисляя {Z(m)}y получаем
Cz (k) = -Ly« Z (m) Г'т, C.2.12)
m=0
= /fl S Sx (/l) Y {m~h) wkm =
36

Y(m — h)Wkm . C.2.13)
Согласно теореме сдвига имеем
N-l
^ (т—К) W =w С у (к). C.2.14)
т=0
Таким образом, из выражений C.2.13) и C.2.14) следует, что
Cz (k) = Су (k) -L I 2 X (h) Wkh | = Cx (k) Сy (k).
Выражение C.2.11) аналогично соотношению B.5.21), которое
выражает теорему свертки для случая представления сигналов в
виде рядов Фурье. Эта теорема утверждает, что свертка времен-
временных последовательностей эквивалентна умножению их коэффи-
коэффициентов ДПФ.
Теорема корреляции. Если {Х(т)} и {Y(m)} — последователь-
последовательности действительных чисел, при которых Х(т)*-> Cx(k)y Y(m) «-»
<-+ Cy(k), а их функция корреляции определяется соотношением
N—\
т = 0у 1,..., М— 1, C.2.15)
h=0
то С. (ft) = Сх (k) Cy (k). C.2.16)
Доказательство. По определению имеем
Л'— 1
С * (k) = — У, Z (m) lFfem C.2.17)
Подставляя C.2.15) в выражение C.2.17) и меняя порядок
суммирования, получаем
X(/i) Нг$]Г(т+/1)Г"тг C'2Л8)
Применяя теорему сдвига [см. выражение C.2.4)] к выраже-
выражению C.2.18), получаем
С. (к) = С, (Л) U- J] X (Я) ИГ"** . C.2.19)
Теперь
л=о
37

означает, что
N— 1
Сх (k) =—У! X (ft) W*1* . C.2.20)
N £j
л=о
Следовательно, из выражения C.2.19) следует С2А (k) = Cx(k)X
XCy(k), k = 0, 1, ..., N—1, что и требовалось доказать.
Комментарий. Если последовательности {Х(пг)} и {У(/?0} идентичны друг
другу, то выражение A6) сводится к следующему:
Как и ранее, ОДПФ последовательности {С * (k)} есть
№ ЛГ-1
Z(m)= 2 С; (b) W~km. C.2.22)
Подставляя C.2.15) и C.2.21) в выражение C.2.22), получаем
N—\ N—l
— £ X (Л) X (m + h) = £ | Cx(k) | ^ U7~^. C.2.23)
В частном случае при tn=0 это выражение сводится к
N—l N—l
У X2 (Л) = У I С* (Л) |2. C.2.24)
Л=о fe=o
Сравнивая выражения C.2.24) и B.5.17), нетрудно убедиться, что C.2.24)
выражает теорему Парсеваля для временной последовательности {Х(т)}.
Пример 3.2.1. Рассмотрим две последовательности с периодом, равным че-
четырем:
{X (ш)} = A2 - 13} и {Y (т)} = {-1141}.
Убедимся в том, что
з з
1
-Г" 2 ^@^B-0= V Cx{k)Cy{k)
io ko
W
-2k
1=0 k=0
Решение.
3
= -^- | X @) Y B) + X A) Y A) + X B) Y @) + X C) Y CI , # C.2.25)
так как Y(—I) = Y(—l+N) и W=4.
Подставляя числовые значения для Х(т) и Y(m), m = 0, I, 2, 3, в C.2.25),
получаем
, 3
— Ух (/)К B-/) = 2,5. C.2.26)
4 ли-
Зв

С другой стороны,
1 3
СХФ) = — 2 X(m)Wkmt Л = 0,1,2,3, C.2.27)
где U7=e-i2^/4 = —l Вычисляя коэффициент по C.2.27), получаем
Сх @) = 5/4 ; С* A) = B + 0/4, С, B) = _ 5/4 ; С, C) = B _ 0/4.
Аналогично
Су@) = 5/4, Су{1)= —5/4, С^ B)= 1/4, Су C) = —5/4.
Таким образом,
з
С^(^)СИ^)^~2/г = -^-{25 + 5B + 0-5 + 5B-0}-2,5,
что совпадает с результатом C.2.26).
3.3. Матричное представление корреляции и свертки
В § 3.2 понятия корреляции и свертки были введены с помощью
теорем корреляции и свертки. Если {Х(т)} и {Y(m)} — две N-ne-
риодические последовательности действительных чисел, то опера-
операции корреляции и свертки соответственно определяются как
C.3.1)
C.3.2)
h=0
л=о
Корреляция. Пусть в выражении C.3.1) N=4, тогда имеем сле-
следующую систему соотношений:
4 Z B)- X @O B) + X (l)Y C) + X BO D) + X C)Y E);
4ZLC) = X@)YC)-\-X(l)YD)+X{2)Y{5)+XC)YF). C.3.3)
Так как {Y(m)} имеет период, равный 4, то выражение C.3.3)
может быть представлено в матричной форме как
2@)
2C).
V@)
УB)
C.3.4)
39

Свертка. При N=4 из выражения D) следует
= X@)Y@) + X(l)Y( — l)+XB)Y( — 2)+XC)Y( —3);
= X@)Y(l) + X(l)Y@) + XB)Y(-l) + XC)Y(-2);
= X@)YB)+X(l)Y(l) +XB)Y@) + XC)Y(-l);
= X@)YC)+X(l)YB) +X BOA) +XC)Y@\ C.3.5)
т. e.
740)
741)
742)
Л'@)
XB) XC)
7@)
7C)
7B)
C.3.6)
Выражения C.3.4) и C.3.6) отражают существование простых
правил записи в матричной форме операций корреляции и сверт-
свертки, показанных стрелками. Эти правила легко переносятся на об-
общий случай записи матричных соотношений.
Корреляция.
"£@)
Z{2)
Z(N-2)
L£(*-i)J
Свертка.
-1)
-3)
Щ)
Z(tf-2)
_Z(N-1)_
IlC) .» X@)
К-2)
7@)
7A)
7B)
Y(N-2)
C.3.7)
7@)
7(ЛГ-2)
C.3.8)
40

В заключение отметим, что если последовательности \A{mj] и
{Y(m)} аналогичны друг другу, то из выражения C.3.1) следует,
что
n-\
£x{h)X(m + h), m = 0, I,..., W—1. C.3.9)
Это выражение определяет автокорреляцию последовательности
()}
3.4. Соотношение между ДПФ, преобразованием Фурье и рядом
Фурье
Пусть x(t) представляет собой такой действительный сигнал
длительностью L с, что ряд Фурье его периодического продолже-
продолжения не содержит гармоник с номером выше N/21. Так как fo =
= \/L Гц, то полосу сигнала В можно выразить как
C.4.1)
Согласно теореме отсчетов [см. выражение B.6.17)] и выра-
выражению C.4.1) x(t) может быть представлено N равноотстоящими
почетными значениями Х(т), такими что
X(m) = x(mAt)y m = 0, I,..., N— 1, C.4.2)
лде At = LfN — расстояние между отсчетами, и N^N.
Обозначим дискретное представление сигнала x(t) через х*(О>
лоторое по существу можно рассматривать как последователь-
последовательность лельта-функций, показанная на рис. 3.1. Дельта-функция
r(t)
х A
1
At
'^ /(j) x(N-
- T~h
"^ ^ L
-1)
^x(N) =x@)
t
x 0.
0
Рис. З.1. Дискретное представление x(t)
при t = mAt имеет интенсивность AtX(m). Таким образом, x*(t)
записывается как
ЛЛ-1
x*(t)= y^[AtX(m)]8(t—mAt), C.4.3)
где б(/) — дельта-функция Дирака.
1 Для удобства полагаем, что N является четным числом.
41

Связь с преобразованием Фурье. Вычисляя преобразование
Фурье x*(t), определяемого выражением C.4.13), получаем
оо N—1
Fx. (со) = Д * J £ X (т) б (/—т Д /) е~'ю * Л C.4.4)
—оо т=0
ИЛИ
ЛГ—1
F*. (со) = Д fg X (т) е~' * т А '• C-4-6)
Выражение C.4.5) определяет jFx •(<*>) для всех значений и).
Однако если интересоваться значениями Fx* (со) только на мно-
множестве дискретных точек, то выражение C.4.5) можно записать
как
F,.(*©0) = A*2 X(m)e-ikm<*°At9 * = 0, ±1, ±2,..., ±tf/2, C.4.6)
m=0
где coo=2k/L. Заметим, что в выражении C.4.6) /73с*(—^соо) =
=Ра;*(гсоо), г=0, 1, ..., N/2. Таким образом, без потери общности
выражение C.4.6) можно записать как
Fx* (ft©0) = Д *£ X (т) е~ '*" Юо Л', ft = О, 1,..., N/2. C.4.7)
т=0
Так как At=L/N и соо^=2я, то выражение C.4.7) записывает-
записывается как
N-1
ш C.4.8)
где W=e~i2nN. Сопоставляя выражения C.4.8) и C.1.1), получаем
необходимое соотношение
Cx(k) = j-{F*.(kaH>)}, k = 0, 1,..., N/2. C.4.9)
Связь с рядом Фурье. Согласно рис. 3.1 разложение x*(t) в
ряд Фурье имеет следующий вид:
N/2
k=—N/2
где ck= j x*(t)e-ik^dt, ft=6, ±1, ±2, ..., ±M/2 и coo=2k/L. Под-
Подставляя C.4.3) в выражение C.4.10), получаем
m=0
N—\
= Д/2 jX(mN(/—mAt)e~ik(*otdt
m=0L
42

или
N-l
cft = A/ ^Х(т)е~{к<0°тА\ C.4.Ц)
Подставляя At=L/N и G)o=2jt/L в выражение C.4.11), получаем
C.4.12)
т=0
Из сравнения выражений C.4.12) и C.1.1) можно заключить,
что Cx(k) связано с коэффициентами разложения в ряд Фурье
следующими соотношениями:
j ~ {c} k °lN'2 <3-4-13)
3.5. Спектр мощности, амплитудный и фазовый спектры
Понятия спектр мощности, амплитудный и фазовый спектры
основываются на результатах последнего параграфа, показываю-
показывающих непосредственную связь коэффициентов ДПФ, полученных с
помощью преобразования Фурье и разложения в ряд Фурье.
Спектр мощности. Напомним теорему Парсеваля, которая в
выражении C.2.24) записывалась следующим образом:
N— 1 N—1
cx(kr. C.5.1)
Если x(t) описывает форму напряжения или тока, а нагрузка
предполагается чисто активной и равной 1 Ом, то левая часть вы-
выражения C.5.1) представляет собой среднюю мощность, рассеи-
рассеиваемую резистором с сопротивлением в 1 Ом. Каждая величина
|Сэс(&)|2 в C.5.1) представляет собой мощность, содержащуюся
в гармонике, имеющей частоту с номером k. Поэтому спектр мощ-
мощности ДПФ определяется как
P(k) = \Cx(k)\\ k = 0, I,..., N-L C.5.2)
Из выражения C.5.2) можно сделать следующий вывод: имеет-
имеется только (N/2+l) независимых спектральных точек ДПФ, когда
{Х(т)} является последовательностью действительных чисел. Это
следует из свойства комплексной сопряженности, определяемого
выражением C.2.2). Этими точками являются
Р(*) = |Сж(*)|а, * = 0, 1,..., N12. C.5.3)
Из теоремы сдвига C.2.4) следует, что спектр мощности, опреде-
определяемый выражением C.5.2), инвариантен к сдвигам Af-периодиче-
ской временной последовательности {Х(т)}.
43

Амплитудный спектр легко определить с помощью спектра
мощности следующим образом:
p(*) = |Cx(ft)|, * = 0, I,..., N-1. C.5.4)
Амплитудный спектр также инвариантен к сдвигам временной
последовательности {Х(т)}.
Фазовый спектр. Для заданной временной последовательности
Х(т), т = 0, 1, ..., N—1, фазовый спектр определяется из следую-
следующего выражения:
(К)
= 0f 1,..., N-\9
C.5.5)
где Rx(k) и Ix(k) — соответственно действительная и мнимая ча-
части Cx(k). Как и в случае спектра мощности, в выражении имеет-
имеется только (N/2+Л) независимых точек фазового спектра ДПФ,
если {Х(т)} — последовательность действительных чисел. Неза-
Независимыми спектральными точками являются точки ^)x(k), й = 0,
1, ..., N/2.
Из выражений C.1.1) и C.5.5) вытекает фундаментальное
свойство фазового спектра, заключающееся в инвариантности к
умножению {Х(т)} на кон-
константу. Кроме того, из выра-
выражения C.5.5) следует, что точ-
точки фазового спектра я|)х(£) ото-
отображают ориентацию Cx(k) в
двумерном пространстве, как
Рис. 3.2. Геометрическая интерпрета-
интерпретация фазового спектра
показано на рис. 3.2.
В заключение отметим
следующие свойства ДПФ
Действительная спектра последовательности
ось действительных чисел {Х(т)}у
которые вытекают из свой-
свойства комплексной сопряжен-
сопряженности.
1. Спектр мощности, определенный выражением C.5.2), пред-
представляет собой четную относительно точки k = N/2 функцию.
2. Фазовый спектр, определенный выражением C.5,5), пред-
представляет собой нечетную относительно точки k = N/2 функцию (см.
задачу 3.6).
3.6. Двумерное ДПФ
Дискретное преобразование Фурье можно обобщить на случай
многих измерений, причем наиболее полезным оказывается обоб-
обобщение на случай двух измерений, поскольку оно широко применя-
применяется при обработке изображений [10]. Двумерное ДПФ определя-
определяется следующим образом:
ЛЛ>-1
C.6.1)
m2=0m,=0
44

где W=e~i2lt/N' и mi, ki изменяются ь .,,
/=1/2. Массив данных образует матрицу [Х(ти т2)\ размером
(#iX#2), т. е.
~Х@, 0) Х@, 1) ...Х@, #2—1)
ХA, 0) ХA, 1) ...ХA, #2—1)
[Х(тъ т2)=
!—!, 0) X(#!—!,
C.6.2)
Рассмотрим в выражении C.6.1) внутреннюю сумму, которая
определяется как
N,-1
... + X(Nl—li m2)WxliNl-l)}. C.6.3)
Из выражения C.6.3) следует, что правая часть представляет со-
собой ДПФ каждого столбца матрицы данных [Х(ть т2)]. Поэтому
введем обозначения
Л/,-1
C.6.4)
— 2J Х (mi. m2) ^i'm' = с* (Ль "Ч).
т1=0
Коэффициенты Сх(/гь т2) в выражении C.6.4) можно записать
в форме матрицы [Cx(ku rn2)] размером (NiXN2):
[С,
С*@, 0)
СяA, 0)
Сж@,
СхA,
...Сх@, #2-
^(^-l, 0) СЛЛ/х-1, 1)...С,(Л^-1, A/2-l)J
C.6.5)
В результате подстановки C.6.4) в выражение C.6.1) получаем
iV2-l
Схх (kl9 k2) =— V Сх (ku m2) Wk22 m* C.6.6)
или
... + СХ(ЯЬ Д/2— 1) 1^2 2 /.
Это означает, что коэффициенты Cxx(k\y k2) получаются путем
вычисления ДПФ каждой строки матрицы [Cx(ku ^2)], опреде-
определенной выражением C.6.5). В результате получается множество
45

из NiN2 коэффициентов, которые могут быть также записаны в
виде матрицы
жя@, 0) Схх@, l)...C«@, N2-l)
[Cxx(klt k2)] =
i, 0)
x(^i-l90) Схх(Ыг-1, l)...Cxx(N1-l,Nt
C.6.7)
Из приведенных выше рассуждений следует, что двумерное
ДПФ в выражении C.6.1) можно рассматривать как А^Л/2-кратное
использование одномерного ДПФ при следующих условиях.
i. При N=N\ ДПФ в выражении C.1.1) используется N2 раз
для получения коэффициентов [Cx(ku m2)], определенных выра-
выражением C.6.5).
ii. При N=N2 ДПФ в выражении C.1.1) используется N\ раз
для получения коэффициентов [Cxx(ku k2)], определенных выра-
выражением C.6.7).
В заключение отметим, что вследствие утверждений i и ii вы-
выражение C.6.1) можно записать в виде следующего матричного
соотношения:
1СХХ (К М = -~- Аг [X (т19 т2)] Л2, C.6.8)
где Ai — матрица размером (N\XNi), элементами которой явля-
являются ars=Wirs\ г, 5=0, 1, ..., Wi—1; Л2 — матрица размером {N2X
XN2), элементами которой являются prs=W2rs, г, 5 = 0, 1, ..., N2—
1 w i2^ и W2 i2*N
3.7. Мгновенный спектр Фурье
Если x(t) — сигнал с полосой В Гц, то соответствующий ему
дискретный сигнал x*(t) определяется как
х* (t) = А^Х(т)8 (t—mA t\
m=0
где Х(т) т-й отсчет и Д^^1/2В. Преобразование Фурье сигнала
x*(t) определяется как
Fx*^) = At^X(m)e~im("At. C.7.1)
Теперь покажем, что спектр мощности и фазовый спектр, соот-
соответствующие Fx* (со), могут быть вычислены реккурентно в момен-
моменты времени ^=5Д£, s = 0, 1, ..., N—1. Следовательно, спектр, полу-
полученный в результате такого вычисления, можно называть мгновен-
мгновенным спектром Фурье [7—9]. Будем предполагать, что необходимо
знать спектры на множестве частот оь, й=1, 2, ..., М. Допустим,
46

что x*(t) означает сигнал, который являек.» лрВ1,.,ш.ии» i,*^^
жением x*(t)\ т. е.
N-1
х*@ = Д<2 ^(N—i—>n)8(t—mAt). C.7.2)
m=0
Преобразование Фурье х*(Т) при со = соь определяется как
^W = 4'p(^-l-«)e"'^A'*=l, 2,..., М. C.7.3)
т=0
Можно показать [см. приложение 3.1], что спектры мощности и
фазовые спектры сигналов x*(t) и x*(t) связаны следующими со-
соотношениями:
*=1, 2,..., M. C.7.4)
Рекуррентный способ вычисления спектров ^^(©л)!2 и
•ф% (cofe). Из C.7.3) имеем
F*m (©л) = Д/{/?(©Л) —t/(©fe)}, C.7.5)
где
# (cOft) = V X (Л/"— 1 — m) cos (m ©ft A 0
И
Л/—1
/((Oft) =у Х(Л/—1—т)sin (т(Од АО.
т=0
Запишем F. (©&) в виде вектора F * (юь) размером Bx1)
C.7.6)
Теперь рассмотрим матрицу размером BX2)
L ((Oft) =
L sin ((Oft A 0 cos (©ft A /)
Можно показать, что матрица L(coft) является ортогональной (см.
задачу 3.9) и, следовательно, обладает следующим свойством:
I C ?
J'
sin(m(OftДt) cos(m(OftДО
где L(cofe)m означает m-ю степень L(o)fe). Таким образом, из
47

C.7.6) и C.7.7) следует, что
F^ К) = А * £ L (c»k)m Ъ X (N —! — /я),
т=0
где Ь= 1 . Теперь введем рекуррентное соотношение
C.7.8)
C.7.9)
Например, при s= 0, 1, 2 выражение C.7.9) принимает сле-
следующий вид:
ZK, О)^
(s), s = 0,
где s означает моменты времени t—sAt и
Z К, -!) = [§].
Следовательно, пользуясь методом математической индукции,
можно показать, что
N— 1
C.7.Ю)
или
(JV— 1 — т) cos (/ncoft A/)"
m=0
V X(N— 1 — т) sin (m coft A t)
т=0
Сравнивая выражения C.7.5) и C.7.11), получаем следующий
результат:
FiJcok) = At{Z1(<ok, A/-l)-tZ2K, N-l)}. C.7.12)
Из C.7.12) следует, что спектр мощности и фазовый спектр опре-
определяются как
\F. K)|2
C.7.13)
где ||Z(o)ft, Af—1)|| означает норму Z(o)ft, Л^—1).
48

Мгновенный спектр. Подставляя выражения C.7.13) в выраже-
выражение C.7.4), получаем
C.7.14)
Из выражения C.7.14) видно, что спектр мощности и фазовый
спектр x*(t) непосредственно связаны с Z(o)ft, N—1). Так как
Z(o)ft, s) согласно C.7.9) вычисляется рекуррентно, то мгновенный
спектр x*(t) можно определить как
fe, s)||2
ф,.(<ок, s) = —(arctg[ Z;{(»k>
k=l9 2,..., M; s = 09 1,..., N-L
C.7.15)
Очевидно, что при s=(N—1) мгновенный спектр совпадает со
спектром Фурье, определяемым выражением C.7.14).
Вычислительные аспекты. Спектры \Fx*{(dk, s) |2, определяемые
C.7.15), могут быть вычислены с помощью набора из М рекур-
рекуррентных соотношений вида, определенного выражением C.7.9).
На рис. 3.3 приведена структурная схема, поясняющая порядок
вычисления мгновенного спектра в точке о) = со^.
x(S)
L(cok)Z(ojk, S-1)+bx(S)
[Z2(wk.S)
!IZ(cok,S)||2
(AtJ
|F(cokf S)!2
arctg
-Z2(cok,S)
- So;kAt
Рис. 3.3. Рекуррентный метод вычисления мгновенного спектра
Частный случай. Рассмотрим случай, когда частоты он
выбраны так, что выполняется условие со^ = 2яй/(Л/гД/). Тогда вы-
выражения C.7.1) можно записать в следующем виде:
- i 2 я km
N-\
nt=0
49

Из этого выражения следует, что
= 0,1,..., N/2,
C.7.16)
где Cx(k) — k-n коэффициент ДПФ. Объединяя выражения
C.7.15) и C.7.16), получаем следующие выражения для мгновен-
мгновенного спектра мощности и фазового спектра ДПФ:
, s) = — [ arctg
(cOfe' s)
, s)
A /
= 0t 1,...,
s = 0, 1,..., N-l, C.7.17)
где (dh = 2nk/(NAt). Полученное выше выражение для мгновенно-
мгновенного спектра позволяет проследить характер изменения спектра, ди-
ел
ОС
ш
Q.
QQ
J
0
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
со
го
*-
3
8
9
со
7
8
7
5
4
4
б
б
6
б
б
6
б
б
б
6
б
б
6
б
б
6
to
to
—
3
8
9
8
8
9
8
б
5
5
6
б
6
б
7
7
7
б
6
б
6
6
6
б
6
6
*-
3
8
9
8
9
9
9
7
6
6
б
б
6
7
7-
7
7
7
7
7
7
7
7
7
7
7
to
СП
—
3
8
9
8
9
10
9
8
7
7
7
6
б
7
7
7
7
8
8
8
7
7
7
7
7
7
сэ
rvl
3
8
9
8
10
11
10
9
9
9
8
7
7
8
8
8
8
8
8
8
8
8
8
8
8
8
55
rvl
3
8
9
9
10
11
11
10
10
10
9
9
9
9
8
8
9
9
9
9
9
9
9.
9
9
9
СП
rvl
3
8
8
9
11
12
11
11
12
12
11
11
11
11
10
10
10
10
10
10
10
10
10
10
10
10
;£
го
3
8
8
9
11
12
12
12
13
13
12
13
13
12
12
12
12
12
12
12
12
12
12
12
12
12
Частота
LO
ГО
3
8
8
9
11
12
12
13
13
13
13
14
14
14
14
14
14
14
14-
14
14
14
14
14
14
14
СП
го
3
7
8
9
11
12
12
13
13
13
14
14
14
14
15
15
15
15
15
15
15
15
15
15
15
15
-*
3
7
7
9
11
11
12
13
13
13
13
13
13
13
13
13
14
13
13
13
13
13
13
13
13
13
— в
S
LO
3
7
6
9
10
10
11
11
11
11
11
10
10
10
10
10
10
9
9
9
9
9
9
9
9
9
ю
to
to
3
б
б
8
9
8
9
8
7
7
б
6
6
5
5
5
б
б
6
б
6
б
б
б
6
6
to
3
6
5
7
6
5
5
2
2
1
1
3
3
4
4
4
4
3
3
3
3
3
3
3
3
3
LO
f-
3
5
3
5
2
0
-1
-2
0
0
2
1
1
1
0
0
0
1
1
1
1
1
0
0
0
0
в
со
3
■з
2
2
-б
-3
-3
1
0
0
-1
-2
-2
0
0
0
0
-1
-1
-1
0
0
0
.1
-1
-1
to
CD
СП
3
2
0
-3
-4
-2
0
-1
-3
-5
-2
-1
-1
-3
-3
-3
-2
-2
-2
-3
-2
-2
-2
-2
-2
-2
СП
сэ
3
0
-2
-9
0
-3
-2
-8
-3
-2
-3
-5
-5
-2
-4
-4
-4
-3
-4
-4
-4
-4
-3
-4
-4
-4
со
ZZ.
3
-5
-6
-2
-1
-5
-9
-1
-5
-6
-3
-4
-4
-6
-4
-4
-б
-4
-5
-5
-5
-5
-4
-5
-5
-5
СП
со
fvj
3
-9
-9
0
-9
-5
-}
-9
-4
-з ■
-8
-4
-4
-7
-4
-5
-б
-4
-5
-5
-5
-5
-5
-5
-5
-5.
Рис. З.4. Мгновенный энергетический спектр затухающей сину-
синусоиды с частотой 4 Гц
50

скретного сигнала по мере обработки соответствующей временной
последовательности данных Х(т), т=0, 1, ..., N—1.
Это можно проиллюстрировать с помощью следующего кон-
конкретного числового примера.
Пример 3.7.1. Рассмотрим последовательность данных
m = 0,l 25,
которая получается в результате дискретизации по времени со скоростью
26 отсчетов в секунду затухающей синусоиды частотой 4 Гц, т. е. Л/=1/26 с.
Необходимо определить мгновенный спектр мощности \Fx*(fk, s)\2, s=0, 1,..., 25,
на множестве из 20 частот, которые равномерно отстоят друг от друга по
логарифмической шкале и определяются набором чисел: {/4} = {1,38; 1,55; 1,74;
1,96; 2,20; 2,48; 2,79; 3,14; 3,53; 3,97, 4,47; 5,03; 5,65; 6,36; 7,15; 8,05; 9,06;
10,19; 11,46; 12,89}. Результаты вычислений \Fx*(fk, s)|2, s = 0, 1, ..., 25, в виде
двумерной таблицы «время—частота—амплитуда» приведены на рис. 3.4. Пред-
Представленные в таблице значения \Fx*(fh> s)\2 сначала были пронумерованы
с помощью некоторого нормирующего множителя, а затем выражены в деци-
децибелах. Полученные таким образом значения обозначены d(fk, s). Пояснение
таблицы лучше всего провести с помощью следующих примеров:
i) dC,97; 15) = 15 и d(l,96; 2)=9 означает, что |FC,97; 15)|2 больше
|FA,96; 2)|2 на 6 дБ.
ii) dB,48; 6) = 11 и dA0,19; 6) =—2 означает, что |FB,48; 6)|2 больше
1^A0,19; 6)|2 на 13 дБ.
Для удобства минимальное значение d(f, s) было ограничено величиной
—9. На частоте 3,97 Гц и примыкающих к ней частотах мощность значительно
выше мощности на других частотах. Очевидно, это и следовало ожидать, по-
поскольку дискретный сигнал является затухающей синусоидой с частотой 4 Гц.
3.8. Заключение
В данной главе метод Фурье использован для представления
временных последовательностей данных {Х(т}} с помощью ДПФ.
Были доказаны некоторые из наиболее важных свойств ДПФ.
Кроме того, приведены дискретные аналоги операций свертки и
корреляции и доказаны соответствующие теоремы. Показана не-
непосредственная связь ДПФ с представлением {Х(т)} с помощью
преобразования Фурье и ряда Фурье. ,
Кроме того, понятие ДПФ было обобщено для двух перемен-
переменных. Наконец, были введены понятия мгновенного спектра мощно-
мощности и фазового спектра. Показано, что такие спектры можно ис-
использовать для отображения характера изменения спектра мощ-
мощности и фазового спектра дискретных й цифровых сигналов по
мере их обработки.
Приложение 3.1. Из выражения C.7.3) имеем
N— 1
= A t У X (N — 1 — т)е~1 % т м , k - 1,2, . . ., М ,
Произведя замену производных ц = Ы—1—m, получаем
° 1
X (ц) е1' Wk * * e~i (N-\)ak АН (П 3.1 Л)
51
F* (а>*) =

Очевидно, что
о
N—\
Х@)= Ц Х(т)еШ(Ок**- (П 3.1.2)
Подставляя выражение (ПЗ.1.2) в выражение (ПЗ.1.1), получаем
VN-l "I
4 1] X(/n)ei'W(°/tAt
[т=0 J
Это выражение означает, что
F^ ((oh) = е-1' I"* wft A '"F^ (cDfc), (П 3.1.3)
где Fx*((uk) —величина комплексного сопряжения с Fx*((uk)>
Поскольку
то
Т*. К) = | F*. (coft) | е~'V Ы. (П.3.1.4)
Подставляя (ПЗ.1.4) в (ПЗ.1.3), получаем
Из этого выражения следует, что
X
ИЛИ
;> 1)солА<], *=1, 2,...,
что и было доказано в C.7.4).
ЗАДАЧИ
3.1. Доказать, что при X(m) <->Cx(k):
а) X ( - ш) —- С* ( - Л) ;
N-1 Лт-1
б) С,@)=— J] X(m);X@)=-- Vc^(A).
в) С*(±£) = С*E# ±£), s = 0f ±1 , ±2, • • •
52

3.2. Показать, что {Л(т)} = {АЛ ... Л}— N-периодическая последователь-
последовательность, где Л—постоянная величина, {Ca(k)} = {Л 00 ... 0}.
3.3. Коэффициенты ДПФ последовательности действительных чисел с пе-
периодом, равным 8, соответственно равны Сж@)=5, Cx(\)=i, CxB) = l+i,
C«C)=2+3i\ C,D)=2.
Найти значения коэффициентов Cx(k), k = 5, 6, 7.
3.4. Рассмотреть последовательность {Х(т)} = {X@)X(\)XB)XC)} с пе-
периодом, равным 4. Прямое и обратное ДПФ этой последовательности опреде-
определяются соответственно как
X(m)Wkm,k =
C 3.4.1)
m=0
У
n) = Yi Cx(k)W~km, m = 0,1,2,3.
а) Записать выражение C3.4.1) в матричной форме:
C 3.4.2)
сх
сх
сх
сх
@I
A)
B)
C).
= — Л
4
-Х@)
ХA)
ХB)
C 3.4.3)
где Л — матрица размером DX4).
б) Убедиться, что Л является симметрической матрицей, т. е.
Л' = Л,
где штрихом обозначено транспонирование.
в) Убедиться, что если Л* означает матрицу, элементами которой явля-
являются числа, комплексно-сопряженные с элементами матрицы Л, то
Л*'Л = 4 1, C 3.4.4)
где I — единичная матрица размером Dx4).
Примечание. Можно показать, что свойства матрицы Л, отмечеьные в
C3.4.3) и C3.4.4), справедливы и в общем случае.
г) Пользуясь результатами пункта «в», найти матрицу Л-1, обратную мат-
матрице Л.
3.5. Заданы {Х(т)} = {X @) X (I) X B) X C)} и {Cx(k)} = {Cx(®)Cx(\)CxB)
СхC)}. Учитывая, что {R(m)} = {X(\)X@)XC)XB)}, определить коэффициен-
коэффициенты Cr(k) ДПФ, выражая их через коэффициенты Cx(k), k = 0, I, 2, 3.
Ответ. Cr@)=Cx(Q), Cx(\)=iCxC), Cr{2)=—CxB), CrC)=iCx(\).
Примечание. Показать, что
cr @)-
Cr(\)
=ЛМЛ"
СгB)
iCr C)J
где Л определена в задаче 3.4, и
ГО 1 0 0"
C 3.5.1)
0 0 0 1
0 0 10.
Произведение матриц ЛМЛ-1 называется преобразованием подрбия, соответ-
соответствующим матрице Л.
53

3.6. Показать, что для действительной последовательности {Х(т)} опреде-
определяемый C.5.5) фазовый спектр ДПФ является нечетной относительно точки
k — N/2 функцией, т. е.
3.7. Функция «растяжения» определяется следующим образом [2]:
г> / v. (X(m/s)для m = ps, р = 0,1, . . .,#—1,
Растяжение s {т : X} = {
Ю в других случаях.
Если Х(т) <->Cx(k), m, /г = 0, 1, ..., ЛГ—1, показать, что
С (k)
а) растяжение s{m:X} «-»—-—, 6=0, 1, ..., Ns—1;
s
б) Х(т)<-> растяжение e{/n:CxG0}> m = 0, 1, ..., Ns—1.
3.8. Предположим, что последовательность Х(т)у т=0, 1, ..., Л/"—1, выби-
выбирается в точках 0, s, 2s, ..., Af/s=l, где JV/s — целое число. Тогда «выбирающая
функция» определяется следующим образом [2]:
Выборка s{m: X}=X(ms), /n=0, 1, ..., N/s—\; эта последовательность
имеет период, равный N/s. Теперь, если Х(т) *-+Cx(k)t m, 6 = 0, 1, ..., N—\, то
показать, что
Выборка s{m: X}
3.9. Показать, что
L(co) =
г=0
rN\
cos (соА /) — sin (соA t) 
sin (coA /) cos (coA t) J
является ортогональной матрицей и
т [cos(m ©A t) — sin {
L (со) == I
[sin (m со A/) cos
3.10. Задана последовательность данных {Х(т)} = {\ 2—1 3}. Используя
ДПФ, показать, что мгновенный спектр мощности этой последовательности оп-
определяется по данным следующей таблицы.
S
0
1
2
3
\Cx@,s)\»
1/16
9/16
9/16
25/16
1/16
5/16
1/2
5/16
1/16
1/16
1/4
25/16
1/16
5/16
1/2
5/16
ГЛАВА 4
Быстрое преобразование Фурье
Основная цель данной главы — описание быстрого алгоритма для эффек-
эффективного вычисления ДПФ. Этот алгоритм, известный как алгоритм быстрого
преобразования Фурье (БПФ), значительно сокращает количество арифмети-
арифметических операций и объем памяти, необходимой для вычисления ДПФ (или
ОДПФ). В результате достигается увеличение быстродействия при использо-
использовании метода Фурье для цифровой обработки сигналов в целом ряде приклад-
прикладных областей. Подробное описание БПФ сопровождается несколькими число-
числовыми примерами, иллюстрирующими его применения.
54

4.1. Постановка задачи
Пусть {Х(т)} обозначает последовательность Х(т), т = 0,
1, ..., N—1, получаемую в результате дискретизации сигнала x(t)
с ограниченной полосой частот. Требуется получить алгоритм для
вычисления
N—1
xwwkm> k=0>1--' N-]< DЛЛ>
m=0
где W=e~i2sl''N и i=Y — 1- Напомним, что уравнение D.1.1) опи-
описывает ДПФ последовательности {Х(т)}. Искомый алгоритм на-
называется быстрым преобразованием Фурье [1]. Поскольку этот
алгоритм был первоначально описан Кули и Тьюки [2], то его
также называют алгоритмом Кули—Тьюки. Ниже предполагает-
предполагается, что iV = 2n, л=1, 2, ..., Птах- При этом общность не теряется,
так как N выбирается достаточно большим для того, чтобы удов-
удовлетворять теореме дискретизации1, т. е. N^2BLt где В — полоса
частот сигнала x(t)f Гц, a L — его длительность. Случай N, отлич-
отличный от N = 2n, обсуждается в [1, 3, 4, 5].
4.2. Обоснование поиска алгоритма
Рассмотрим случай вещественно-значной последовательности
{Х(т)} при N=8. Из свойства комплексной сопряженности ДПФ
следует С* D+■/)=£*D—/), /=1, 2, 3. Поэтому в D.1.1) достаточ-
достаточно вычислить
7
X(m)Wlm, 6 = 0,1,..., 4, D.2.1)
т=0
где W=e~iTC/4. Из D.2.1) следует, что
7 7
m=0 m=0
где
т=0 т=0
D.2.2)
Пользуясь матричным обозначением, выражение D.2.2) можно за-
записать в виде А = СХ, B = SX, где А и В — векторы размерностью
Б, X — вектор размерностью 8, а Си S>— матрицы размером
EX8), приведенные ниже:
Теорема Котельникова. (Прим. пер.)
55

1 1 _ 1 1 _ 1 1 1 1 _ ■
1 i/|/2 0 —1/1/2 —1 — 1/J/2" 0 l/j/2~
1 0 _ — 1 0 1 0_ — 1 0
! -1//2 0 1/yT —1 1/1/2 0 —1/1/2"
1—1 1—1 1—1 ! —1
0 0 0000 00"
0 1/1/2" 1 1/1/2" 0 —1/1/2" —1 — 1/VT
0 1 _ 0 —1_ 0 1 0—1
0 1/K2 -1 1/1/2" 0 —1/1/2" 1 -1/1/2"
00 OOOq 00
D.2.3)
Рассмотрение матриц С и S показывает, что их элементы в зна-
значительной степени повторяются. Это объясняется двумя обстоя-
обстоятельствами.
1. Синусоиды образуют семейство с сильно выраженными свой-
свойствами, которые можно использовать только при определении от-
отсчетов сигнала.
2. Если N представляет собой число равноотстоящих отсчетов
сигнала x(t), то повторяемость элементов в матрицах С и S воз-
возрастает в соответствии с числом множителей в N. Представление
N в виде N = 2n = 2-2 ... 2 называется «представлением N в виде
произведения большого числа множителей» [1, 6]. Ниже будет
показано, что такое представление N приводит к значительному
сокращению времени вычислений и объема требуемой памяти.
4.3. Основа для вывода алгоритма
Основой для вывода желаемого алгоритма является установле-
установление связи между общим видом приведенных выше матриц С и S
и степенями W, являющимися первообразными корнями степени
N из единицы, а также использование представления чисел, кото-
которое допускает дальнейшее обобщение.
Представление числа. Каждое десятичное число m,
5=SJV—1 выражается в двоичном виде
2n~l
2*,
т = mn_x 2n~l + mn_2 2п~2 +... + mx 21 +
где mv = 0 или 1, v = 0, 1, ..., п—1, n=\og2N. Таким же образом
каждое десятичное число k, O^ik^N/2, записывается как
k = kn-x 2n~l + kn-2 2n~2 +... + kx 21 + k0 2°,
где kv = 0 или 1, u = 0, 1, ..., n—1. Обозначая двоичное представле-
представление X(m) как Я(т), получаем
X (т) = X (тп^ 2п~{ + тп^ 2п~2 +... + т121 + т0 29) =
n_2,..., тъ m0).
D.3.1)
56

Выражение D.3.1) приводит к важному соотношению
Л/-1
m=0
Покажем справедливость выражения D.3.2) для случая N = 4.
Для этого правую часть выражения D.3.2) запишем как
1, m0)
тп0 т1
ИЛИ
x (
i+mo]=^ (о,
-X@,
D.3.3)
Из выражения D.3.3) следует, что аргументы Х(т) соответствуют
двоичному представлению десятичных чисел т, записанному в
естественном порядке следования, как показано т 4ql
в табл. 4.3.1. Таким образом, выражение D.3.3) 1аОли1*а "-1
принимает вид
'+M'1 = j; X(m)Wkm,
m=0
что соответствует выражению D.3.2) при з
N = 4.
m
0
1
2
3
0
0
1
1
0
1
0
1
4.4. Вывод алгоритма
Вывод алгоритма [7, 8] наиболее нагляден при N = 8, поэтому
запишем
7
Х(т)Г*т' * = °. 1.-. 7, D.4.1)
где W=e~ijx"li. Выразим т в двоичной системе счисления
т = т2 22 + т121 + т0 2°. D.4.2)
57

Из D.3.2), D.4.1) и D.4.2) следует, что
т0 тх т2
= V V 2 X (т2, тъ т0) Wikm> W2kmi Wkm° . D.4.3)
tn0 mx m2
В выражении D.4.3) внутреннее суммированле по т2 обозначим
через М2, что записывается как
М2=Ух(тъ mLi mo)W4km* .
m2
Подставляя в это выражение двоичное представление k и учиты-
учитывая, что W4= — 1, получим
(т.2, щ, mo)(-l)m'^+2k^\
т2
Поскольку (—1)^№+2*1] = 1 э значение М2 можно записать в виде
^(^2, тъ mo)(-l)"°m2 . D.4.4)
т2
В выражении D.4.4) суммирование по т2 приводит к величине,
которая является функцией ko, Ш\ и то. Поэтому вводится обозна-
обозначение
М2 = У X (т2, тъ т0) (— 1)*°т% = Хг (k0, ml9 m0). D.4.5)
т2
Подстановка D.4.5) в выражение D.4.3) дает
8СХ (k) = S V х, (k0, m1( щ) W2ftm' Wkm\ D.4.6)
Вновь рассмотрим внутреннее суммирование в D.4.6) и обозна-
обозначим его через Ми что запишем в виде
Ako, тъ mo)W2km' =2^i(^, Щ, m9){-ifk^+k°)m\
тх
D.4.7)
В выражении D.4.7) (—tLft2™i=l, и поэтому запись упрощается:
i(*o. mi> rno)(-ifkl+ko)m'. DA8)
Суммирование по т\ в D.4.8) приводит к функции, зависящей от
ko. k\ и mo, т. е.
М± = Х2(к0, ki9 m0). D.4.9)
Подставляя D.4.9) в D.4.6), получаем
8C*(*) = 2U(*o. К mo)Wm°k.
58

Обозначим суммирование по т0 через М0=И X2(ko, ku m>o)Wmok,
m0
что можно записать в виде
Л/Г ТМ? /*. ^ \/ I — i \(*k2+2kt-\-k0) m0
Л1° = 2j а( 0> lf m°4"Wy • D.4.Ю)
Рассмотрение формулы D.4.10) приводит к выводу, что дальней-
дальнейшее упрощение невозможно. Суммирование по т0, как и ранее,
приводит к функции, зависящей от k0, k\ и k2, которую обозначим
через Я3(*<ь *ь *г), т. е.
А«о = Хз(*о, *ь *«). D.4.11)
Это означает, что
8С^) = 8С*(£2, К ko) = X3(kOf kl9 *,), D.4.12)
и, следовательно, D.4.5), D.4.9) и D.4.11) позволяют выполнить
действия, необходимые для получения коэффициентов ДПФ Cx(k).
Однако остается неясным, как в дальнейшем пользоваться этими
формулами. В качестве первого шага для ответа на этот вопрос
сделаем два замечания.
1. При N=8 получаем log2A^=3 такие формулы.
2. Коэффициенты (—1), (—i) и A<—i)jV~2 в этих формулах
выражаются через корень из единицы, e~i2n. Очевидно, что (—1),
(—i) и A—i) I V~2 являются соответственно корнями 2, 4 и 8-й сте-
степени из единицы. Поэтому введем обозначение
Л2Л=е-'я/2\ г=1, 2,..., log2tf, D.4.13)
где А2г является 2г-м первообразным корнем из единицы. Непо-
Непосредственно можно показать, что А2г обладают следующими свой-
свойствами:
A2r=WN/2r , W = e~i2n/N; D.4.14a)
(A2)W=-(A2ry, r=l, 2,..., \og2Ny 1 = 0, 1,..., 2-i, D.4.146)
где А, = 2^;
(Л^/2=_1. D.4.14b)
Теперь выражение D.4.5) можно записать с помощью А2т
ml9 mo) = ^X(m2t ml
Откуда
^ X(O, ml9 mo) + X(l, mlt moL°. D.4.15)
В D.4.15) ko может принимать значение 0 или 1. Соответственно
для каждого значения ko запишем по четыре уравнения при пере-
переменных ГП\ И /По.
59

Случай 1: &0 = 0
*i@, О, О) = Х(О, О,
Xl(O, О, 1) = Х(О, О,
О,
О,
Случай 2: k=\
A, О, О) = Х(О, О,
A, О, 1)-Х(О, О,
D.4.166)
Приведенная последовательность сложений и вычитаний, показан-
показанная на рис. 4.1, обозначена как итерация 4И, что соответствует
Итерация #1 Итерация #2 Итерация #3
х@)
1/8
х3 @) в Сх @)
х2@)
1/8
х2{1) ^L__ \х3A) -_* СхD)
-AS
'8
х2
х2
B)
C)
ч *>
X
Z
^
CB) -
х3C).
1/8
1/8
" Сх
- Сх
B)
F)
-Ао
х2{4)
• Cx(D
4 X \
\ 1 /8
2 E) Z__ X х3 E) —* Сх E)
д 1
Х2F)^
N /дЗ
G)
х3F) У8 СхC)
-А^
Рис. 4.1. Граф БПФ при W =
60

r=l в D.4.13). Формула D.4.9) с помощью Л4 также записывает-
записывается в виде
X,(k0, kx, tn0) = X1(k0, О, щ)
В результате получаем по два уравнения для каждого значения
(k\, k0). Так как (ki, k0) принимает четыре значения, то рассмот-
рассмотрим следующие четыре случая:
Случай 1: (/г,, ko) = (O, 0)
Х,@, 0, 0) = Х1@, 0,
D.4.17а)
Х2@, О, 1)=^1@, 0, 1L-^
Случай 2: (/г,, /г0) = @, 1)
Х2A, О, 0) = Х1A, 0, 0)+а
D.4.176)
X2(h О, 1) = Х1A, 0, 1)+ ^^A, 1, 1)^Х2E) = Х1E)+Л4Х1G).
Случай 3: (ku ko)=>(l, 0)
Х2@, 1, 0) = Х1@, О, 0) + А24Х1Ф, 1, 0)^Х2B) = Х1@)-Х1B);
D.4.17b)
^2 @, 1, 1) = Х1@, О, 1) + ^Х1@, 1, 1)-^Х2C) = Х1A)-Х1C).
Случай 4: (Аь *о) = A, 1)
*20, 1, 0) = ХЛ1, 0, 0) + ли!A, 1, 0)->Х2F) = Х1D)-Л4Х1F);
D.4.17г)
Х2A, 1, 1) = Х1A, 0, ^
Последовательность арифметических операций в D.4.17а) —
D.4.17г) обозначается как итерация ф2 на рис. 4.1, что соответст-
соответствует г=2 в D.4.13). Наконец, формулу D.4.11) с помощью А8 за-
запишем в виде
, ku 0) + X2(k0, ku 1)ЛГ^+2*1+*о), D.4.18)
ующим случа
k0) = @, 0, 0
Х3@, О, 0) = Х2@, О, 0) + Х2@, О,
что приводит к следующим случаям.
Случай 1: (k2, k{, k0) = @, 0, 0)
Случа'й 2: (k2, ku k0) = @, 0, 1)
D.4.19а)
Х,(\, О, 0) = Х2A, О, 0) + Л8Х2A, О, 1)-^Х3D) = Х2D) + Л8Х2E).
D.4.196)
61

Случай 3: (k2, ku ko)= @, 1, 0)
, @, 1, 0) = X,@, 1, 0) + ЛЦ2@, 1, 1)->X3B) = X
D.4.19b)
Случай 4: (k2, kx, ko) = (O, 1, 1)
D.4.19r)
Случай 5: (k2, kh k0) = A, 0, 0)
@, 0, l) = X2@, 0, 0) + 4X2@, 0, 1)->X3A) = X2(O)-X2A).
D.4.19д)
Последовательность арифметических операций в D.4.19а) —
419) 41 ф
рф р (
D.4.19), показанная на рис. 4.1, обозначена как итерация ф
что соответствует г=3 в D.4.13). Для получения желаемых зна-
значений Cx(k) вспомним, что
8СХ(К къ ko) = X3(ko, ku kj. D.4.20)
Двоичные коэффициенты &о, k\ и &2 появляются в!з( ) в инвер-
инвертированном порядке, в отличие от Сх( ), где они появляются в
естественном порядке. Такой порядок называется двоичной инвер-
инверсией. Итак, ^3( ) связаны с Сх( ) следующим образом:
4). D.4.21)
Остальные коэффициенты Cx(k), k = 5, 6, 7 могут быть получены1
как_Сх{4 + 1)=СхD—1), 1=1, 2, 3, т. е. СЖE)=СХC), СяF) =
= СХB) и СХG)=СХ{1). Коэффициенты СхE), С*F) и C,,G) мо-
могут быть вычислены по D.4.22) и D.4.18) следующим образом2:
8СхE) = ХзE) = Х2D)-Л8Х2E); 8СХF) = Х3C) = Х2 B)-
- Л^ Х2 C); 8СХ G) = Х3 G) = Х2 F)-Л| Х2 G). D.4.22)
Арифметические операции, приведенные в D.4.22), показаны в
итерации фЗ на рис. 4.1 штриховыми линиями. Рисунок 4.1 пред-
представляет собой граф БПФ для N=8.
Примечания. В отношении приведенного выше графа БПФ можно сделать
следующие выводы.
1. Максимальное значение индекса итерации г определяется как n=\og2N=
= 3 при #=8.
2. В г-й итерации, г=1, 2, ..., Iog2 N, используются следующие множители
A*2r,s = 0,1. . . .,2г-!-1. D.4.23)
1 Это справедливо только для действительных значений последователь-
последовательности {Х(пг)}.
2 Эти вычисления справедливы как для действительных, так и для комп-
комплексных значений исходных данных.
32

При г=1 в итерации #1 используются множители Л°2. Так как Л°2=1, то в
этой итерации осуществляются только сложения и вычитания. При г=2 в ите-
итерации #2 используются множители Л°4 и Л*4; при г=3 в итерации #3 — мно-
множители Л°8, Л18, Л28 и Л38.
3. На г-й итерации промежуточный массив содержит 2Г~4 групп по ЛГ/2Г~4
величин в каждой группе. Для каждой группы используется один множитель
вида Asr. Половина величин, входящих в группу, связывается с +Л5Г , а ос-
остальные с —Asr .
2
4. Первый элемент Хг( ) каждой группы, связанный с множителем Asr,
на r-й итерации может быть получен, как показано в табл. 4.4.1, которая не
требует пояснений.
Таблица 4.4.1
S
0
1
2
3
S = S
0
0
0
0
0
0
1
1
0
1
0
1
0
1
0
1
0
0
1
1
k2
0
0
0
0
1-й член группы, для которой ис-
используется As
Хг (к) =Xr (ko,kltk2)
Хг@)
ХгD)
ХгB)
ХгF)
5. Cx(k)y соответствующие каждому Х3G)=0, 1, 2, ..., 7, получают следую-
следующим образом:
а) выражают последовательность /=0, 1, 2, ..., 7 в двоичной форме 000,
001, 010, 011, 100, 101, 110, 111;
б) осуществляют двоичную инверсию каждой трехразрядной двоичной по-
последовательности, указанной в п. «а»: 000, 100, 010, ПО, 001, 101, 011, 111;
в) записывают двоичную последовательность, приведенную в п. «б», в виде
десятичных чисел 0, 4, 2, б, 1, 5, 3, 7.
Таким образом устанавливается взаимооднозначное соответствие между
последовательностями &=О, 4, 2, 6, 1, 5, 3, 7 и /=0, 1, 2, 3, 4, 5, 6, 7.
6. Все операции, связанные с вычислением Сх@) и СхD), действитель-
действительные. Таким образом, Сх@) и СхD) являются действительными числами, что
согласуется со свойством комплексной сопряженности ДПФ.
7. Если действительные и мнимые части считать отдельно, то числу вели-
величин исходного массива данных Х(т) при N=8 будет точно соответствовать
8 независимых величин, входящих в Cx(k).
8. Выходные величины г-й итерации можно хранить в тех же ячейках памяти,
что и величины исходного промежуточного массива данных. Чтобы подтвер-
подтвердить это положение, рассмотрим, например, выходные величины 1-й итерации
Х1@)=Х@)+ХD) и Х1D)=Х@)—ХD). Ясно, что Xi@) и Х4@) могут хра-
храниться в двух рабочих ячейках 7\ и Гг, что записывается как Т\ — Х@)-\-ХD)
и Т2 = Х@)— ХD). Поскольку Аг@) и ХD) в дальнейших вычислениях, прово-
проводимых на 1-й итерации, не используются, содержимое ячеек 7\ и Т2 можно
записать в ячейки, в которых хранились Х@) и ХD). Таким образом, Xi@) и
XiD) хранятся в ячейках, ранее использованных для хранения Х@) и ХD).
Также хранятся Xi(m) в ячейках Х(т) га=1, 2, 3, 5, б, 7 соответственно.
Эта же процедура используется при перезаписи величин промежуточного мас-
массива Х2(т) в ячейки, где до этого хранились величины Xi(m), и так далее.
Это свойство графа БПФ, изображенного на рис. 4.1, называется «вычисле-
«вычислением на месте» [1]. В этом случае не требуется дополнительных ячеек опера-
63

тивной памяти для хранения различных промежуточных массивов. Общее чис-
число ячеек оперативной памяти, необходимых для осуществления БПФ, равно
2N, если исходный массив данных является комплексным. Кроме того, тре-
требуется еще 2N ячеек для выполнения двоичной инверсии.
9. Общее число арифметических операций (т. е. умножений с последую-
последующим сложением или вычитанием), необходимых для получения всех Cx(k),
k — 0, I, ..., N—1, равно примерно N\og2N.
10. Алгоритм БПФ не зависит от того, являются исходные величины дей-
действительными или комплексными. Следовательно, он може^ быть использован
для вычисления ОДПФ с незначительными изменениями, которые следуют из
C.1.4) и D.1.1): _
W заменяется на W\
опускается множитель \/Nt стоящий после последней итерации.
Такая модификация алгоритма БПФ будет в дальнейшем именоваться об-
обратным быстрым преобразованием Фурье (ОБПФ).
11. Множители, используемые в графе БПФ, могут быть выражены непо-
непосредственно через степени W в соответствии с тем, что A ir = WN/2r. Ниже
(пример 4.5.4) показано, что соответствующий граф БПФ может быть построен
непосредственно с использованием степеней W с помощью простого правила.
4.5. Численные примеры
Пример 4.5.1. Для заданной последовательности Х(О) = 1; Х(\)=2\ ХB) = \;
ХC) = 1; ХD)=3; ХE)=2; ХF) = 1 и ХG)=2 вычислить коэффициенты ДПФ
Cx{k), /г = 0, 1, ..., 7, используя БПФ.
Решение. Так, при N=8 используется граф БПФ, изображенный на
рис. 4.1, где А2г =е-г'2я/2г!_г=1, 2, 3, т. е. А2 = — 1 Л4 = —t, Л8=A— i)lV2,
Ah = -i и Л38=-A+0/ У 2-
В соответствии с последовательностью вычислений, обозначенных на графе,
получаем:
1/8
X @) = 1 ; Хх @) = 4 ; Х2 @) = б ; Х3 @) - 13 - ► - Сх @) ;
1/8
2Х) 4ХA) 7ХA) 1 ►СD)
ХB) = 1 ;Х1B) = 2;Х1B) = 2;Х3B) = 2-/ -*-С*
X C) = 1 ; X* C) = 3 ; X, C) = 1 ; Х3 C) = 2 + / - ►-С, F) = Сх{2);
1/8
ХD) = 3;Х1D)= _2;Х2D)= - 2 ; Х3 D) = - 1,293 +i 0,707 -►- Сх A);
1/8 _
X E) = 2 ; Х^ E) = 0 ; Х2 E) = i; Х3 E) - —2,707 — / 0,70 7— ►—Сх E) - СхC)
X F) = 1 ; Хг F) = 0 ; Ха F) = — 2 ; Х3 F) = — 2,707+t 0,707 - ►—С* C);
1/8
ХG) = 2 ; Хг G) = — 1 ; Ха G) = — i ; Х3 G) = - 1,293 - i 0,707- ► —СхG) =
= СХ(\).
Пример 4.5.2. Дана последовательность Х@) = \\ Х(\)=2\ ХB)— — 1 и
)=3.
а) Применить БПФ для вычисления коэффициентов ДПФ Cx(k), k = 0, I,
2, 3.
б) Подтвердить, что алгоритм БПФ можно применять для восстановления
последовательности Х(т), т=0, 1, 2, 3, по коэффициентам Cx(k), полученным
в п. «а» и используемым в качестве исходного массива данных.
64

Решение, а) В данном случае число итераций равно 2, так как ЛГ=4.
Вычисляем Л2г=е-г2я/2г, г=1, 2 и получаем Л2 =—1 и Л4=— L При г=1
используется множитель Л°2, а при г=2 — множители Л°4 и Л*4. В соответ-
соответствии с табл. 4.4.1 получаем:
S
0
1
s= s (kt,k0)
0
0
к
0
1
0
1
0
0
1-й член группы, для которого,
используется АЪг,
Xr(fe)=Xr(/e0,fe1)
Хг@)
ХгB)
Полученных данных достаточно для построения графа БПФ при
(рис. 4.2).
х{0) =1
х<2) = -
осC) =3
х2@) =5-
х2B) =2+ (-1)А4= ■
1/4
1/4
1/4
С BJ
Су (И
х2C) =2- (-1
2+ i
2- i
Рис. 4.2. Граф для примера 4.5.2
6) Как известно, ОДПФ определяется из выражения
N=1
На рис. 4.3 изображен соответствующий граф ОБПФ, в котором Аь = 1, так как
^4 = —i в п. «а». Как видно из рис. 4.3, в результате получаем Х@) = 1; ХA)=2;
<^B)= — 1 и ХC)=3, что соответствует последовательности Х(т), /п=0, 1,2, 3,
приведенной в п. «а».
5
о@) = 4
С, @) =0
С, A) =1
C2 @) - 1 _» x (Q) = 7
-1
С, B) =2,5.
C) --у
Рис. 4.3. Граф для примера 4.5.2
3—88
А4
С2A) =-1-
С2B) =2,5+ (i/2)A4=2-
C2C) =2,5- (i/2)A4 = -
-хB) *-.
■хA) =;
C) =з

Пример 4.5.3. Для заданной входной последовательности X(m)t т=0,
1, ..., 15, построить граф БПФ при N=16.
Решение. При N=16 получаем л=4, что означает, что индекс итера-
итерации г принимает значения 1, 2, 3, 4. Следовательно, надо вычислить множи-
множители As2r =[е-^я/2г]8) r==i} 2, 3, 4; s = 0, 1, ..., 2r~*—1, и записать их, как пока-
показано в табл. 4.5.1. Таблица 4.5.2, приведенная ниже, строится так же, как при
N=4.
Таблица 4.5.1
Номер итерации
1
2
3
4
А\
А\\
А0 -
л%
Используемые множители
А\
г=1
г = 2
Рис. 4.4. Граф БПФ для примера 4.5.3
66
Сх@)
Сх(8)
СхG)
СхA5)

Таблица 4.5.2
s
0
1
2
3
4
5
6
7
s=
0
0
0
0
0
0
0
0
s
0
0
0
0
1
1
1
1
0
0
1
1
0
0
1
1
I3,k2>kltko)
0
1
0
1
0
1
0
1
0
1
0
1
0
1
0
1
0
0
1
1
0
0
1
1
0
0
0
0
1
1
1
1
2,k3
0
0
0
0
0
0
0
0
1-й
Xr
Xr
Xr
Xr
Xr
Xr
Xr
Xr
член группы, для которого
используется д*г
*,(*>-*>.. *,. *..*,)
@)
(8)
D)
A2)
B)
A0)
F)
A4)
Пример 4.5.4. а) Применив формулу D.4.14а), перейти от графа БПФ для
N=16, изображенного на рис. 4.4, к соответствующему графу БПФ, содер-
содержащему степени W.
б) Пользуясь результатами из п. «а», получить правила построения графа
БПФ при 7V= 16, содержащего степени U?, не применяя формулу D.4.14а).
х@)
Рис. 4.5. Граф БПФ для примера 4.5.4
3*
G7

Решение, а) При N=16 имеем п = 4 и, следовательно, формула
D.4.14а) дает A2r=W^2r>, г=1, 2, 3, 4, где Г=е-'2я/16. Заменяя А % в гра-
графе на рис. 4.4, получаем в соответствии с этим соотношением граф БПФ, по-
показанный на рис. 4.5.
б) Рассмотрение графа БПФ, приведенного на рис. 4.5, показывает, что
он может быть построен в соответствии со следующей процедурой:
Шаг 1: Выразить последовательность /=0, 1, ..., (N/2—1) в
виде (п—1)-разрядных двоичных последовательностей. В резуль-
результате получаем множество S1 = {000, 001. 010, 011, 100, 101, ПО,
111}.
Шаг 2. Произвести двоичную инверсию каждой (п—'^-раз-
(п—'^-разрядной последовательности множества 5i для получения S2={000,
100, 010, 110, 001, 101, 011, 111}.
Шаг 3. Записать двоичную последовательность S2 в виде де-
десятичных чисел S3={0, 4, 2, 6, 1, 5, 3, 7}.
Шаг 4. Пользуясь S3, сформировать S* = {№°, W\ W2f W6,
W\ W*9 W\ W7}.
Шаг 5. Итерация г состоит из 2r~l групп, где г=1, 2, 3, 4.
Элементы множества S*, полученные на четвертом шаге, припи-
приписываются этим группам следующим образом:
Номер итерации
1
2
3
4
Степени
W° W*
W°',W*tW2 ,W6
W°' W* \ W2' U^6, W1 Wb
Описанная процедура не требует использования формулы D.4.14а)
и приводит к графу БПФ при N=16, изображенному на рис. 4.5.
Данную процедуру можно обобщить для любого N=2n (см. за-
задачу 4.4).
4.6. Перестановка данных
Из проведенных в предыдущих параграфах рассуждений сле-
следует, что двоичная инверсия играет важную роль в рассмотренном
варианте алгоритма БПФ. В общем случае двоичная инверсия тре-
требует значительных затрат времени. Однако при N=2n двоичную
инверсию можно быстро осуществить, пользуясь методом переста-
перестановки данных, в котором применяется только десятичная арифме-
арифметика. Процедура, обеспечивающая инверсию, может быть описана
следующим образом:
Шаг 1. Выразить N в терминах п множителей
ns = Nl2\ s=l, 2,..., п. D.6.1)
68

Шаг 2. Сформировать следующую таблицу Гп:
О
п3 (% + п3) (п2 + п3) (п± + п2 + п3)
Таким образом, k-я строка таблицы Тп, k=l, 2, ..., /г+1, полу-
получается прибавлением nk-i к каждому элементу предыдущих (&—
— 1) строк. Требуемая последовательность Ln, соответствующая
двоичной инверсии данных, получается в виде
£п = {°, пъ пъ (n± + n2)9 п39 (Пг + nJ,..., (п1 + п2 + ...+пп)}. D.6.2;
В качестве примера рассмотрим случай \N=8. При этом фор-
мула D.6.1) дает azi = 4, я2=2, пг=1. Таблица Г3 имеет вид
О
4
2 6
15 3 7
и дает последовательность L3={0, 4, 2, 6, 1, 5, 3, 7}, KOTopaJ
представляет собой «переставленную» исходную последователь
ность, расположенную в естественном порядке {0, 1, 2, 3, 4, б, 6, 7}
4.7. Объем вычислений и памяти
Объем вычислений. Из D.1.1) следует, что Cx(k) можно вычис
лить в результате умножения матрицы размером (NXN), состав
ленной из степеней W, на iV-мерный вектор исходных данных. Чис
ло арифметических операций (т. е. комплексных умножений
последующим сложением или вычитанием) в этом случае пример
но 2N2. Такой метод вычисления коэффициентов ДПФ будем назь
вать «прямым методом». Использование БПФ приводит к loga;
итерациям, и общее число требуемых арифметических операци
станет равным примерно N\og2N.
Из приведенных выше рассуждений видно, что общее числ
арифметических операций, требуемых для вычислений по прямом
методу и по алгоритму БПФ, пропорционально N2 и N соответс
венно. Следовательно, по мере возрастания N повышается экот
мичность БПФ по сравнению с прямым методом. Это видно i
рис. 4.6, на котором t ДПФ и t БПФ — время выполнения вычисл
ний по прямому методу и по алгоритму БПФ соответственно. V
рис. 4.6 получаем, что t ДПФ ^0,0173АП.95 и ^БПФ tt5,528Nl>167, о
куда следует, что /ДПф и ^бпф примерно пропорциональны N2

Л7 соответственно. Приведенное время вычислений было получено
на ЭВМ с 16-разрядной сеткой (iNOVA 1200) и при программиро-
программировании на языке BASIC. Вычисление всех 8192 коэффициентов
ДПФ с помощью БПФ на ЭВМ IBM7094 занимает 5 с, а прямым
методом — 0,5 ч [1].
1000
Секунды
100
10
/
/
/
/
/
/
/
/
БПФ
У
/
/
10
100
1000
N —
Рис. 4.6. Сравнение времени при прямом вычислении ДПФ
и при вычислении с помощью алгоритма БПФ
Объем памяти. Для обработки исходных данных (которые
предполагаются комплексными) с помощью алгоритма БПФ тре-
требуется 2N ячеек оперативной памяти. Поэтому выходной массив,
получающийся в результате проведения некоторой итерации, мо-
может храниться в тех же ячейках памяти, что и исходный массив,
обрабатываемый на этой итерации. Процедура перестановки дан-
данных может потребовать дополнительно 2N ячеек памяти. Таким
образом^ для алгоритма БПФ необходимо примерно AN ячеек опе-
оперативней памяти. В противоположность этому прямой метод тре-
требует приблизительно 2N2 ячеек памяти, так как необходимо запом-
запомнить N2 значений степеней W. Следовательно, требования по объе-
объему памяти для алгоритма БПФ значительно ниже, чем для пря-
прямого метода.
Ошибки округления. Алгоритм БПФ значительно уменьшает
ошибку округления, связанную с арифметическими операциями.
По сравнению с прямым методом алгоритм БПФ снижает ошибку
округления в N/(\og2N) раз [1, 9].
70

4.8. Некоторые приложения
В данном разделе обсуждаются некоторые приложения алго-
алгоритма БПФ и приводится несколько примеров [1, 5, 10—12].
Вычисление амплитудного и фазового спектра. Пусть x(t) —
экспоненциально убывающий сигнал #(Т) = е-', 0^^4 мс, и тре-
требуется с помощью ДПФ найти его амплитудный и фазовый спект-
спектры. Для применения алгоритма БПФ сигнал x(\t) следует продиск-
ретизировать и из полученной последовательности надо взять N
таких дискретных значений сигнала, при которых N=2n. Рассмот-
Рассмотрим, например, случай N=32 для экспоненциально убывающей
последовательности
D.8.1)
. Амплитудный и фа-
фат = 0, 1,..., 31,
где Т — интервал дискретизации и Z@) =
зовый спектры определяются как
л®
5-0, !,..., 31,
D.8.2)
D.8.3)
где Rx(k) и Ix(k) — действительная и мнимая части Cx(k). Ис-
Использование алгоритма БПФ позволяет получить спектры, изобра-
изображенные на рис. 4.7 (амплитудный спектр нормирован). Из рис. 4.7
80°
€0°
40°
20°
0°
-20°
-40°
-60°
-80°
1 0,8
£ 0,6
а
х
£ 0,4
со
I 0,2
а
-0,2
-0,4
-0,6
-0,8
6 8 10 12 14^-сг 16 18 20 22 24 26 28 30 32
Рис. 4.7. Амплитудный и фазовый спектры ДПФ для экспоненциально убыва-
убывающей последовательности
следует, что в соответствии с теоремой о комплексной сопряжен-
сопряженности [см. формулу C.2.2)] амплитудный спектр имеет N/2+1 =
= 17 независимых спектральных составляющих Сх@), |СХA)|, ...
..., |СХA5)|, СхA6). Нечетной функцией относительно точки fe=
=Л^/2 при Xf=32 является tyx(k) [см. задачу 3.6]. Переменная
к иногда называется «номером частоты». При основной частоте
/0=250 Гц 1//0=1/4 мс полоса частот x(t) предполагается равной
71

i5= (|Л^/2)/о=4ООО Гц. Пользуясь данными рис. 4.7, построим гра-
графики, изображенные на рис. 4.8, представляющие собой амплитуд-
амплитудный \Fx*(k<uo)\ и фазовый г|Ь:*(&а>о), соо=2я/о спектры последова-
последовательности Х(т), т = 0, 1, ..., 31.
Нормированная
амплитуда
УЧ
гСоО-ОО-О
**""
У
0,5
М
-15
-10
0°
-10°
-20° 4
-30°
-40°-I
10
/
\ь«
\ /
-50°
-60°
Рис. 4.8. Амплитудный и фазовый спектры Фурье для
экспоненциальной убывающей последовательности
Вычисление корреляционной последовательности. Если {Х(т)}
и {Y(m)} — две действительные последовательности с периодом
Лг, то последовательность {2(т)}, полученная в результате их кор-
корреляции, определяется по формуле
N— 1
Z(m)=-L^X(h)Y(m + h), /n = 0, !,..., tf-1. D.8.4)
Теорема корреляции [см. формулу C.2.16)] дает формулу
k), k = 0, I,..., JV-1, D.8.5)
БПФ
Рис. 4.9. Последовательность
вычислений для получения

из которой следует, что {2(т)} можно вычислить с помощью БПФ,
как показано на рис. 4.9. В качестве примера на рис. 4.10 приведе-
приведена последовательность {2(т)}, полученная в результате автокор-
автокорреляции экспоненциально убывающей последовательности [см.
фмулу D.8.1)].
Z(m)
0,125
0,100
0,075
0,050
ь ч
10
15
20
25
30
Рис. 4.10. Автокорреляционная функция экспоненциаль-
экспоненциально убывающей последовательности
Вычисление свертки. Последовательность {Z(m)}t полученная
в результате свертки двух действительных последовательностей
{Х(т)} и {Y(m)} с периодом N, определяется по формуле
N-1
—h)t /л = 0, 1,..., tf—1. D.8.6)
Из теоремы свертки [см. формулу C.2.11)] получаем
C,(k) = Cx{k)Cy(k), k = 0, I,..., N-l. D.8.7)
Из D.8.7) следует, что БПФ можно использовать для вычисления
{Z(m)}, как показано на рис. 4.11. Свертка экспоненциально убы-
Рис. 4.11. Последователь-
ность вычислений для Jy(h)
получения {Z(m)} *-
вающей последовательности с самой собой дает последователь-
последовательность, изображенную на рис. 4.12.
Частный случай. Рассмотрим случай, когда последова-
последовательности, по отношению к которым применяется операция сверт-
73

ки, являются апериодическими1 и обозначаются как Х(т), т —
= 0, 1, ..., М, и ?(т), /п = 0, 1, ..., Р. Свертка этих последователь-
последовательностей определяется из выражения
Л=0
где УG) = 0, /<0. Последовательность Z(m) можно получить с
помощью БПФ следующим образом [13].
Z(m)
1,000
0,075
0,050
0,025
/
\
10
15
20
25
30
35 m
Рис. 4.12. Свертка экспоненциально убывающей последо-
последовательности
1) Пусть N — наименьшая степень 2 большая, чем (М + Р).
2) Образуем такие последовательности {Х(т)} и {Y(m)} с
периодом N, при которых
и
.,N-1. A8Л0)
3) Применяем БПФ для вычисления сверточной последователь-
последовательности {Z(m)} периодических последовательностей {Х(т)} и
{Y(m)}, где
D.8.11)
Л-0
1 В отличие от свертки корреляции, связанной с апериодическими последо-
последовательностями, свертка (корреляция), связанная с периодическими последова-
последовательностями, называется периодической или циклической.
74

4) Получаем требуемую последовательность Z(m) с помощью
соотношения
ЭД= м + Р + 1 ZH, т = 0, 1 М + А D.8.12)
Рассмотрим пример при М=3 и Р=2. Тогда Л/=8 и формулы
D.8.9) и D.8.10) дают
fX(m), m = 0, I, 2, 3;
И, /я = 0, 1,2;
т = 3, ..., 7.
Подставляя D.8.13) и D.8.14) в формулу D.8.6), получаем мат-
матричное выражение [см. формулу C.3.8)]
Х@) Х(\) ХB) ХC) 0 0 0 0
ХA) Х{2) ХC) 0
Z@)
Z(l)
ZB)
ZC)
ZD)
ZE)
ZF)
0 0 0 X@)
A B) XC) 0 0 0 0 X@) X(l)
XC) 0 0 0 0 X@) X(l) XB)
0 0 0 0 X@) X(l) X{2) XC)
0 0 0 X@) X(\) XB) XC) 0
0 0 X@) X(l) X{2) XC) 0 0
0 0
о
о
о
о
о
0 X@) X(l) XB) XC) 0 0 0 __ _ ,.,_
D.8.15)
Последовательность Z(m), /n = 0, 1, ..., 7, вычисляется с по-
помощью восьмиточечного алгоритма БПФ, и, следовательно, иско-
искомая последовательность Z(m), m = 0, I, ..., 5, получается из форму-
формулы D.8.12). Из приведенных выше рассуждений следует, что БПФ
можно использовать подобным же образом для определения вза-
взаимной корреляции двух апериодических последовательностей.
Синтез сигналов. Алгоритм БПФ можно использовать для син-
синтеза L-периодического продолжения дискретного сигнала x*(t)
(рис. 4.13) по его заданному амплитудному и фазовому спектрам.
к B)
Ч
X<N~1) x(N) =x@)
L
t
Рис. 4.13. Периоди-
Периодическое (с периодом
L) продолжение
сигнала, предна-
предназначенного для
синтеза
75

Пусть даны \Fx*(k(oo) | и фх*(£соо), k = 0, 1, ..., N/2, где N — сте-
степень 2 и coo = 2:rt/L. Из § 3.4 следует, что x*(t) можно получить
следующим образом:
1) F,.(ft©0) =|^*(*©0)/е * , £ = 0, 1,..., #/2; D.8.16)
2) определим Cx(k) = (l/L)Fx* (ka0); k=0, I, ..., N—l, где
Cx(N/2 + l)=C4N/2—l), 1=1, 2, ..., JV/2— 1;
3) используем ОБПФ для вычисления
N—1
X (/и) = £ Сх (к) W~k^ т = 0, 1,..., iV— 1.
Рассмотрим пример для значений Т^» (Асо0), Л=1, 2, ..., 16. При
ДО—32 в предположении L = 32 мс описанная выше процедура при-
приводит к виду сигнала x*(t), изображенному на рис. 4.14.
1,0
0,8
0,6
0,4
0,2
I
I
\ 1
\
\
1
1
1
1 1 1 1 \ f*\
L
I1 ^
1
/
1
f
1
I
1
1 1
2 4 6 8 Vi0T>'i2^14^16V18">'20'°r22V24 26 28 30 32^,
Рис. 4.14. Синтезированный сигнал
4.9. Заключение
Основной задачей настоящей главы является вывод алгоритма
БПФ. Рассматривался только одномерный алгоритм, когда исход-
исходные данные представляются в виде вектора. Из данных § 3.6 вид-
видно, что одномерный алгоритм БПФ можно применять Л^Л^ раз
для вычисления двумерного ДПФ, когда исходные данные пред-
представляются в виде матрицы размером N\XN2. Существует метод
вычисления двумерного ДПФ с помощью одномерного БПФ, когда
матрица исходных данных записывается в виде вектора размером
NiN2Xl [14]. Такой подход применим и в более общем т-мерном
случае, т^2.
Вывод алгоритма БПФ, приведенный в настоящей главе, осно-
основан на работе Кули и Тьюки [2]. Алгоритм БПФ можно также
получить с помощью методов разбиения [22] и факторизации мат-
матриц [1, 23, 24]. Известен также ряд других модификаций БПФ
[8], полученных Бреннером [15], Фишером [16], Синглтоном [3]>
Санде и Блюстейном [18]. Количественное сравнение четырех ва-
вариантов алгоритма БПФ, описанных в [2, 3, 15, 16], по времени
76

вычислений, объему памяти и точности приь^--~ ~ L--j -
борок от 24=16 до 213 = 8192.
В заключение рассматривается несколько возможностей при-
применения БПФ и приводятся соответствующие численные примеры.
Обсуждение некоторых других методов, связанных с цифровой
обработкой сигналов, дается в [1, 8, 11, 20, 21].
ПРИЛОЖЕНИЕ 4.1
Описывается программа для вычисления ДПФ; интересный вывод варианта
алгоритма БПФ, осуществляемого с помощью этой программы, приведен в [24]~
SUBROUTINE FFT(X,N,INV)
с
с
с
ft
L
с
с
с
с
с
с
с
с
с
с
C-ih*
с
с
р
с
с
с
с
р
L
с
с
с
с
с
с
10
20
40
50
THIS PROGRAM IMPLEMENTS THE FFT ALGORITHM
FOURIER COEFFICIENTS OF A DATA SEQUENCE OF
CALLING SEQUENCE FROM THE MAIN PROGRAM:
CALL FFT(X,N,INtV)
N: NUMBER OF DATA POINTS
X: COMPLEX ARRAY CONTAINING THE DATA
COEFFS. ARE RETURNED IN THE ARRAY.
DECLARE II AS- COMPLEX XE12)
INV: FLAG FOR INVERSE
INV=O FOR FORWARD TRANSFORM
INV=1 FOR INVERSE TRANSFORM
COMPLEX XE12),W,TtCMPLX
wTr я it w w я я Ия РтИШ я И itil я я1 И НИИ1 *
TO COMPUTE THE DISCRETE
N POINTS
SEQUENCE
. IN THE END DFT
MAIN PROGRAM SHOULD
CALCULATE THE * OF ITERATIONS (LOG. N TO THE BASE
lTER=O
IREM=N
IREM=IREM/2
IF (IREM.EQ.O) GO TO 20
ITER=ITER+1
GO TO 10
CONTINUE
SISU-1
IF (INV.EQ.l) SIGN=1. ч
NXP2=N
DO 50 IT=1,ITER
COMPUTATION FOR EACH ITERATION
•NXP: NUMBER OF POINTS IN A PARTITION
NXP2: NXP/2
NXP=NXP2
NXP2=NXP/2
WPWR=3.141592/FL0AT(NXP2)
DO 40 M=1,NXP2
CALCULATE THE MULTIPLIER
ARG=FLOAT(M-1)*WPWR
W=CMPLX(COS(ARG),SIGN*SIN(ARG))
DO 40 MXP=NXP,N,NXP
COMPUTATION FOR EACH PARTITION
J1=MXP-NXP+M
J2=J1+NXP2
T=X(J1)-X(J2)
X(J1)=X(J1)+X(J2)
X(J2)=T fw
CONTINUE
С
55
60
65
70
75
2)
N2=N/2
N1=N-1
J = l
DO 65 1 = 1 ,N1
IF(I.GE.J) GO. TO 55
T=X(J)
X(J)=X(I)
X(I)=T
K=N2
IF(K.GE.J) GO TO 65
K=K/2
GO TO 60
J=J+K
IF (INV.EQ.l) GO TO
DO 70 1 = 1,N
X(I)=X(I)/FLOAT(N)
CONTINUE
RETURN
UNSCRAMBLE THE BIT-REVERSED DFT COEFFS.

ЗАДАЧИ
4.1. Рассмотрим две последовательности с периодом {Х(т)} = {[ 2 — 1 3} и
т)} = {У@)УA)УB)УC)}, при котором
— Г
1
4
1 2 — 1 3"
2—1 3 1
— 13 12
3 12—1
У@)"
7B)
7A)J.
Требуется определить {Y(m)} без обращения матрицы Dx4) в приведенном
выше матричном выражении.
4.2. Дано {Х(т)} = {1 2
Рассмотрим преобразование
1 3} и
= { -J^TT^l^ } •
"jR @)"
D /1 \
*\ \ 1 /
R B)
Я C)_
1
~ 4
" 1
3
1
2
2
1
3
— 1
1
2 —
1
3
31
1
2
1
Г 1
2
— 1
L з
Определить {Cr(k)} без вычисления произведения матриц.
4.3. а) Выразить множители Л sr (см. рис. 4.1) с помощью степеней W.
Использовать процедуру, приведенную в примере D.5.4).
б) Применяя сигнальный граф, полученный в п. «а», убедиться в том, что
последовательность коэффициентов ДПФ {Cx(k)} и последовательность дан-
данных {Х(т)} связаны между собой следующим матричным произведением
(здесь U7=e-*2/8)
Слг(О)
С* D)
С* B)
С* F)
СхE)
С,C)
1
— Т
;—U72
Т;—
X
 О
О 1
Го
о 1
1 О
О 1
"—Y""o
0—1
о4
1
0
1
0
0'
1:
0:
1;
04
W2
0
о -
0
0
- №?
1
0
0
0
1
0
0
0
0
1
0
0
0
1
0
0
0
0
1
0
0
0
1
0
0;
0:
О:
1 :
0,
0:
0;
1:
1
0
0
0
— 1
0
0
0
0
1
0
0
0
— 1
0
0
0
0
1
0
0
0
1
0
0
0
0
1
0
0
0
_ 1
'Х@У
Х(\)
ХB)
ХE)
Хф)
ХG)
4.4. В примере D.5.4) поясняется правило получения сигнального графа
БПФ с использованием степеней W при N=16. Записать соответствующие пра-
правила для общего случая, когда JV = 2n, л=1, 2, ..., птах.
78

4.5. Вычислить двумерное ДПФ для двумерною
Х =
13-1
1 Ч
2 2
12J
пользуясь определением двумерного ДПФ (см. § 3.6).
Ответ.
[13 -3 01
I -2 -<
3 —1 0
-I -2 + lJ
4.6. Изменить программу одномерного БПФ, приведенную в приложе-
приложении 4.1, таким образом, чтобы с ее помощью можно было бы вычислить дву-
двумерное ДПФ. Использовать полученную программу для определения двумер-
двумерного ДПФ матрицы
Х =
1 р р-
р 1 р
Р2 Р
LP3 Р2 Р
Р2Р31
Р Р2
1 ?
Р 1 J
где р = 0,9.
4.7. Связь между разреженными матрицами, описанными в задаче 4.36, и
множителями сигнального графа, полученного в задаче 4.3а, устанавливается
непосредственно. По сигнальному графу БПФ при N=16 (см. рис. 4.5) запи-
запишите соответствующие разреженные матрицы, на которые факторизуется мат-
матрица ДПФ.
4.8. При Af=32, W=e~i2n/32 матрицу ДПФ можно записать в виде произ-
произведения следующих разреженных матриц:
ГГ1 1] П W*l Г1 №41 Г1 №12] П W'2J Г1 W1*]
1 Wn П W11! \l Wn Г1 Г15Ц\
C-!
k-ij-k-1. Hf Li.-1. Af Li.-1. ^12J' Li
X(diag ' x'a " ' e " ' ' " " ' ' " " ' ' 2
' Li» — is H ' LI2-I2
.. J' Li.-1. И>
X i^M-^J'Li^i^eJ'LU-U
X
79

x@>
xA)
<B)
xC)
xD)
xE)
xF)
xG)
x(8)
x(9)
xA0)
xA1)
XA2)
xA3)
xA4)
xA5)
<A6)
xA7)
«A8)
xA9)
xB0)
xB1)
xB2)
(B3)
xB4)
л B5)
*B6)
К B7)
(B8)
xB9)
xC0)
xC1)
ниш
ПЛШЛТШ
\\
\\\
\\v
\\Y
\w
ж
m
ш
Ir
Ш
Illi
'И
//■
/.
\.
\\.
\\\
\\\\
Ш
Ш
1
Ш
ж
Ш
Ш
////
///
//
/.
//
.///
////
M
ml
Ш
W
m
Ш
Ш
\\\\
\\\
\\
\
/
//
///
11
Hit
w/
ж
i
1
%
\\W
\W
\\
\
VIZ KZ
УуУ XX
/
/ Л ZX
Cx@)
CxA6)
Cx(8)
CxB4>
Cx<4>
CxB0)
CxA2)
CxB8)
Cx'2>
CxA8)
CxA0)
CxB6)
. CxB2)
CxA4)
CxC0)
CxA)
CxA7)
CxB5)
CxE)
CxB1)
CxA3)
CxB9)
Cx<3>
— CxA9)
CxB7)
CxG)
Cx B3)
Рис. 4.15. Граф БПФ при N=32
80

где Im — единичная матрица размером (тХт). С помощью этих разреженных
матриц запишите множители в сигнальном графе БПФ, показанном на рис. 4.15,
для N=32.
4.9. Ягадесян [14] предложил метод, в котором для вычисления л-мерного
БПФ применяется одномерное преобразование. Используйте этот метод для
решения задачи 4.5. Напишите множители (степени W) на рис. 4.16.
Преобразование
--3
--2+ 5
Рис. 4.16. Граф БПФ для вычисления двумерного БПФ
ГЛАВА 5
Класс ортогональных функций
В данной главе рассматривается класс несинусоидальных ортогональных
функций, к которому относятся: 1) функции Радемахера, 2) функции Хаара
и 3) функции Уолша. Эти ортогональные функции состоят из квадратных или
прямоугольных волн. Отдельные функции, принадлежащие множеству описан-
описанных выше функций, различаются с помощью параметра, определяемого терми-
термином «частость». Рассматриваются также некоторые вопросы, связанные с пред-
представлением несинусоидальных ортогональных функций.
Необходимость изучения указанного выше класса функций связана с тем,
что они будут в дальнейшем использоваться при описании преобразований
Хаара, Уолша—Адамара и модифицированного преобразования Уолша—Адамара.
Эти преобразования будут рассмотрены в следующих двух главах.
81

5.1. Определение частости
Понятие частоты применимо к множеству синусоидальных (пе-
(периодических) функций, точки пересечения нулевого уровня кото-
которых равномерно распределены по интервалу. Этот параметр обоз-
обозначается / и позволяет различать отдельные функции, принадле-
принадлежащие множествам {cos2nft} и {sin2nft}, и интерпретируется как
число полных периодов (или половина числа пересечения нулево-
нулевого уровня) синусоидальной функции в секунду.
Обобщенная частота может быть определена как половина
среднего числа пересечений нулевого урозня в секунду [1]. Хар-
мут [2] ввел термин «частость» при описании обобщенной часто-
частоты и применил его для различения функций, точки пересечения
нулевого уровня которых распределены неравномерно по интер-
интервалу и которые не обязательно являются периодическими. В слу-
случае синусоидальных функций понятие частости совпадает с по-
понятием частоты. Пользуясь приведенным выше определением пе-
периодических и непериодических функций, получим:
i) частость периодической функции равна половине числа пе-
пересечений нулевого уровня в секунду,
, п) частость непериодической функции равна половина чис-
числа пересечений нулевого уровня в секунду, если этот предел су-
существует.
Для иллюстрации рассмотрим непрерывные функции f{(t) и
/г@, приведенные на рис. 5.1, которые определены на полуот-
-0,5
f2 (t) ^
1
Периодическая
Г" шт
1
|
Непериодическая
п
1
III!
0,5
Рис. 5.1. Определение частости непрерывной функ-
функции
крытом интервале [—0,5; 0,5). Каждая функция имеет четыре
пересечения нулевого уровня на интервале, и, следовательно, час-
частость каждой из них равна двум. Подобно тому как частота из-
измеряется числом периодов в секунду (герцах), частость определя-
82

ется числом пересечений нулевого уровня в секунду; для нее мож-
можно использовать сокращение «zps»1.
Приведенное выше определение частости можно с небольши-
небольшими изменениями применять к соответствующей дискретной функ-
функции /*@> получаемой из f(t) с помощью равномерной дискрети-
дискретизации. Если число перемен знака в секунду функции f*(t) равно
т), то частость f*(t) определяется как ц/2 или (tj + 1)/2 при г|
четном или нечетном соответственно. Рассмотрим дискретные функ-
функции /*i(/) и /*2@> полученные в результате дискретизации
функций, приведенных на рис. 5.1, при расположении отсчетов в
восьми равноотстоящих точках (рис. 5.2). Из рис. 5.2 видно, что
111 = 3 и тJ = 4. Таким образом, частость каждой из функций
/*i (t) и /*2 @ равна 2, как и в случае f\ (t) и /г @ •
LL
ТТ 1Т"
4"'L LL L
П Tl
-0,5
0,5
Рис. 5.2. Определение частости дискретной функ-
функции
5.2. Обозначение непрерывных и дискретных функций
Стандартное обозначение тригонометрических, "показательных
и логарифмических функций обычно записывается тремя буква-
буквами, например sin, cos, exp, erf и log. Поэтому для обозначения
полных ортогональных систем функций естественно принять по-
подобную запись [1]. Кроме того, следует различать непрерывные
функции и соответствующие им дискретные функции. Возмож-
Та блица 5.2.1
Обозначение для непрерывных и дискретных функций
Название функции
Радемахер
Хаар
Уолш
«косинусный Уолш»
«синусный Уолш»
1 От zero-crossings
секунду. (Прим. пер.)
Непрерывные функции
rad
har
wal
cal
sal
per second — число пересечений
Дискретные функции
Rad
Наг
Wal
Cal
Sal
нулевого уровня в
83

ная система обозначений, предложенная Хармутом [2], приведе-
приведена в табл. 5.2.1. Полную систему функций Уолша, определенную
на единичном интервале [0,1), можно разделить на две группы
четных и нечетных функций относительно точки /=0,5. Эти чет-
четные и нечетные функции аналогичны синусам и косинусам соот-
соответственно, и поэтому их обозначают, как sal (синусоподобные
функции Уолша) и cal (косинусоподобные функции Уолша). Под-
Подробное математическое рассмотрение системы sal-cal функций
проведено Пихлером [3].
5.3. Функции Радемахера и Хаара
Функции Радемахера, рассмотренные им в 1922 г. [4], пред-
представляют собой неполную систему ортонормированных функций.
Функция Радемахера с индексом /п, обозначаемая rad(m, t)y име-
имеет вид последовательности прямоугольных импульсов и содержит
2т~1 периодов на полуоткрытом интервале [0,1), принимая значе-
значения + 1 или —1 (рис. 5.3). Исключение составляет функция
rad @,t)
radAt)
1
** —1
radB,t)
. 1
0
-1;
radC,t) !
1
0
-1:
rad D,t)
1
0
-1
Рис. 5.3. Функции Радемахера
rad @, t), которая имеет вид единичного импульса. Функции Ра-
Радемахера— периодические с периодом 1, т. е. rad (m, t) =
= rad (m, t+\).
Кроме того, они обладают периодичностью и на более коротких
интервалах [5]: rad (m, t + n2l-m) =rad (m, t), m=l, 2,...; n =
=*±1, ±2, ... Функции Радемахера можно получить с помощью
рекуррентного соотношения rad (m, /)=rad A, 2т~Ч),
84
лллллплгь

где rad(lf0-( *' fe[°'1/2)' E.3.1)
1-1, te=[l/2, 1). V 7
Множество функций Хаара {har(я, m, t)}y образующих пери-
периодическую, ортонормированную и полную систему функций [5,
15—17], было предложено им в 1910 г. [6]. На рис. 5.4а изобра-
har @,0/0
1
О
-1
harA,1,t)
V2
0
harB,1,t)
2
«
О
-2
- harB,3,t)
2
I
har @,1 Д)
1
О
1 t
-1
harA,2,t)
V2
I J I \ I I
П/2 It
I
-У2
harB,2,t)
2
1/2
J I I I I I—I— с
1/4 1 t
-2
H*C) =
1/4
I1/21 ' i t
1/2
harB,4,t)
2
j I I i
13/4 1 t
J
3/4
11111111
1 1 1 1-1-1-1-1
y/2 V2-V2 0 0 0 0
0 0 0 0\/2\/2-л/2
2-2 0 00000
0 0 2-2 0 0 0 0
0 0 0 02-2 00
0 0 0 0 0 0 2-2
6)
a)
Рис. 5.4. Непрерывные функции Хаара (а) и дискретные функции
Хаара (б) при N=8
жены первые восемь функций Хаара. Рекуррентное соотношение,
позволяющее получить {har(я, m, t)}, имеет вид [7]
har @, 0, 0=1, <е=[0, 1);
}г/2 т — 1 ^^ т-1/2,
har (r, m, t) =
9г/2 т —1/2 , m .
~2 ' "l? ^^<^'
О, при остальных £ЕЕ[О, 1),
E.3.2)
где 0<r<log2^ и <<
Дискретизация системы функций Хаара, показанных на рис.
5.4а, приводит к матрице, изображенной на рис. 5.46, каждая стро-
85

ка которой является дискретной функцией Хаара Наг (г, m, t).
Полученные таким образом матрицы используются для преобра-
преобразования Хаара и обозначаются Н*(я), где n=log2A/r.
5.4. Функции Уолша
В 1923 г. Уолш [8] получил полную систему ортонормирован-
ных прямоугольных функций, которая дополняет систему функ-
функций Радемахера и известна теперь как система функций Уолша.
Множество функций Уолша обычно разделяется на три группы,
отличающиеся порядком расположения отдельных функций в си-
системе. Общеприняты следующие упорядочения: 1) упорядочение
по частости (по Уолшу); 2) диадическое упорядочение (по Пэ-
ли); 3) естественное упорядочение (по Адамару). Ниже каждое
из этих упорядочений рассмотрено отдельно.
Упорядочение по частости или по Уолшу. Это упорядочение
было предложено Уолшем [8]. Будем обозначать множество
функций Уолша, упорядоченных таким образом через
Sw = {wa\w(i, t), i = 0, 1,..., N-l}, E.4.1)
где N = 2ny м=1, 2, 3, ...; нижний индекс w обозначает упорядоче-
упорядочение по Уолшу, a i соответствует r-му элементу Sw. Если через si
обозначить частость walw G, t), то s2- определяется как
О, i = 0;
si =< i/2, i—четное; • E.4.2)
(t + 1)/2, i— нечетное.
Функции cal и sal, соответствующие walw(i, t), описываются сле-
следующим образом:
cal(sb t) = walw(i9 t)9 i—четное;
sa\(sh t) = walw(i, t)t i—нечетное. E.4.3)
Первые восемь функций Уолша в указанных выше обозначени-
обозначениях приведены на рис. 5.5а, из которого видно, что частость сле-
следующей функции Уолша больше или равняется частости преды-
предыдущей функции Уолша и имеет точно на одно пересечение нулево-
нулевого уровня больше в открытом интервале te@, 1). Отсюда и сле-
следует название упорядочение по частости. Элемент Sw можно по-
получить из множества функций Радемахера при использовании
кода Грея [9] (см. задачу 5.1).
Дискретный случай. Дискретизация функций Уолша, изобра-
изображенных на рис. 5.5а, в восьми равноотстоящих точках приводит
к матрице (8X8), показанной на рис. 5.56. В общем случае полу-
получается матрица (NxN). Такие матрицы будем обозначать Hw(n),
n=log2 N, так как они получаются в результате переупорядоче-
переупорядочения строк матриц Адамара.
Пусть щ и Vi цифры i-ro разряда в двоичном представлении
целых чисел и и v соответственно, т. е.
и10 = (ип-г ип-2... их иоJ и v1Q = (уп_! ул_2... vx voJ.
86

Тогда элементы
п-\
матрицы Hw(n) имеют вид
E.4.4)
где
Го (и) = un-i; гг (и) = wn_x
rn_i
HwC) =
1/4
1/2
а)
3/4
11111111
1 1 1 1-1-1-1-1
! 1 _1_1_1_1 1 1
1 1—1 _-| 1 1-1-1
1-1-1 1 1 -1-1 1
1^-1 -1 i-ii 1-1
1 _1 1 _i_i i_i i
1-1 1-1 1-1 1-1
б)
- wai @,t>
rSalA,t)
• CalB,t>
SalC,t>
■ CalC,t>
- SalD,tl
Рис. 5.5. Функции Уолша, упорядоченные по Уолшу, при N=8: !
а — непрерывные; б — дискретные
Диадическое упорядочение или упорядочение по Пэли. Ди-
адическое упорядочение было введено Пэли [11]. Функции Уол-
Уолша являются элементами диадической группы и могут быть упо-
упорядочены с помощью кода Грея [9, 12]. Данное множество функ-
функций Уолша обозначается как
Sp = {walp(i\Of i = 0, I,..., N-\}, E.4.5)
где индекс р обозначает упорядочение по Пэли, a i обозначает
i-ik элемент Sp. Множество Sp связано с множеством Sw, упорядо-
упорядоченным по Уолшу, соотношением
walp(/, t) = walw[b(i), t], E.4.6)
где b(i)—переход от кода Грея к двоичному коду с индексом
i1. Алгоритм преобразования, соответствующий E.4.6), и его осу-
осуществление рассмотрены в [12]. Проиллюстрируем соотношение
E.4.6) на примере N=8. Соответствующие результаты приведены
в табл. 5.4.1. Применяя данные табл. 5.4.1 к функциям wal^(r, t)>
1 Переход от двоичного кода к коду Грея и наоборот, см. приложение 5.1.
87

Таблица 5.4.1
Соотношение между функциями Уолша, упорядоченными по Уолшу
и упорядоченными по Пэли
0
1
2
3
4
5
6
7
000
001
010
011
100
101
по
111
Ь(»2
000
001
011
010
111
по
100
101
МО..
0
1
3
2
7
6
4
5
Формула E.4.6)
walp@,Q = wale@*)
walp A J) = walw(l ,t)
walp B,^) = waljg, C,^)
walp C, t) = wal^y B, /)
waU D t) = wal G t)
walp E,/) = wal^^e,^)
walp F,0 = walw D,0
i = 0, 1, ..., 7, показанным на рис. 5.5а, получаем восемь функций
Уолша walp(i, t), изображенных на рис. 5.6а.
Дискретный случай. Проводя дискретизацию функций
Уолша (рис. 5.6а), получим матрицу (8x8), изображенную на
HpC)-
1 1
1 1
111111
11-1-1-1-1
1 1-1-1 11-1-1
11
1-1
1-1
1-1
1-1
-1-1-1-1 1 1
1-1 1-11-1
1-1-1 1-1 1
-1 l 1-1-1 1
-11-1 1 1-1
6}
1/4
1/2 3/4
a)
Рис. 5.6. Функции Уолша, упорядоченные по Пэли при N=8:
а — непрерывные; б — дискретные
рис. 5.66. Эту матрицу также можно получить переупорядочени-
переупорядочением строк матрицы Адамара (8x8). Матрицы, связанные с функ-
функциями Уолша, упорядоченными по Пэли, будем обозначать
Нр(п), n = log2N. Элементы h^uv матрицы Нр(п) можно полу-
получить из следующей формулы:
2 un-i-i vi
и, v = 0, 1,..., N-l.
E.4.7)

Естественное упорядочение или упорядочение по Адамару*
Множество функций Уолша обозначается следующим образом:
(i, t), i = 0, 1,..., N-ll E.4.8)
где индекс h обозначает упорядочение по Адамару, i обозначает
i-н элемент Sh. Функции, принадлежащие S&, связаны с функция-
функциями, упорядоченными по Уолшу, соотношением
waU (t, f) = walw [b «f» t], E.4.9)
где </>—двоично-инвертированная запись i, a b(<i>)—пе-
b(<i>)—переход от кода Грея к двоичному коду <О*>. Проиллюстрируем
этот переход, описываемый соотношением E.4.9) для jV=8; ре-
результаты расчета приведены в табл. 5.4.2.
Таблица 5.4.2
Соотношение между функциями Уолша, упорядоченными по Уолшу
и упорядоченными по Адамару
i
0
1
2
3
4
5
6
7
i.
000
001
010
он
100
101
110
111
-
000
100
010
110
001
101
Oil
111
M«>,.
000
111
Oil
100
001
110
010
101
0
7
3
4
1
6
2
5
формула E.4.9)
walh @,0 = walo, @,0
walfo A,0 = waljy G, t)
walfcC,0 = wain, D,0
wal^ D,0 = walo, A,0
wal/iEf0 = wa]tt,F,0
wal^ F,0 = waljg, B,0
wal/j G,0 = wal^, E,0
1/4
1/2
a)
3/4
HhC) =
11111111
1_1 Ы1-1 1-1
1 1-1-1 1 1-1-1
1 — 1—1 1 1-1-1 1
1 1 1 1-1-1-1-1
1 -1 1-1 1-11-1
! 1-1-1-1-1 1 i
1 -1-1 1-111-1
6)
Рис. 5.7. Функции Уолша, упорядоченные по Адамару при N=8:
а — непрерывные; б — дискретные

Используя данные табл. 5.4.2 и функции walw(tf /), 1 = 0, 1, ...,
7 (см. рис. 5.5а), получаем первые восемь функций Уолша
(рис. 5.7а).
Дискретный случай. Дискретизация функций Уолша
(см. рис. 5.7а) приводит к матрице Адамара (8x8), изображен-
изображенной на рис. 5.76. В общем случае получается матрица Нь(п) раз-
размером (NxN), где n = log2N. Для этого класса матриц Адамара
справедливо разбиение на подматрицы вида
EЛ10)
Такие матрицы соответствуют естественному упорядочению [10].
Элементы h^uv матрицы Hh(n) можно получить из следующей
формулы:
п—\
5.5. Заключение
u,v = 09l,...tN-l. E.4.11)
В настоящей главе были рассмотрены функции Радемахера,
Уолша и Хаара. Было введено понятие частости в качестве пара-
параметра, позволяющего различать отдельные функции, принадле-
принадлежащие системам несинусоидальных функций. Показано, что
функции Уолша могут быть упорядочены по Уолшу, Пэли и Ада-
мару. Упорядоченные таким образом системы функций Уолша
связаны между собой кодом Грея.
Дискретизация конечного множества функций Хаара и Уолша
на множестве равноудаленных точек приводит к образованию
матриц Хаара и Адамара соответственно. Строки этих матриц
служат базисными векторами при определении преобразований
Хаара и Уолша-Адамара.
ПРИЛОЖЕНИЕ 5.1
Код Грея
В некоторых практических приложениях, например в аналого-цифровых
преобразованиях, желательно использовать коды, у которых все следующие
друг за другом кодовые слова различаются только одной цифрой в некото-
некотором разряде. Коды, обладающие таким свойством, называются циклическими.
Очень важным циклическим кодом является код Грея. Четырехразрядный
двоичный код Грея приведен в табл. П5.1.1. Этот код обладает тем важным
свойством, что двоичное представление числа может быть легко преобразовано
в код Грея с помощью полусумматоров.
Преобразование двоичного кода в код Грея. Пусть gn-ign-2... gz£i — ко-
кодовое слово в n-разрядном двоичном коде Грея, соответствующее двоичному
числу bn-ibn-2...b2bibo. Тогда gt может быть получена как gt = bi Qbi+u
O^i^n—2, gn-i = bn-u где символ © означает сложение по модулю 2, ко-
которое определяется как 0 © 0=0; 1 ©0=1; 0© 1 = 1; 1 ф 1=0. Например, код
90

Таблица П5.1.1
Четырехразрядный код Грея
Десятичное число
0
1
2
3
4
5
6
7
8
9
Ю
И
12
13
14
15
g»
0
0
0
0
0
0
0
0
1
1
1
1
1
1
1
1
Код
ё2
0
0
0
0
1
1
1
0
0
0
0
Грея
£i
0
0
1
1
1
1
0
0
0
0
1
1
1
1
0
0
go
0
1
1
0
0
1
1
0
0
1
1
0
0
1
1
0
Двоичный код
0
0
0
0
0
0
0
0
1
1
1
1
1
1
1
1
ь2
0
0
0
0"
1
1
1
1
0
0
0
0
1
1
1
1
0
0
1
1
0
0
1
1
0
0
1
1
0
0
1
1
bo
0
1
0
1
0
1
0
1
о.
1
0^
1
о.
1.
0
1
Грея, соответствующий двоичному числу 101101, может быть образован еле.-*
дующим образом:
У
1
Яъ
h
1
/^
©
1
Я*
0
©
1
h
1
ч/
©
0
02
ьг
.1
©
i
Яг
0
ч^
©
1
00
ь.
1
Преобразование кода Грея в двоичный. Преобразование кода Грея в.
двоичный код начинаем с цифры самого левого разряда и двигаемся направо,
принимая bi=gi, если число единиц, предшествующих git четно, и bi=gi
(черта обозначает дополнение), если число единиц, предшествующих gu не-
нечетно. При этом нулевое число единиц считается четным. Например, двоичное-
число, соответствующее коду Грея 1001011, имеет вид 1110010 и может быть
получено следующим образом:
б
1
1
1
'б
0
1
Ьъ
0
1
1
1
0
^3
§2
0
0
1
\
1
1
0
ЗАДАЧИ
5.1. ПусТЬ ЧИСЛО i Записано ДВОИЧНЫМ КОДОМ И кодами Грея Гдвоичный =*
**bnbn-i...bzbu i rpcu=gngn-i... g2gi. Тогда функции Уолша walw(i, 0 и
Walw(i, t) можно получить с помощью функций Радемахера в следующем
виде [9, 13, 14]:

m\w (t.O = П [ rad (kt t)] ek и Wal^ (/,0 = fl [Rad (M)J ^ ♦
k=i k=i
Из рис. 5.3 видно, что
Sad A,0= + + + + + + + + ;
Rad B, *)= + + + + + + + + ;
RadC,0= + + + + + + + + ;
Rad D, /)= + - + - + - + - + - + - + - + -;
где «+» и «—» означают +1 и —1 соответственно. Используя приведенную
выше запись, покажите, что
\Уа1шA3, t) = Rad A, t) Rad B, t) Rad D, t) =
= + - + + - + - + - + + -+-;
(9,0= Rad A,0 Rad C,0 Rad D,0= Л h Л h- + +
+ + -;
(8,0= RadC,0 RadD,0= H Ы Ы h 4 b
5.2. Можно показать, что произведение двух функций Уолша снова дает
функцию Уолша [2]:
, C 5.2.1)
где Ф означает сложение по модулю 2. Из рис. 5.56 следует, что
WaUl,0= + + + + ;
Wa\wC,t) = + + + + I
Wal^.O =+ + + +;
WaU5,0= + + -
WaU7,0 = + - + - + -+-•
Применяя C5.2.1) к записанному выше множеству функций Уолша, показать, что
C,0 ;
D,0 = Wal^, F,0 .
5.3. Рассмотрите следующие тождества:
и) B i - 1) 0 B k - 1) = 2 [(/ - 1) 0 (k - 1)] ;
iii) B«—lH2* = 2[*©(i—l)+l]—1;
iv) B 0 0 B k - 1) = 2 [/ 0 (k - 1) + 1] - 1.
Подставьте Waltt,B i,t) = Cal (itt) и Wal^, B i — 1,0 = Sal (ij)
для i=l, 2, ... в выражение [2] Wal^M) VJa\w(kJ) = Wal^^©^,^) и покажите,
что [2]
Cal (/,0 Cal F,0 = Cal (/ ®k,t);
92

Sal (U) Cal (k,f) = Sal {[k © (i - 1)] + 1 ,*} ;
Cal (itt) Sal (k,t) = Sal {[i © (£ - 1)] + 1,*} ;
Sal (i,f) Sal (£,0 = Cal [(t — 1) © (k — 1), *] ;
5.4. Если и и v принимают значения 0, 1, ..., 7, то ro(u), ri(u) и г2(и)
(табл. 35.4.1) будут определяться из E.4.4). С помощью данных табл. 35.4.1
и уравнений E.4.4), E.4.7) и E.4.11) образовать три массива (т=1, 2, 3),
как показано на рис. 5.8. Убедиться, что массивы 1, 2 и 3, полученные выше,
совпадают с НадC), НрC) и НлC), показанными на рис. 5.56, 5.66 и 5.76 со-
соответственно.
Таблица 3
и
0
1
2
3
4
5
6
7
«2
0
0
0
0
1
1
1
1
0
0
1
1
0
0
1
1
5.4.1
«0
0
1
0
1
0
1
0
1
«0
0
1
0
1
0
1
0
1
«1
0
0
1
1
0
0
1
1
0
0
0
0
1
1
1
1
М«)
0
0
0
0
1
1
1
1
гt (и)
0
0
1
1
1
1
0
0
г» (и)
0
1
1
0
0
1
1
0
V
0
1
2
3
4
5
6
7
^2
0
0
0
0
1
1
1
1
0
0
1
1
0
0
1
1
щ
0
1
0
1
0
1
0
1
0о
0
1
0
1
0
1
0
1
0
0
1
1
0
0
1
1
0
0
0
0
1
1
1
1
5.5. На рис. 5.4а изображены первые восемь функций Хаара. Пользуясь
уравнением E.3.2), изобразить следующие восемь функций Хаара и получить
Н*D).
Ч. V
и Ч^
0
1
2
3
4
5
6
7
0
+
+
+
+
+
+
+
+
1
+
2
+
3
+
4
+
5
+
6
+
7
+
Рис. 5.8
5.6. Как показано в задаче 5.1, функции Уолша можно выразить в виде
произведения функций Радемахера [9, 13, 14]. На рис. 5.5а приведены первые
восемь функций Уолша, упорядоченных по Уолшу. Изобразить следующие во-
восемь функций Уолша [2, 9] и получить НадD). Определить функции sal и cal
и их частости.
5.7. Составить таблицы, подобные табл. 5.4.1 и 5.4.2, для Л/"=16. Изменить
порядок функций Уолша, упорядоченных по Уолшу (задача 5.6), с целью по-
получения функций Уолша, упорядоченных по Пэли и Адамару. Определить
функции sal и cal и их частости. Используя первые шестнадцать функций
Уолша, получить НРD) и НлD).
93

ГЛАВА 6
Преобразование Уолша—Адамара
Глава 6 посвящена изучению преобразования Уолша—Адамара (ПУА),
которое является наиболее известным среди несинусоидальных ортогональных,
преобразований. Преобразование Уолша—Адамара широко применяется при
цифровой обработке сигналов, так как оно может быть вычислено только с
использованием сложений и вычитаний. Вследствие этого и аппаратурная реа-
реализация ПУА также проще.
Приводятся алгоритмы для быстрого вычисления ПУА и вводится понятие
спектра Уолша. Изучаются свойства спектра Уолша и дается его физическая
интерпретация. На протяжении всей главы проводится аналогия между ПУА
и ДПФ.
6.1. Представление сигналов в виде ряда Уолша
Прежде чем приступить к выводу различных алгоритмов реали-
реализации ПУА, полезно изучить некоторые аспекты, связанные с
представлением непрерывного сигнала x(t) в виде ряда Уолша.
При этом предполагается, что x(t) определен на полуоткрытом
единичном интервале fe[0, 1).
Как известно [1], множество функций Уолша {wa\w(iy t)}
замкнуто. Это означает, что любой сигнал x(t), который абсолют-
абсолютно интегрируем1 при te[0, 1), можно представить в виде ряда
Уолша
M). F.1.1)
Так как множество функций {wal№(&, t)} образует ортонормаль-
ную систему в замкнутом интервале /е[0, 1], то коэффициент dk
определяется как
1
dft = Jjc(/)walw(A, t)dt, Л = 0,1,2,... F.1.2)
о
Напомним, что [см. выражение E.4.3)]
(k, t) = cal (sk, f), k—четное;
u, /) = sal(sft, t), k — нечетное,
где Sk — частость функции wa\w(ky /), определяемая как [см. вы-
выражение E.4.2)]
0, £ = 0;
k/2, k—четное;
(k+ l)/2, k—нечетное.
l
1 То есть J \x(t)\dt — конечен,
о
94

Если walw,(^, t) выразить через составляющие sal и cal, то выра-
выражение F.1.1) принимает вид
х (t) = а0 wa\w (О, 0 + £ [ah cal (ft, t) + bk sal (k, /)],
F.1.3)
k=\
где ao = do; ah=d2k; bh = d2h-1.
Для получения конечного ряда, содержащего N = 2n слагаемых,
приведенный выше ряд обрывается, в результате чего получаем
NJ2—1
x(t)&aowa\w(O, t)+ £ [afccal(£, t) + bhsa\(k, t)] +
+ bN/2sal(N/2, t). F.1.4)
Условия сходимости ряда F.1.4) были приведены Уолшем [1],
П [2] Фй [3]
, 1), то ряд сходится равно-
равноF.1.5)
д р
Пэли [2], Файном [3]:
i) Ес (t)
[] []
i) Если x(t) непрерывен при
мерно к x(t), т. е.
ton К, bh} = 0.
fe-oo
Таким образом, существует некоторое k=No, при котором все
ak и bh при k>N0 меньше, чем любое наперед заданное е>0.
Если не учитывать эти коэффициенты при разложении x(t) в ряд
Уолша, то теряется незначительная информация.
ii) В точках разрыва x(t), лежащих в fe[0, 1), ряд сходится в
среднем квадратическом.
Из приведенного рассмотрения видно, что представление сигна-
сигналов в виде ряда Уолша аналогично представлению их в виде ряда
Фурье, рассмотренному в § 2.1. Этого и следовало ожидать из-за
сильного сходства между синусоидами и функциями Уолша, что
показано на рис. 6.1 для случая Af=8.
В следующем разделе приводится преобразование Уолша —
Адамара, которое аналогично дискретному преобразованию
Фурье (ДПФ). Преобразование Уолша — Адамара используется
для представления последовательностей. При этом базисные
функции представляют собой дискретные функции Уолша, кото-
которые можно выразить с помощью матриц Адамара Hh(n). Эти мат-
матрицы можно получить по следующему рекуррентному правилу
[см. формулу E.4.10)]:
l\] k=l,2,...,n, F.1.6)
где Hft@) =
F.1.6) дает
и /? = log2./V. Например, при k = \ и k=2 выражение
1
1
1
1
1
J
1
— 1
1
1
— 1
1
1
1
— 1
1
95

Непосредственно можно показать, что матрицы Hh(k) обладают
следующими свойствами:
i) Hh(k) — симметрическая матрица, т. е.
Hh(k)' = Hh(k), F.1.7)
где штрих обозначает операцию транспонирования;
Частость
О
'Частота wal@,t)
1,
О
SalA,t)
°t
calA,t)
/
sin B7Tt)
salB,t)
COS B7Tt)
\
sinD7rt)
calB,t)
COS D7Tt)
0 1/4 1/2 3/4
Рис. 6.1. Функции Уолша и гармоники Фурье
п) Hh(k) —ортогональная матрица, т. е.
F.1.8
где \(k) —единичная матрица размером ();
iii) матрица, обратная Hh(k), пропорциональна матрице
где [Нд^)] — матрица, обратная Hh(k).
6.2. Преобразование Уолша—Адамара, упорядоченное
по Адамару (WHT%
Это преобразование также иногда называется BIFORE1 преоб-
преобразованием. Определение BIFORE было введено Онсоргом [4],
1 BI nary FO urier RE presentation — двоичное представление Фурье.
(Прим. пер.)
96

Преобразование (WHT)^ можно записать в матричных или пока-
показательных выражениях.
Матричное определение. Пусть {Х(т)} — последовательность
Х(т) с периодом N, т = 0, 1, ..., N—1, состоящая из конечных
действительных чисел *, что записывается как
Последовательность {Х(т)} записывается в виде iV-мерного век-
вектора Х(п) следующим образом:
X' (п) = [X @) X A)... X (N-1)], F.2.2)
где n = log2N, Х(п)' обозначает транспонированный вектор Х(п).
Преобразование Уолша — Адамара, упорядоченное по Адамару
/i, последовательности {Х(т)} определяется как
F.2.3)
Bx(n)=-i-Hfc(n)X(n),
где Bx(k) обозначает k-fi коэффициент (WHT)ft, а Ъх(п)'=
= [Вх@)ВхA) ...BX(N— 1)]. Из F.1.9) и F.2.3) следует, что
обратное преобразование Уолша — Адамара, упорядоченное по
Адамару (IWHT)/,, определяется следующим образом:
X(n) = Hh(n)Bx(n). F.2.4)
Так как фурмулы F.2.3) и F.2.4) образуют пару преобразований,
то представление {Х(т)} с помощью (WHT)u однозначно. При-
Приведем простой пример.
Пример 6.2.1. Пусть {Х(т)} = {12—13}. Тогда я=2, и из F.2.3) получаем
В, B) = — НЛB)ХB).
Подставляя в явном виде НлB), получаем
F.2.5)
F.2.6)
4 4
Чтобы убедиться в однозначности преобразования, описываемого F.2.6), под-
подставим Bx(k), k = 0, I, 2, 3, в F.2.4). В результате получим
 1
" Вх @) ~
Вх(\)
Вх B)
.Я*C).
Вычисления
4
ПО
Г1 1
1 1
-1 —!
F.2.6)
1
1 —
— 1 —
— 1
приводят
Г
1
1
1.
к
" Г
2
— 1
3_
•
коэффициентам
ЛA)
X B)
-XC)J
-1
1
-1
1
— 1
-1
1-1Г 5/4-1
1 -5/4
1 1/4
1J L 3/4J.
F.2.7)
Проведя вычисления по F.2.7), получим исходную последовательность {X(т)}--
= {12—13}. ■
1 Большинство полученных результатов можно применить для последователь-
последовательностей комплексных чисел. ' • • * . ';;
4-88 97

Определение в показательной форме. Преобразование Уолша —
Адамара (WHT)h можно также записать в виде
^
F.2.8)
п-\
где
s=0
В уравнении F.2.8) us и ms являются коэффициентами двоичного
представления и и т соответственно, т. е. для каждого десятич-
десятичного числа O^i/^.V—1 можно записать
2п~1
п~2
и = ип-г 2n~L + ип+2 2n"z +... + иг 21 + щ 2о, F.2.9)
тде uv = 0 или 1, у = 0, 1, 2, ..., я—1. Таким же образом каждое
десятичное число т, O^m^/V—1 выражается в виде
т — гп— 2п~х-\-т _ 2п~2-\-...-{-т 2х-\~т 2° F.2 10)
где mv=0 или 1, v = 0, 1, 2, ..., п—1. Полезно показать на приме-
примере N=4, что матричное и показательное определения эквивален-
эквивалентны. Из формулы F.2.8) следует
B) = X @) (-
2>
X A) (-
2>
Х B) (-
2>
+ ХC)(—1)<3'3>. F.2.11)
Чтобы определить показатели (—1), надо получить матрицу по-
показателей [<m, u>], m, и = 0, 1, 2, 3, как показано ниже
т
0
1
2
3
щ
0
0
1
^ 1
/7Z2 U
0 0
1 1
0 2
1 3
0
0
1
1
и2
0
1
0
1
т
i
0
1
2
3
0

0
0
0
1
0
1
0
1
2
0
0
1
1
3
0
1
1
2
записи элементов матрицы [<т, ы>] и формулы F.2.11) сле-
т

) = X@)-X(\)+XB)-XC);
= X@) + X(\)-XB)-XC);
В матричной форме эти уравнения выражаются как
что эквивалентно матричному определению преобразования Уол-
Уолша— Адамара (WHT)^ при N=4.
Обратное преобразование Уолша — Адамара (IWHT)b соот-
соответствующее (WHT)b определяется из F.2.8) как
X(m)=f.Bx(u)(-l)<m'u>, m = 0, I,..., N-1. F.2.12)
6.3. Быстрое преобразование Уолша—Адамара, упорядоченное
по Адамару (БПУА)
Напомним, что БПФ является алгоритмом для эффективного
вычисления ДПФ. Подобным же образом БПУА с упорядочени-
упорядочением по Адамару является алгоритмом для эффективного вычисле-
вычисления ПУА. Быстрое преобразование Уолша — Адамара с упорядо-
упорядочением по Адамару можно получить либо с помощью факториза-
факторизации матриц [5, 6], либо с помощью разбиения матриц [7]. Рас-
Рассмотрим вывод алгоритма с помощью разбиения матриц для слу-
случая N = 8. При N=8 формула F.2.3) записывается как
Пользуясь выражением F.1.6), Н/,C) можно выразить через
HftB), что приводит к
Хфу
ВхB)
Вх{±>
ВхE)
ВхF)
Н„B)
НЛB)"
-Н*B).
ХB)
Х"D)
ХE)
ХF)
F.3.2)
Из разбиения матрицы, приведенного в F.3.2), следует, что
ВхB)
F.3.3а)
99

и
А. (б)
В* F)
8
F.3.36)
Bx G)
где
X1(l) = X(l—4) — X(l), 1 = 4, 5, 6, 7.
Последовательность сложений и вычитаний в F.3.3а) и F.3.36)
показана на примере графа БПУА, приведенного на рис. 6.2, где
она обозначена как итерация #1.
Итерация #1 Итерация #2 Итерация #3
1/8
гх3@)—т Вх@)
-1 -1
Рис. 6.2. Граф БПУА с упорядочением по Адамару при N=8
Вновь применяя F.1.6) к формулам F.3.3а) и F.3.36), полу-
получаем
ВхB)
Hft(l)-Hft(Dj
F.3.4а)
100

и
'к
1вх
D)"
F)
G)J
=_[_ГНЙA) н»A)]
8 [Hh(l)_Hft(l)J
ЛG)_
F.3.46)
Из разбиения матрицы, приведенного в F.3.4а) и F.3.46), полу-
получаем следующие выражения:
Вж@)
)J 8
B)
*E)
ГВЖFЛ _1_
[ВхG)\ 8 ft
= -^Н„A)
=ТНлA)
X, D)
F.3.5а)
F.3.56)
F.3.5в)
= "8"HftA)[x2G)]- F'3<5Г)
Последовательность сложений и вычитаний в F.3.5а) и F.3.56)
показана на примере графа БПУА и обозначена как итерация #
(рис. 6.2). Так как
Hfc(l) =
то эти формулы приводят к
, A) = Ха @)—X, A) = X, A);
85 G) = Х.г F) -X, G) = Х3 G). F.3.6)
Последовательность сложений и вычитаний в F.3.6) обозна-
обозначена как итерация # 3 (см. рис. 6.2). Из графа БПУА с упо-
упорядочением по Адамару следует, что для его осуществления, за
исключением нормировки с помощью множителя 1/8, требуются
только сложения и вычитания. Число сложений и вычитаний,
необходимое для вычисления восьми коэффициентов (WHT)^,
равняется 8х Iog28=24.
Обобщения. Обобщения БПУА с упорядочением по Адамару
могут быть получены непосредственно. Общая структура графа
БПУА для любого ЛГ = 2П такая же, как и у графа, изображенно-
101

го на рис. 6.2. Следует сделать замечания для общего случая
N=2n.
1. Общее число итераций равно n=log2N. Индекс итерации г
принимает значения г=1, 2, ..., л.
2. В г-й итерации участвует 2Г~Х групп по NI2r~l элементов в
каждой группе. Половина элементов в каждой группе связана с
операцией сложения, а другая половина — с операцией вычита-
вычитания.
3. Общее число арифметических операций, необходимое для
вычисления всех коэффициентов преобразования, равняется при-
приблизительно NlogzN по сравнению с N2 операциями, соответству-
соответствующими F.2.3).
4. Алгоритм БПУА можно применять для вычисления обратно-
обратного преобразования Уолша — Адамара по формуле F.2.4).
Пример 6.3.1. Пусть дана последовательность {Х(т)} = {\ 2 1 13 2 12}.
Пользуясь БПУА с упорядочением по Адамару, вычислить коэффициенты ПУА
Bx(k)y k=0, I, ..., 7.
Решение. Проводя вычисления в соответствии с графом, изображен-
изображенным на рис. 6.2, получаем:
1/8
X @) = 1 ; Хг @) = 4 ; Х2 @) = 6 ; Х3 @) = 13 -> Вх @);
1/8
ХA) = 2;Х1A) = 4; Х2 A) =7; Х3 A) = - 1 -> Вх A) ;
1/8
X B) = 1 ; Хг B) = 2 ; Х2 B) = 2 ; Х3 B) = 3 — Вх B) ;
1/8
X C) = 1 ;ХХ C) = 3 ; Х2 C) = 1 ; Х3 C) = 1 - Вх C) ;
1/8
X D) = 3 ; Хх D) = — 2 ; Х2 D) = — 2 ; Х3 D) = - 3-^ Вх D) ;
1/8
X E) = 2 ; Хх E) = 0 ; Х2 E) = - 1 ; Х3 E) = - 1 — Вх E) ;
'1/8
ХF)=1;Х1F) = 0; Х,F) = - 2 ; Х3 F) = - 1 -> Вх F) ;
1/8
X G) = 2 ; Xi G) = — 1 ; Х2 G) = 1 ; Х3 G) = - 3-> Вх G).
A3-1 3 1—3 —1 —1 —3
Следовательно, {Bx(k)}--= — —■ — — — — — —
looooo О о о
Частости, связанные с коэффициентами ПУА с упорядочени-
упорядочением по Адамару. С помощью двоичной инверсии можно получить
частость, связанную с данными Bx(k). Начнем с E.4.9), из кото-
которого следует, что
Wai, (k, t) = Wai, [b «k», /], F.3.7)
где <k> —результат двоичной инверсии k\ b(<k>) соответству-
соответствует переходу от кода Грея к двоичному представлению <&>, и
Wa\h(k, /), WaU(^, t) —дискретные значения функций Уолша
упорядоченных по Адамару и Уолшу соответственно.
Объединяя выражения E.4.2) и F.3.7), получаем частость,
связанную с коэффициентом ПУА, упорядоченным по Адамару:
102

0, k = 0;
b «fc>)/2; b «k» — четно;
; b «ft» - нечетно. .
F.3.8)
Для иллюстрации результаты вычисления, соответствующие
выражению F.3.8) и полученные для N = 8, сведены в табл. 6.3.1.
Таблица 6.3.1
Частости, связанные с коэффициентами ПУА при упорядочении по Адамару
k
0
1
2
3
4
5
6
7
000
001
010
011
100
101
по
IIP
<k>2
000
100
010
по
001
101
011
111
b«k»2
000
111
011
100
001
110
010
101
b«k»i0
0
7
3
4
1
6
2
5
Коэффициенты ПУА
Bx@)
Bx(l)
ВхB)
Bx&)
BxW
ВхE)
BX(G)
ВхG)
вх (k)
0
4
2
2
1
3
1
3
6.4. Преобразование Уолша—Адамара, упорядоченное по Уолшу
Из табл. 6.3.1 следует, что величины SBx(k) располагаются не
в порядке возрастания, т. е. они не обладают следующим упоря-
упорядочением частости:
коэффициент преобразования ф: 0 1 2 3 4 5 6 7;
соответствующая частость: 0 1 12 2 3 3 4.
В некоторых случаях желательно, чтобы коэффициенты преоб-
преобразования располагались в порядке возрастания частости. Ортого-
Ортогональное преобразование, которое обладает этим свойством, явля-
является преобразованием Уолша — Адамара, упорядоченное по
Уолшу (WHT)W, или иначе, преобразование Уолша — Адамара с
упорядочением по частости.
Матричное определение. Преобразования (WHT)W последова-
последовательности {Х(т)} = {Х@) X(l) ... X(N—1)} определяются как
Х(л), F.4.1)
где Wx(k)—k-й коэффициент
4w(n) — матрица Адамара (NxN), упорядоченная по Уолшу.
Так как матрица Hw(n) ортогональная и симметричная, то обрат-
обратное преобразование (IWHT)^ записывается в виде
Пример 6.4.1. Пусть {Х(т)} = {\ 2 1 13 2 12}. Требуется найти Wx(k),
*-0. 1, ..., 7.
103

Решение. Подставляя приведенную на рис. 5.56 матрицу Н,пC) ь
F.4.1), получаем
1 1
■1 — 1
1 1
wx(\)
WxB)
wx(Z)
WxD)
WxE)
WxF)
WX(J)
1
Q
8
-1 1
1 1
1 1 —
1 1 —
1 — 1 —
1 — 1 —
1 — 1 1
1 — 1
I
I —
I
—
I —
I 1 1
I —1 — 1
I —1 — 1
1 1
j. J
I 1—1
I —1 1
I— 1 1
I 1 — 1
— 1 — 1
— 1 1
1 — 1
— 1 1
1 — 1
В соответствии с приведенным выше матричным уравнением получаем
8 8 8 8 8 8 8/
Из приведенного выше примера видно, что для вычисление
коэффициента Wx(k), k= О, 1, ..., N—1, требуется N2 сложений :■:
вычитаний. В § 6.5 приведен алгоритм, позволяющий вычислитг
Wx(k), k=0, I, ..., N—1, за N\og2N операций сложения и вычита-
вычитания. %
Определение в показательной форме. Так как элементь
Hw(n) можно получить в соответствии с E.4.4), то преобразова-
преобразование (WHT)^ и обратное преобразование (IWHT)^ могут быт-
также определены как
N— 1
г(и)>
т=0
и=0
! = 0, 1,..., N— 1, F.4.3
п—\
, г (и)> = 2 г* (и) т89 п = log2 JV и г0 (и) = ип-ъ
s=0
гг(и) = ип^ + ип_2, г2(и) = ип-2 + ип_з»..., гп-г(и) = и1 + и0.
где
Обозначения и8 и ms являются коэффициентами двоичного пред-
представления и и т и определяются по выражениям F.2.9) и F.2.10)
Соответствие между коэффициентами преобразованш
(WHT)W и (WHT)^ устанавливается непосредственно. Из опреде
лений этих преобразований и из уравнения F.3.7) следует, что
k = 0, I,..., N-l, F.4.4-
где <&>—двоичная инверсия k, a b(<k>) обозначает переход
от кода Грея к двоичному коду <k>. Например, при N = 8 в со-
соответствии с F.4.4) получаем (см. табл. 6.3.1)
щ

6.5. Быстрое преобразование Уолша—Адамара, упорядоченное
по Уолшу (FWHT%,
Быстрое преобразование Уолша — Адамара с упорядочением
по Уолшу представляет собой алгоритм для вычисления (WHT)W
с помощью сложения и вычитания без умножения на множитель
1/N в уравнении F.4.1). При этом можно сначала вычислить ко-
коэффициенты Bx(k), k = 0, I, ..., N—1. Соответственно коэффициен-
коэффициенты (WHT)W можно получить, пользуясь соотношением F.4.4).
Однако при таком подходе требуется переход от кода Грея к
двоичному коду, а также двоичная инверсия, и поэтому он не яв-
является достаточно эффективным. Эндрюс и Пратт предложили ал-
алгоритм, который отличается от алгоритма Кули — Тьюки [8] и
может быть осуществлен за \0g2N операций сложения и вычита-
вычитания.
В этом разделе рассматривается алгоритм БПУА с упорядоче-
упорядочением по Уолшу, предложенный Манцем [9]. В этом алгоритме ис-
используется граф типа Кули — Тьюки, а сам алгоритм осущест-
осуществляется за N\og2N операций сложения и вычитания. Этот алго-
алгоритм по существу является простой модификацией БПУА с упоря-
упорядочением по Адамару и наиболее просто может быть проиллюст-
проиллюстрирован при N=8. Для удобства граф БПУА с упорядочением
по Адамару (FWHT)^, изображенный на рис. 6.2, повторяется на
рис. 6.3. Первый шаг алгоритма заключается в двоичной инверсии
входной последовательности и расположении ее в порядке воз-
возрастания двоично-инвертированных индексов. Если {Х(т)} =
= {X@)X(l) ...X(N—1)} обозначает входную последовательность,
то двоично-инвертированная последовательность с возрастающи-
возрастающими индексами будет обозначаться как {Х(т)} = {Х@)ХA) ...
...%(N—1)}. Второй шаг заключается в определении «инверсии», ко-
которая наилучшим образом может быть проиллюстрирована с по-
помощью простого примера, изображенного на рис. 6.4. Обычно, т. е.
без инверсии) граф преобразования строится следующим образом:
сложения
— вычитания. (о.0.1)
С учетом инверсии граф преобразования строится следующим об-
образом:
105

Xh+1(s)=Xh(s)-Xh(s+2);
i — вычитания
— сложения.
F.5.2)
Итерация #1 Итерация #2 Итерация #3
х @) г—* 7Х1{0) *""* 7 *2 <0)
хA)
хB)
х3@) V8 Вх@)
Рис. 6.3. Граф БПУА с упорядочением по Адамару при
(штрих-пунктирные линии разделяют отдельные блоки)
Без инверсии ^
Инверсия
xk+1 (s)
Рис. 6.4. Влияние инверсии на структуру графа
106

Как следует из F.5.1) и F.5.2), инверсия приводит к замене сло-
сложений в данной итерации графа преобразования на вычитания и
наоборот.
Третий шаг заключается в определении «блока». Блок опре-
определяется как группа сложений и вычитаний, которая не связана
с соседними группами, расположенными как выше, так и ниже.
На рис. 6.3 блоки обозначены штрих-пунктиром. Например, ите-
итерация ^ 1 имеет 2°=1 блок; итерация Ф 2 имеет 2 блока и т. д.
В общем случае итерация # & имеет 2k~l блоков.
Наконец, приведем правила формирования блоков для алго-
алгоритма БПУА с упорядочением по Уолшу с учетом инверсии сло-
сложений и вычитаний.
Правило 1. В итерации # 1 инверсия не применяется.
Правило 2. Если обозначить через Ът, т=\, 2, ..., 2k~ly бло-
блоки в k-й итерации, то тогда блоки с инверсией располагаются,
как показано ниже, где R обозначает инверсию
Ьг b2 b3 Ь4 Ьъ b6...b2k-\,
т. е. каждый второй блок, начиная с блока &2, претерпевает ин-
инверсию. На рис. 6.5 показан порядок инверсии при N = 8, а соот-
соответствующий граф БПУА с упорядочением по Уолшу (FWHT)W
приведен на рис. 6.6. В общем случае БПУА с упорядочением по
Уолшу имеет граф с n = log2N итерациями.
1
Итерация #1 Итерация #2 Итерация #3
Инверсия' Ь>2
Выход
Рис. 6.5. Схема расположения блоков в графе БПУА
с упорядочением по Уолшу при N=8 (И — блок с ин-
инверсией; ДИП — двоично-инвертированный порядок)
Пример 6.5.1. Требуется найти ПУА с упорядочением по Уолшу с помощью
БПУА (FWHT)t, для последовательности {Х(т)} = {1 2 113 2 12}.
Решение. Пусть №)} = {^@)^A)^B)^C)*D)*E)*F)ЯG)} —после-
—последовательность, полученная в результате двоичной инверсии {Х(т)}, т
тогда
Х@) =Х@) ; Х(\) =
; X B) = X B)
; ХE) =ХE)
107

x@)
X 1
xB)
x{3)
xD)
xE)
xF)
xG)
Итерация #1 Итерация #2 Итерация #3 i/q
х(О)с > т т—* 7 ч * У -iff—W IQ)
xG)
-1
-1
1/8
1/8
1/8
1/8
1/8
1/8
1/8
•W C1)
B)
• VV C)
■ Wv D)
E)
- Wv F)
■ WxG)
Рис. 6.6. Граф БПУА с упорядочением по Уолшу при ЛГ=8
Подставляя {Х(т)} и {Я(т)} в граф, изображенный на рис. 6.6, получаем
1/8
1/8
1/8
ХB) = 1, ХB) = 1, Хг B) = 2 Х2B) = 1 Х3 B) = - 1 -^ Wx B) ;
1/8
1/8
= - 1 Х3 D) = 1 -+
= 2,ХE) = 2,Х1E)=1Х2E) = 2 Х3 E) = ^
1/8
/
ХF) = 1, ХF) = 1, ХхF) = 0Х2 F) = - 1 Х3F) = - 1 -+WXF);
ХG) = 2, X G) = 2, Хг G) = - 1 Х2 G) = 0Х3 G) = - 1^^G) .
Таким образом,
3^3^1 3 1 -3-1 _П .
8 gjTTTTj.
Полученные значения Wx(k) совпадают со значениями, полученными в
примере 6.4.1 в результате матричного умножения.
108

6.6. Циклический и диадический сдвиги
Циклический сдвиг. Пусть {Х(т)}—вещественнозначная по-
последовательность с периодом N. Рассмотрим последовательность
{Z(m)}i, при которой
{Z(m)}z = {Z@)Z(l)...Z(^-l)}, F.6.1)
где [см. уравнение C.2.3)] Z(m)=X(m + l), m = 0, 1, ..., N—1.
Например,
)}1 = {X(l)XB)...X(N-2)X(N-l)X@)}f
)}2 = {XB)XC)...X(N—l)X@) ХA)} и т. д.
Так как индексы {Х(т)} и {Z(m)}i понимаются в смысле сложе-
сложения по модулю N, то говорят, что {Z(m)}i получается из {Х(т)\
в результате циклического сдвига {Х(т)} на / позиций.
Пусть CZyi(k) обозначает k-и коэффициент ДПФ последова-
последовательности {Z(m)}i. Тогда из теоремы сдвига для ДПФ [см. фор-
формулу C.2.4)] получаем
C,9i(k) = W-klCx{k), k = 0, I,..., N-\9
или \C2fl(k)\* = \Cx(k)\\ k = 09 1 N-l. F.6.2)
Выражение F.6.2) означает, что \Cx(k)\2 не зависит от I и, сле-
следовательно, инвариантно относительно циклических сдвигов
{Х()}
()}
Диадический сдвиг. Будем обозначать через {Z(m)}i последо-
последовательность, полученную из {Х(т)} в результате диадического
сдвига на /:
{z(m)}L = {Z @) Z A)... Z(N-1)}, F.6.3)
где Z(m)=X(m © I), m = 0, 1, ..., N—1, a © обозначает сложение
по модулю 2. В качестве примера диадического сдвига, связан-
связанного со сложением по модулю 2 в выражении F.6.3), рассмотрим
случай N=8. Результаты приведены в табл. 6.6.1. Например,
пользуясь данными этой таблицы, получаем
)}1 = {X(l)X@)XC)XB)XE)XD)XG)XF)};
{Z(m)}2 = {X B) X C) X @) X A) X F) X G) X D) X E)};
{Z (m)}8 = {X C) X B) X A) X @) X G) X F) X E) X D)};
{Z(m)}4-{XD)XE)XF)XG)X@)X(l)XB)XC)} и т. д. F.6.4)
Так же как и в выражении F.6.2), можно показать, что
B27i(k) = B2x(k) и W27i(k) = W2x(k), * = 0, 1 ЛГ-1, F.6.5)
где через B^i(k) и №i7zF) обозначен &-й коэффициент ПУА с
упорядочением по Адамару (WHT)^ и ПУА с упорядочением по
Уолшу (WHT)W соответственно. Из выражения F.6.5) следует,
109

Таблица 6.6.1
m© I
0
1
2
3
4
5
6
7
0
0
1
2
3
4
5
6
7
1
1
0
3
2
5
4
7
6
2
2
3
0
1
6
7
4
5
3
3
2
1
0
7
6
5
4
4
4
5
6
7
0
1
2
3
5
5
4
7
6
1
0
3
2
6
6
7
4
5
2
3
0
1
7
7
6
5
4
3
2
1
0
что B2x(k) и W2x(k) не зависят от / и инвариантны относительно
диадических сдвигов {Х(т)}. Проиллюстрируем это утверждение
для случая N=8 при 1=1.
Преобразование Уолша—Адамара, упорядоченное по Адама-
ру, последовательности {Z(m)}i может быть получено в виде
1 —
R /О\ _____ Ы /Q\'7/Q\ //? е п
О--*- yoj— П/j yOf £j \O)if (O.U.U
где
ZC); = [X A) X @) X C) X B) X E) X D) X G) X F)].
Из формулы F.6.4) следует, что
ZCI = MC)XC), F.6.7
где
 1 0 010 0 0 0"
1 0 0 0:0 0 0 0
0 0 0 110 0 0 0
о о 1 о; о о о о
6 6 6 6Г6То о
о о о о! 1 о о о
о о о о ;о о о 1
_0 0 0 0!О 0 1 0_
Подставляя выражение F.6.7) в уравнение F.6.6) и пользуясь со-
соотношением ХC) = НЛC)ВЖC), получаем
МC) =
:тНл(
м
F.6.8
по

Матричное произведение АC)= — НлC)МC)НлC) называется
о
преобразованием подобия, соответствующим ПУА с упорядочени-
упорядочением по Адамару (WHT)h. Подставляя НлC) (см. рис. 5.76) и оце-
оценивая АC) получаем
АC) =
1
— 1
— 1
— 1
1
Таким образом, АC) является диагональной матрицей, и из вы-
выражения F.6.8) следует, что BZtl(k) = (—l)hBx(k), k=0, I, ..., 7,
что означает
BL (k) = B2(k\ k = 0, 1..., 7. F.6.9)
Таким образом, B2x(k) не зависит от I и, следовательно, ин-
инвариантно относительно диадических сдвигов {Х(т)}. Диагональ-
Диагональная форма преобразования подобия остается справедливой и при
других значениях I.
В заключение заметим, что выражение F.6.9) также означает,
что и W2x(k) инвариантно относительно диадических сдвигов
{Х(т)}, так как Bx(k) и Wx(k) однозначно связаны соотношени-
соотношением F.4.4).
6.7. Спектр ПУА с упорядочением по Уолшу [10—12]
Энергетический спектр ПУА с упорядочением по Уолшу. На-
Напомним, что энергетический спектр ДПФ вещественнозначной по-
последовательности {Х(т)} определяется как
Р(Ь\ \Г (ЬЛ\2 h — 0 1 М/9 (ft 7 П
где Cx(k)—k-и коэффициент ДПФ. По определению
Сх (k) = Rx (k) + i Ix (k), F.7.2)
где Rx(k) и Ix(k)—действительная и мнимая части Cx(k). Из-
Известно, что Rx(k) и Ix(k) соответствуют коэффициентам при ко-
косинусах и синусах в разложении в конечный ряд Фурье. Энерге-
Энергетический спектр ПУА с упорядочением по Уолшу также опреде-
определяется как сумма квадратов коэффициентов при функциях cal и
sal в разложении последовательности в ряд Уолша. Например,
при N=8 (см. рис. 6.1) энергетический спектр ПУА с упорядоче-
упорядочением по Уолшу определяется как
P. D) = B7» G).
Ill

Следовательно, общая форма энергетического
быть записана в виде
спектра может
=l, 2,..., N/2-1)
F.7.3)
10
10"
10'
10*
где Pw(s) — точка энерге-
энергетического спектра ПУА с
упорядочением по Уолшу,
связанная с частостью 5.
Такой спектр имеет
(N/2 + l) точек.
Из выражений F.6.5)
и F.7.3) следует, что
энергетический спектр
ПУА с упорядочением по
Уолшу инвариантен отно-
относительно диадического
сдвига {Х(т)}. В качест-
качестве примера на рис. 6.7
приведен энергетический
спектр ПУА с упорядоче-
упорядочением по Уолшу для экс-
экспоненциально убываю-
убывающей последовательности
..Л\~ е уГП~'
Фазовый спектр ПУА
с упорядочением по Уол-
шу. По аналогии с фазо-
8 10 12 14 16 Частость s ВЫМ СПеКТрОМ ДПФ фаЗО-
ПУА г. vnn- вый спектР П.УА с упоря-
Рис. 6.7. Энергетический спектр ПУА с упо
рядочением по Уолшу убывающей показатель'
ной последовательности
ДОЧением ПО Уолшу ОПре-
деляется как
= 0, я; ^JL^2kn±f, k = 0, I, 2,...
S=1)
F.7.4)
6.8. Спектр ПУА с упорядочением по Адамару (WHT% [4, 13]
Энергетический спектр ПУА с упорядочением по Адамару. На-
Наряду с энергетическим спектром ПУА с упорядочением по Уолшу,
инвариантным к диадическим сдвигам последовательности дан-
данных {Х(т)}у можно построить спектр ПУА с упорядочением по
112

Адамару, обладающий свойством инвариантности относительно
циклических сдвигов исходной последовательности. Наиболее про-
просто это продемонстрировать для N=8. Пусть {Z(m)}t обозначает
{Х(т)}, сдвинутую циклически влево на / позиций, т. е.
/ 7 I ю\\ / У 11\ У/7 _J_ \\ У A О\ У П 1 \\ 7 10 1
yLi \iTi')fi :== \-^v {ь) Л. \L -j~ 1).,. Л. \i Z^ Л. \L 1 Jjt I — 1, Z, ..., / .
При /= 1 имеем
ZCI = MC)XC)> F.8.1)
где
~0 1 О О О О О О"
0 0 10 0 0 0 0
0 0 0 10 0 0 0
0 0 0 0 10 0 0
0 0 0 0 0 10 0
0 0 0 0 0 0 10
0 0 0 0 0 0 0 1
1 0 0 0 0 0 0 0_
Преобразование Уолша—Адамара с упорядочением по Адамару
последовательности {Z(m)}\ определяется как
F.8.2)
МC) =
или
В2,1C) = АC)ВЯC),
где АC) — преобразование подобия вида
В результате вычисления АC) по F.8.4) получаем
F.8.3)
F.8.4)
АC) = —
2 0:
0 —2\
■
°2 !
04
о2
0 —2
2 0
1
1
1
j
— 1
— 1
1
1
4
— 1
1
1
1
— 1
1
— 1
— 1
Повторное использование выражения F.8.4) дает
В!г§/C) = АC)гВзсC), Z=l, 2,..., 7. F.8.5)
Как видно, АC) состоит из квадратных матриц возрастающего
порядка, расположенных вдоль главной диагонали. Из приведенной
113

матрицы А C) «блочно-диагонального» вида и выражения F.8.5)
получаем следующее множество уравнений:
,K3)
52,iF)
= DB)<
где
-[
О -
i o
и DB)~i-
1 —1
1 1
1 —1
J 1
F.8.6)
ортогональные матрицы, т. е. D(l)/D(l) =1A) hDB)'DB)
1B). Выражение F.8.6) приводит к выводу, что
k=2
k=2
и £ Bl,iW = £ В\ (k), 1=1,2 7.
F.8.7)
Выражения, стоящие в правой части уравнения F.8.7), не зави-
зависят от I и, следовательно, инвариантны относительно циклических
сдвигов {Х(т)}. Другими словами, эти выражения представля-
представляют энергетический спектр ПУА, упорядоченный по Адамару, при
N=8. В общем случае энергетический спектр определяется следу-
следующим образом:
2-1
и Ph(r)=
r= 1, 2,..., n\ n =
F.8.8)
Из F.8.8) следует, что энергетический спектр ПУА с упорядоче-
упорядочением по Адамару (WHT)h содержит п+1 точек.
Вычислительные соображения. При соответствующем измене-
изменении БПУА с упорядочением по Адамару (FWHT)^ энергетичес-
энергетический спектр можно определить без вычисления всех фактических
коэффициентов Bx(k). Соответствующие изменения приводятся
для случая iV = 8. Из графа БПУА с упорядочением по Адамару
(см. рис. 6.2) следует, что
114

5.F)
ВхG)
F.8.9)
Так как матрица Hh(k) — ортогональна, то из F.8.9) следует
k=-2 т=2 k=4 m=4
Энергетический спектр при этом можно выразить через элементы
исходной последовательности
Pft@) = -l-X!@); РЛA) = ^^A);
3 7
5] и PhC) = |-J]X?(m). F.8.10)
Ph@)
PkCD
т=2
т=4
Итерация #1 Итерация #2 Итерация #3
х1{0)'
х{7)
Квадратор
Рис. 6.8. Граф вычисления спект-
спектра мощности ПУА с упорядоче-
упорядочением по Адамару, N=8
115

Обобщение приведенной выше модификации БПУА с упоря-
упорядочением по Адамару приводит к следующему общему выраже-
выражению энергетического спектра ПУА с упорядочением по Адамару:
F.8.11)
Граф, соответствующий F.8.11) при N = 8, показан на рис. 6.8.
6.9. Физическая интерпретация энергетического спектра ПУА
с упорядочением по Адамару [13]
Энергетический спектр ПУА, упорядоченного по Адамару,
имеет следующие физические интерпретации:
1) спектральные точки Рк(г) представляют собой средние
энергии множества (я+1) взаимно ортогональных подпоследова-
подпоследовательностей;
2) каждая точка Ph(r) представляет собой энергетическое со-
содержание группы частостей, а не одной частости, как в случае
энергетического спектра ПУА с упорядочением по Уолшу.
Чтобы продемонстрировать первое толкование энергетическо-
энергетического спектра, воспользуемся тем, что последовательность {Х(т)}
периода N можно представить в виде суммы {Fi(m)}N/2-nepnoRii-
ческой последовательности {G\(m)} и А72-косопериодической1
последовательности {Gi(m)}t т. е.
где F1(m) = [) ( ^
^i^ ^} m = 0, I,..., N/2-L
После этого последовательность {F\(m)} можно представить в
виде А74-периодической последовательности {Fzim)} и iV/4-ко-
сопериодической последовательности {G2(m)}y т. е.
-^-)}, m = 0, 1,..., JV/4-1.
где F2 (m) = -L {f ( +
Продолжая далее указанный выше процесс, получаем, что
{Х(т)} можно разложить в сумму следующих п+1 последова-
последовательностей:
{X (т)} = {Fn (m)} + {Gn (m)} + {Gn^ (m)} +... + {G, (m)}, F.9.1)
1 Последовательность называется М-косопериодической, если Х(т)
= —Х(М+)
116

где {Fn(m)} представляет собой 1-периодическую последователь-
последовательность, a {Gn-r(m)}— 2г-косопериодическую последовательность,
г=0, 1, ..., п— 1.
Описанный выше процесс разложения иллюстрируется рис.
6.9 при N = 8. Последовательность {Х(т)} разлагается в сумму
{X (т)} = {Рш (т)} + {G3 (m)} + {G2 (m)} + {Gx (m)},
в которой {Fz(tn)} является 1-периодической, a {Gz(m)}9 {G2(m)},
{Gi(m)} представляют собой 1-, 2- и 4-периодическую последова-
Итерация # V
Итерация #2
Итерация #3
1/2
G3@) = bxA)
Рис. 6.9. Граф, преобра-
преображающий разложение
{Х(т)} на подпоследо-
подпоследовательности, iV=8
xG)
тельность соответственно. Следовательно, эти последовательности
можно представить в виде векторов:
F3 C)' = [bx @) bx @) bx @) bx @) bx @) bx @) 6Я @) bx @)];
G2 C)' = [bx B) 6Я C)-bxB)-bxC) 6a B) 6,C)-bxB)-bxC)];
7)-63BD)-6«E)-63BF)-6,G)]> F.9.2)
где коэффициенты bx(k) могут быть выражены через коэффи-
коэффициенты ПУА, упорядоченного по Уолшу.
Из рассмотрения векторов в записи F.9.2) можно сделать вы-
вывод, что они все взаимно ортогональны и, следовательно,
F.9.3)
117

где || • || обозначает норму вектора. Кроме того,
I|G2 C)||2 = 4 2 b\ (k); ЦОХ C)l,|2 = 2^ b* (ft). F.9.4
Вспомним теперь, что средняя энергия {Х(т)} записывается в
виде
7
т=0
Подставляя выражение D.9.4) в формулу D.9.3), получаем
F.9.5
ft=2
Чтобы связать коэффициенты bx(k) с соответствующими коэффи-
коэффициентами Bx(k), запишем ПУА с упорядочением по Адамару по-
последовательности {Х(т)}, в котором сама последовательност
{Х(т)} выражается в виде суммы подпоследовательностей. Поь
этом получаем следующее матричное выражение
1 1|1 1|1 1:1 Г
1 _l!l _i;i _lji —l
BAD
в* B)
* G)
НАA) j—НЛA):НАA) j_Hft
HftB)
i -HAB)
X
X
-ЬАО)-
ЬАО)
МО)
МО)
6.@)
МО)
МО)
МО)
•
+
" ь*ОГ
-МО
Mi)
-Ml)
Mi)
-Ml)
Ml)
-6.A)
1
+
" M2)~
ft*C)
-6* B)
-**C)
ft* B)
ft*C)
-ftxB)
-6*C)
1
"Г
" М4Г
b*E)
ft*.Fj
ft* G)
-ft* D)
-6* E)
-ft* F)
-ft* G)
F.9.6
Из выражения F.9.6) следует, что
118

Вх G)
.)
6» E)
Мб)
F.9.7)
Так как НлA) и НлB) —ортогональные матрицы, то формулы
F.9.7) приводят к следующему результату:
2w=22w и S
k=2 k=2 k=A
Таким образом,
3), F.9.8)
где Ph@)—средняя мощность 1-периодической последовательно-
последовательности {Fz(m)}, а РлA), Ph{2) и РлC) — средние мощности после-
последовательностей {G3(m)}, {G2(m)} и {Gi(m)}, которые являются
1-, 2- и 4-косопериодическими соответственно.
Из приведенного выше анализа можно сделать следующие вы-
выводы:
1) Рн@) представляют собой среднюю мощность 1-периоди-
1-периодической последовательности {Fn(m)}\
2) Ph(f) представляет собой среднюю мощность 2г-косоперио-
дической последовательности {Gn+i-r(m)}y /*=1, 2, ..., п.
Для иллюстрации второго физического толкования энергети-
энергетического спектра ПУА с упорядочением по Адамару рассмотрим
как входят частости в энергетический спектр этого преобразова-
преобразования при N=8. Из F.8.8) имеем
Ph B) = 52 B) + 52C); РА C) = 5£ D) + 52 E)+ 52
Затем из табл. 6.3.1 находим
JG). F.9.9)
Sbx D) = Sbx F) = 1; Sbx E) = SBjc G) = 3.
F.9.10)
Если через F[Ph(r)] обозначить частости, входящие в состав
спектральной точки Рн(г), то из F.9.9) и F.9.10) следует, что
\ @I = 0; /ЧРД C)] = 1,3; F[PhB)) = 2; F[PAA)]=4. F.9.11)
Можно показать, что в общем случае выражение F.9.11) будет
иметь вид
F[Ph @)] = 0;
F[Ph(n)]=l, 3, 5 JV/2-1; F[Ph(n-l)] = 2, 6, 10,... N/2-2;
119

F[Ph(n-2)] = 4, 12, 20,..., JV/2-4;
F[Ph(n-k)] = 2k, 3-2*. 5-2*,
F.9.12)
Каждая спектральная точка Рн(к) представляет собой энерге-
энергетическое содержание группы частостей, а не одной единственной
частости, как в случае энергетического спектра ПУА с упорядо-
упорядочением по Уолшу. Однако группирование частостей не является
произвольным. Каждая группа состоит из основной частости и
множества всех нечетных частостей относительно основной.
Связь со спектром ДПФ. Естественным следствием приведен-
приведенного выше обсуждения является установление взаимосвязи ме-
между энергетическими спектрами ПУА с упорядочением по Ада-
мару и ДПФ. Рассмотрим случай N=8. Графы, соответствующие
вычислению энергетического спектра ПУА с упорядочением по
Адамару и энергетического спектра ДПФ, приведены на рис.
6.10. Из графа БПФ следует, что
1 0 W2 0
0 1 0 W2
1 0 — W2 0
0 1 0 — W2
~СХ
сх
сх
сх
AI
E)
C)
G)
_ 1
~~ 8
 W
1 —W
0
1
1
0
W3
— W3_
х
~сх
сх
сх
с*
AI
E)
C)
G)
_ 1
~ 8
1
W
W2 W3
W3 —W2 —Wb
ГE)
F.9.13)
ИЛИ
el
Так как матрица Dx4) в выражении F.9.13) ортогональна, то
7
При рассмотрении F.8.10) можно сделать вывод, что правая
часть выражения F.9.14) равняется P/tC). Таким образом,
Подобным же образом получаем
Из приведенного выше анализа можно сделать следующий вы-
120

1/82
?h@)=lCx@)|2'
Квадрат модуля
xG)
PhA)=|CxD)|
Квадрат модуля
|СB,|Ч l1/8
1/8
11/8
Г'
Квадрат модуля W2
4ZH-"
Квадрат модуля
|CVA)|2J
Квадрат модуля W
Квадрат модуля
Квадратор
О"
адрат моду
'■ЕР'
Квадрат модуля
Квадрат модуля
Рис. 6.10. Графы, иллюстрирующие связь между спектрами мощности ПУА с упорядочением по Адамару и ДПФ

вод: взаимосвязь между энергетическими спектрами ПУА, упоря-
упорядоченным по Адамару, и ДПФ
2Г-1
и Рл(г)= ^ 1С*«т»Г> г= 1, 2,..., лг, F.9.15)
m=2r~1
где <т>—десятичное число, полученное в результате двоич-
двоичной инверсии двоичного представления числа га, представленно-
представленного п битами.
Фазовый спектр ПУА с упорядочением по Адамару. Так же,
как энергетический спектр ПУА с упорядочением по Адамару,
можно определить и фазовый спектр ПУА или спектр «положе-
«положения». Фазовый спектр определяется в многомерном пространстве
с помощью эталонного вектора и понятий «средняя мощность» и
«фазовый угол». Можно показать [14], что
Щ_
и *И°^Г '-1'2 "' (б'9-16)
где tyh(r) — фазовый спектр ПУА с упорядочением по Адамару
в r-й точке. Для jV = 8 выражение F.9.16) дает
Определенный выше фазовый спектр можно быстро оценить сов-
совместно с энергетическим спектром с помощью графа, приведенно-
приведенного на рис. 6.11. Можно показать, что фазовый спектр ПУА с упо-
упорядочением по Адамару инвариантен к умножению исходной по-
последовательности {Х(т)} на действительное число. Кроме того,
он изменяется определенным образом (см. задачу 6.7) при цикли-
циклическом сдвиге {Х(т)}. Отсюда и название — спектр «положе-
«положения». Ясно, что эти свойства аналогичны подобным же свойствам
фазового спектра ДПФ. В отличие от фазового спектра ДПФ,
каждая спектральная точка которого определяется по отношению
к одной частоте, фазовый спектр ПУА, упорядоченного по Ада-
Адамару, определяется по отношению к группе частостей. Группиров-
Группировка частостей в этом случае такая же, как и у энергетического
спектра ПУА с упорядочением по Адамару. Вследствие указанной
группировки частостей и последующего сжатия данных исходная
последовательность {Х(т)} не может быть восстановлена по задан-
заданным энергетическому и фазовому спектрам ПУА с упорядочением
по Адамару.
122

6.10. Модифицированное преобразование Уолша—Адамара
МПУА)
Модифицированное преобразование Уолша — Адамара [15, 16]
лолучается в результате простой модификации ПУА с упорядоче-
упорядочением по Адамару. Оно представляет собой ортогональное преоб-
зазование, которое определяется как
F.10.1)
где F(n)'=[F@)F(l) ...F(N—l)] —вектор коэффициентов
МПУА; X(n)'=[X(Q)X(l) ...X(N— 1)] и Щп) — матрица (NX
<N) модифицированного преобразования Адамара. Матрицы
Н (k) определяются из рекуррентного отношения
F.Ю.2)
2ft/2I(&) — 2k/2l(k)\
где Н@) = 1 и \(k) —единичная матрица размером BfeX2fe). Ha-
лоимео, для N=8 выражение F.10.2) приводит к
1 1 1; 1 1 1 Г
1 —1 1 —1: 1—1 1—1
. Y2 о —1/2" 0|]/2~ 0 — ]/2~ 0
0 У2 0 — уТ| О ]/2" 0 — VJ
НC) =
2
0
0
0
0
2
0
0
0
0
2
0
0:—2
oi о
о; о
2i 0
0
2
0
0
0
0
— 2
0
0
0
0
— 2
F.10.3)
Поскольку матрицы H(k) ортогональны, то
09 I я.
F.Ю.4)
Из выражений F.10.1) и F.10.4) следует, что обратное модифи-
модифицированное преобразование Уолша — Адамара (ОМПУА) опре-
определяется как
X(/z) = H(/i)'F(/i). F.10.5)
В отличие от Нп(п), матрица модифицированного преобразо-
преобразования Адамара Н(п) является несимметричной. Вследствие это-
этого графы МПУА и ОМПУА имеют различную структуру. В каче-
качестве иллюстрации на рис. 6.12 и 6.13 приведены графы МПУА и
ОМПУА для N = 8. Сравнивая рис. 6.12 и 6.8, видим, что энерге-
энергетический спектр ПУА с упорядочением по Адамару можно выра-
выразить с помощью коэффициентов МПУА следующим образом:
123

Итерация #1 Итераций #2 Итерация #3
7Х1(О)
х{7)
-1
Квадратор
Рис. 6.11. Граф ПУА с упорядочением по Адамару для вычисления спектра мощности и фазового спектра,

Х(О) г m
x(D-
xB),
xC),
xD)i
-1 ,
xE)«
-1
2/8
2/8
FD)
FE)
1/8
1/8
F@)
-1
л/2/8
V2/8
FB)
F{3)
xF)
xG)
2/8
-1
-1
F@)
FB)
FC).
—1
V2
Рис. 6.13. Граф ОМПУА,
FF)
Рис. 6.12. Граф МПУА,
2/8 M=8
-~— F{7)
1
FD)
FE)
FF)
FG)
x@)
xE)
xF)
x{7)
125

F.Ю.6
k=2
/г=4
В общей форме выражения F.10.6) можно записать следующим
образом:
=1, 2,..., я.
F.10.7
-Г—1
Класс циклических инвариантов сдвига 1. Известно, что энергети-
энергетический спектр ПУА с упорядочением по Адамару имеет \og2N+.
спектральных точек, инвариантных относительно циклической
сдвига {Х(т)}. Покажем, что спектральные составляющие ПУА
с упорядочением по Адамару являются подмножеством множест-
множества (iV/2-rl) инвариантов сдвига.
Рассмотрим случай N=8, и пусть {Z(m)} обозначает последо-
последовательность, полученную в результате циклического сдвига
{Х(т)} на / позиций влево. При 1=1 получаем ZC)'i =
= [ХA)ХB) ...ХG)Х@)] и, следовательно,
ZCI = MC)XC)f F.10.8
где МC) определяется из выражения F.8.1). Если чере:-
Fz,iC)/:= [Fz,\ @)^,1A) —Fz,iG)] обозначить вектор коэффициен-
коэффициентов МПУА последовательности ZC)b то
= 4-HC)MC)XC).
F.10.9
Подстановка F.10.5) и F.10.9) приводит к преобразованию по-
подобия
Fz. 1 C) = 4" Н C) М C) Н C)' Fx C). F.10.10:
Выражение F.10.10) в матричном виде для N = *
Fx @)-
Fx(l)
FxB)
FxC)
FA*)
Fx E)
FsF)
FAT)
Fz,l
Fz.i
FzA
FzA
FzA
FzA
FzA
FzA
A)
B)
C)
D)
E)
F)
G)
1 ;
0
C\ 1
J Q
0
0
. 0
i—i
l
0
0
0
0
l
0
0
0
0
0
1
0
F.10.11
1 Этот материал .не. связан с дальнейшим..изложением и может быть опу-
опущен.
126

что эквивалентно
.iC)J L —
Fz
Fz
pz
_FZ
л D)
,iE)
,i F)
!iG)_
- о
0
0
— 1
1
0
0
0
0
1
0
0
0"
0
1
0
[Fx
Fx
Fx
Fx
D)
E)
F)
G)
F.10.12)
Поскольку каждая из квадратных матриц в выражении F.10.12)
является ортонормированной, то каждая из величин, обозначае-
обозначаемых Qo и Qi,o, инвариантна относительно циклических сдвигов по-
последовательности данных {Х(т)}:
F.10.13)
Q3.o = ^D) + /»E) + /»F) + /»G).
Сравнивая выражения F.10.13) и F.10.6), получаем
Можно показать, что в общем виде [17] выражение F.10.14) за-
записывается как
Q0==Ph@) и QrQ = ph(r)f r=l, 2,..., я. F.10.15)
Таким образом, энергетический спектр ПУА с упорядочением
по Адамару эквивалентен множеству инвариантов {Qo, Qi,o}- Из
F.10.12) следует также, что
0 IT Г/7*BI Z=I 2
l
-l
E)
F)
0
0
0
— 1
1
0
0
0
0
1
0
0
0"
0
1
0
1
Fx
Fx
Fx
Fx
D)
E)
F)
G)
F.L0.16)
Проводя вычисления в соответствии с выражениями F.10.16) и
замечая, что степени ортонормированных матриц являются также
ортонормированными матрицами, получаем дополнительные сдвиго-
сдвиговые инварианты в результате вычисления следующих поточечных
произведений, где «•» обозначает операцию поточечного умноже-
умножения:
'
127

= {FSD)FXE)FXF)FXG)} =Q.
3'2 {/7F)FG)FD)fE)} '
При сравнении выражений F.10.13) и F.10.17) можно сде-
сделать следующие выводы:
1) имеется (8/2+1) независимых инвариантов сдвига, а имен-
именно Qo; Quo', Q2,o; <2з,о и Q3,i;
2) вычисление Qi,j включает в себя последовательные цикли-
циклические сдвиги, изменения знака и определение поточечных произ-
произведений и, следовательно, может быть осуществлено быстро
[18, 19].
В общем случае можно показать, что существует (N/2+l) ин-
инвариантов сдвига в множестве {Qo, Qi,j}> которые образуют квад-
квадратурный спектр ПУА или Q-спектр. Компактное выражение для
Q-спектра может быть записано в следующем виде [18]:
2m-l
Qm,0=
2m-\-q g-l
при ft = 2'n-1> 2м-1 +1,..., 2^ — 1, 9=1, 2,..., 2м-1,
m=l, 2,..., п. F.10.18)
В следующем параграфе Q-спектр будет использоваться при фор-
формулировке теоремы автокорреляции.
6.11. Циклическая и диадическая корреляция (свертка)
Пусть {Х(т)} и {Y(m)} —две вещественнозначные iV-перио-
дические последовательности данных. Можно вывести некоторые
свойства диадической корреляции (свертки) для ПУА с упорядо-
упорядочением по Уолшу, которые аналогичны подобным свойствам цик-
циклической корреляции (свертки) для ДПФ [20—22]. Эти свойст-
свойства сведены в табл. 6.11.1.
Теорема о циклической автокорреляции для ПУА с упорядоче-
упорядочением по Адамару1. В табл. 6.11.1 приведено свойство циклической
1 Материал может быть опущен при первом прочтении;
128

Таблица 6.11.1
Свойства ДПФ и ПУЛ, упорядоченного по Уолшу, связанные
с корреляцией/сверткой
ДПФ ПУА
1. Корреляция
Циклическая Диадическая
N-\ { N-1
Если Z(m) = — V X(h)Y(m+h)t Если Z(m) = —
т = 0,1, . . ., #—1, тоС- (£)= т = 0,1, • . .,
2. Автокорреляция
Циклическая Диадическая
Если Z (т) = — 2 X (h) X (т + Л) Если Z(m) - — V X (h) X (mQh),
m = 0,l, . . .,#—1, то С* (£)= m = 0,l, . . ., N — 1, то W *(k) =
= \Cx(k) |2, 6 = 0,1, . . .,N — 2 =W2x(b), k = 0,l, . . .,#/2
3. Свертка
Циклическая Диадическая
iV-l Л/-1
Если Z(m)=—■ V X(h)Y(m — h)t Если 2(m) = — V X (Л) К (тЭ h),
yv /«■ Л^ *-*
m = 0,l, . . ., Л^—1,тоС (Л)= m = 0,l, . . . ,^V— 1, где
обозначает вычитание по модулю 2, то
Замечание. Так как сложение и вычитание по модулю 2 операции идентичные, то диа-
диадическая корреляция не отличается от диадической свертки.
автокорреляции для ДПФ
С . (k) = 1 Сх (&I2, /г = 0, 1,..., ЛГ/2. F.11.1)
z
Так как |СХ(£)|2 соответствует £-й спектральной составляющей
ДПФ, то F.11.1) означает, что ДПФ циклической автокорреля-
автокорреляционной последовательности {Z(m)} дает (#/2+1) циклических
инвариантов. Можно показать, что ПУА с упорядочением по Ада-
мару обладает аналогичным свойством, которое основывается на
использовании понятия Q-спектра, определяемого выражением
F.10.18). Подробное доказательство этой теоремы приведе-
приведено в [19, 23].
Теорема циклической автокорреляции для ПУА с упорядоче-
упорядочением по Адамару может быть сформулирована следующим обра-
образом:
5—88 129

F.11.2)
где Q(n)' = [Q0Q1>0Q2,0Q2>1 . . .Qn2«-i _
„n,l =
— вектор, представляющий циклическую автокорреляционную по-
последовательность. Например, при N=8 выражение F.11.2) приво-
приводит к
Z@)
2A)
ZB)
ZC)
2D)
2E)
2F)
2G)
*3,3
где НC)—матрица, определяемая из выражения F.10.3). Из
выражения F.10.2) следует, что МПУА циклической автокорре-
автокорреляционной последовательности {Z(m)} приводит к множеству
(#/2+1) независимых Q-спектральных составляющих, инвариант-
инвариантных относительно циклических сдвигов {Х(т)}, подобно тому как
в случае ДПФ инвариантны энергетические спектральные со-
составляющие |Сх;(&)|2. Однако Q-спектр нельзя интерпретировать
как энергетический спектр, поскольку некоторые Qi,j могут быть
отрицательными. Физическая интерпретация Q-спектра приведена
в,[19] и [23].
6.12. Многомерные преобразования Уолша—Адамара
с упорядочением по Адамару и по Уолшу
Ограничимся рассмотрением двумерного случая, который ис-
используется при обработке изображений. Обобщение для г-мерно-
го случая может быть получено непосредственно. Определение
двумерного ПУА с упорядочением по Адамару следует непосред-
непосредственно из выражения F.2.8):
130

где
ь т2) —входной массив, Вхх(ии и2) —коэффициент пре*
1
образования, <ти щ>= 2 rrii(s)Ui(s)9 i=l, 2. Выражения
s=0
rrii(s) и «i(s) представляют собой двоичные представления т; и
г/г соответственно, т. е. [«г]ю= [ш(пг—1), Щ(П{—2), ..., иг{\),
Входной массив Х(ти т2) можно однозначно восстановить, вы-
выполняя обратное двумерное ПУА с упорядочением по Адамару,
которое определяется как
_ _ F.12.2)
Входной массив данных может быть записан в виде матрицы
[Х(ти т2)] размером (NlxN2):
~х@,0) л:@,1) . . . х@,л/2—1)
-I.I) • • .X (^-1,
F.12.3)
В выражении F.12.1) рассмотрим внутреннее суммирование,
которое записывается как
1
1
F.12.4)
В правой части приведенного выше выражения записано ПУА с
упорядочением по Адамару каждого столбца матрицы входных
данных [Х(ти лтг2) ]. Введем следующее обозначение:
~- V X(m1)m2)(-l)<'n""'>=53C(«1,m2).
m,=0
F.12.5)
Коэффициенты Вх(иь и2) можно записать в матричном виде
-5,@,0) В,@,1) . . . Bx@,N2-l)
5,A,0) 5,A,1) . . . Bx(l,N,-l)
F.12.6)
131

Подстановка F.12.5) в F.12.1) дает
Вхх(иъи2) = — 2 Вх{иът2){-\)<т-и
2 т2=0
что можно записать в следующем виде:
F.12.7)
Выражение F.12.7) означает, что коэффициенты Вхх(ии и2)
можно получить, выполняя ПУА с упорядочением по Адамару для
каждой строки [Вх(ии т2)] в выражении F.12.6). В результате
получаем <N\N2 коэффициентов, которые в матричной форме за-
записываются как
:@,0) В**@,1) . . . Яхх@,ЛГа-1)
^A,0) ВххA,1) . . . Bxx(l,N2-l)
С («1, М =
F.12.8)
Приведенное выше рассмотрение позволяет сделать вывод, что
двумерное ПУА с упорядочением по Адамару можно вычислить
с помощью алгоритма одномерного БПУА с упорядочением по
Адамару следующим образом:
i) при N = N{ выполняется БПУА с упорядочением по Адама-
Адамару для каждого из N2 столбцов [Х(ти гп2)] при получении
[Вх(ии т2)] из выражения F.12.6);
ii) при N=N2 выполняется БПУА с упорядочением по Адама-
Адамару для каждой из N\ строк [Вх(ии т2)] при получении [Вхх(ии
щ)] из выражения F.12.8).
Таким образом, одномерный алгоритм БПУА с упорядочени-
упорядочением по Адамару применяется N\N2 раз.
Другой путь для вычисления двумерного ПУА с упорядочени-
упорядочением по Адамару заключается в вычислении одномерного ПУА с
упорядочением по Адамару при условии, что матрица входных
данных преобразуется в (NXN2) -вектор [см. задачу F.8)]. Вычи-
Вычисление г-мерного ПУА с упорядочением по Адамару и определе-
определение соответствующего энергетического спектра рассматриваются
в [24], г>2.
В заключение отметим, что двумерное ПУА с упорядочением
по Адамару и обратное преобразование могут быть записаны в
.матричной форме:
\ВХХ (иъ и2)] = jj-j£ Hh (пг) [X (mlt
и[Х (тъ щ)\ = НЛ (пг) [Вхх (иъ и2)] НЛ (п2). F.12.9)

Таким же образом можно показать, что матричная форма
ПУА с упорядочением по Уолшу и его обратное преобразование
при двумерном ПУА можно записать как
[Wxx (ul9 u2)] = j^- Hw (nj [X (mlf щ)] Hw (n2)
и [ХК«,)] = Ц,(л1)[1Г1Х(и1|и2)]Н.(/12), F.12.10)
где
Wxx@,l)
Из выражения F.12.10) следует, что двумерное ПУА с упо-
упорядочением по Уолшу и обратное преобразование можно выпол-
выполнить с помощью одномерного БПУА с упорядочением по Уолшу,
которое применяется N\N2 раз так же, как и в случае ПУА с упо-
упорядочением по Адамару.
6.13. Заключение
В настоящей главе рассматривались преобразования Уолша —
Адамара с упорядочением по Уолшу и Адамару и быстрые алго-
алгоритмы для их осуществления, определялись соответствующие
энергетические и фазовые спектры. Было показано, что энергети-
энергетические спектры ПУА с упорядочением по Уолшу и с упорядоче-
упорядочением по Адамару инвариантны относительно диадических и цик-
циклических сдвигов входной последовательности соответственно.
Приводились физическая интерпретация энергетических спектров
ПУА с упорядочением по Уолшу и Адамару и теорема о цикличе-
циклической автокорреляции ПУА с упорядочением по Адамару.
При обсуждении указанных выше вопросов постоянно под-
подчеркивалась аналогия между преобразованиями Уолша — Ада-
Адамара и Фурье. Проводилось общение для двумерного случая ПУА
с упорядочением по Уолшу и с упорядочением по Адамару так
же, как и ДПФ. При этом было показано, что двумерное ПУА с
упорядочением по Уолшу (Адамару) массива данных (N\XN2)
можно получить в результате Л^2-кратного применения одно-
одномерного БПУА с упорядочением по Уолшу (Адамару).
Хотя основное внимание уделялось ПУА с упорядочением по
Уолшу и Адамару, однако таким же образом может быть введе-
введено ПУА с упорядочением по Пэли (WHT)P. Вопросы, связанные
с ПУА с упорядочением по Пэли, рассмотрены в [26].
ПРИЛОЖЕНИЕ 6.1
В приложении приведена подпрограмма для вычисления ПУА с упорядо-
упорядочением по Адамару и Уолшу, соответствующая быстрым алгоритмам, приве-
приведенным в § 6.3 и 6.5 соответственно. .
133

SUBROUTINE WHT (NUM.X.II)
f1=0 HADAMARD-ORDERED WHT
11=1 INVERSE HADAMARD-ORDERED WHT
11=2 WALSH-ORDERED WHT
11=3 INVERSE WALSH-ORDERED WHT
DIMENSION IP0WERA0),XC2),YC2)
THIS ROUTINE CALCULATES THE FAST WALSH-HADAMARD
TRANSFORMS FOR ANY GIVEN NUMBER WHICH
IS A POWER OF TWO
NUM NUMBER OF POINTS
IF(II.LE.l) GO TO U
BIT REVERSE THE; INPUT
DO 11 I = l.NUK
IB = I - i
IL * 1
9 IBD = IB/2
IPOWER(TL) = I
IF (IB.EQ.(IBD*2)) IPOWER(IL) *0
IF (IBD.EQ.O) GO TO 10
IB = IBD
IL = IL + I
GO TO 9
10 CONTINUE
IP = 1
IFAC = NUM
DO 12 II = l.IL
IFAC = IFAC/2
12 IP = IP + IFAC * IPOWER(U)
11 Y(IP) = X(I)
DO 13 1=1,NUM
13 X(I) = Y(I)
U CONTINUE
! CALCULATE NUMBER OF ITERATIONS.
' 65 ITER=O
IREM=NUM
1 lREM=IREM/2
IF (IREM.EQ.O) GO TO 2
ITER=ITER+1
GO TO 1
2 CONTINUE
MNUM2 = MNUM/2
BEGIN A LOOP FOR THE NUMBER OF PARTI'f]
ALPH = 1.
DO 49 MP = l.NUMP
IB = (MP-1) * MNUM
BEGIN A LOOP THROUGH THIS PARTITION
DO 48 MP2 = 1.MNUM2
MNUM21 = MNUM2 + MP2 + IB
IBA = IB + MP2
Y(IBA) = X(IBA) + ALPH * X(MNUM21)
Y(MNUM21) = X(IBA) - ALPH * X(MNUM2i-
48 CONTINUE
IF (II.GE.2)ALPH=-ALPH .
49 CONTINUE
DC 7 I = l.NUM
7 X(l) =Y(I)
50 CONTINUE
IF(II.EQ.1.0R.II.EQ.3) RETURl
R=1./NUM
DO 15 1=1,NUM
15 X(I)=X(I)*R
RETURN
END
BEGIN A LOOP FOR (LOG TO BASE TWO OF NUM) ITERATIONS,
DO 50 M = l.ITER
CALCULATE NUMBER OF PARTITIONS
IF (M.EQ.l) NUMP = 1
IF (M.NE.l) NUMP = NUMP * 2
MNUM *NUM/NUMP
ЗАДАЧИ
6.1. Используя сигнальные графы, изображенные на рис. 6.2 и
зать, что НЛC) и H№C) можно факторизовать следующим образом
НЛC) =
134
1 1
1 — 1
0
1
1
is
— li
fi
— li
;
l
—*
0
l
-i
0
1
0
o;
11
OS
1!
1
0
i
0 —
04
0?
li
o:
l!
,\
io
io
o;
li
0!
li
1
0
— 1
0-
0
1
6
1

1
0
0
0
0
1
0
0
0
0
1
0
0:
о:
0;
1 :
1
0
0
0
0
1
0
0
0
0
1
0
0
0
0
1
10 0 0;—! 0 0 0
о 1 о о: 0 — 1 о о
0 0 10; о 0—1 о
0 0 0 1 ; 0 0 0—1
НшC) =
-1 1
1 — 1
1 — 1:
1 1:
■'1 — 1
1 —Г.
1 1:
 0
0 1
Го
О 1
0;
1!
04
0—1:
]Го"— 6
:о 1 i о—1
:i"": I о
■о 1: о 1
1
0
0
0
1
0
0
0
0
1
0
0
0
1
0
0
0
0
1
0
0
0
1
0
0:
о:
0:
1 !
о;
0:
о:
1:
1
0
0
0
1
0
0
0
0
1
0
0
0
— 1
0
0
0
0
1
0
0
0
-1
0
0
0
0
1
0
0
0
1
X
0 0 0Ю000"
о о о он о о о
0 0 10-0000
оооо :о о_ 1 о
бТ"б~0:б О
о о о о :о 1 о о
о о о 1 io о о о
о о о о:о о о 1
6.2. Если {Х(т)} = {1 2 1 1 3 2 1 2}, то в соответствии с примером 6.5.1
толучим
.:Wx{m}}=. 13-3-1 з 1 -3-1 -и
8
, —3 — 1 3 1 —3 — 1 — П
~~8~ 8 8 8 8 ^~8~ 8 J
а) Показать, что энергетический и фазовый спектры ПУА с упорядочением
ю Уолшу последовательности {Х(т)} определяются из следующих выражений:
*ш@) = 169/64 ; Pw(l) = 10/64 ; PwB) = 10/64 ; PwC) = 10/64 и PwD) =
«1/64.
»»@) = 0 ; грш A) = 251,58° ; $wB) = 71,58° ; $wC) = 251,58° и г|?ш D) = 90°.
б) Пользуясь приведенными выше энергетическим и фазовым спектрами,
токазать, как можно восстановить последовательность {Х(т)} = {1 2 1 13 2 12}.
6.3. Общая рекуррентная формула для тождественного преобразования,
соответствующего АC) в выражении F.8.4), была получена Онзоргом [27]:
= 1, 2,
. ,«—!,«== log2W,
:деАA)
Lo-iJ*
= [Hh(k)Hh(k) ...
И Uh(k) — вектор размером 2ft, который совпадает с последним столбцом мат-
матрицы Адамара Hh(k).
Пользуясь приведенной выше рекуррентной формулой, покажите, что
[1 0: о2 "]
0-=-'-Ьг
0, -1 0 _
135

 0:
0 — 2 :
0 —
2
2|
о:
1
1
1
—1
— 1 —
— 1
1
— 1
1—1
1 1
1—1
1—1
AC) = -L
2
6.4. Пусть дана последовательность {Х(т)} = {1 2 3 15 3 4 1}.
а) Использовать БПУА с упорядочением по Уолшу для получения
8 88 8 8 8 8
б) Найти энергетический спектр ПУА с упорядочением по Уолшу для по-
последовательности {Х(т)}.
Ответ. /МО) =400/64; Рю(\) =52/64; PwB) =20/64; PwC) =20/64 и
/^D) =36/64.
в) Пусть {Z(m)} — последовательность, полученная из {Х(т)} в резуль-
результате диадического сдвига размерностью 3. Тогда (см. табл. 6.6.1) {Z(m)}3 =
= {132 1143 5}. С помощью БПУА с упорядочением по Уолшу показать,
что ПУА с упорядочением по Уолшу последовательности {Z(m)}3 имеет вид
B0—6 4 —2—4—2 4 — 61
~ 1 8 8 8 ~~8~ 8 8 8 ~~8~) '
г) Покажите, что энергетический спектр ПУА с упорядочением по Уолшу
последовательности {Z(m)}3 такой же, как и последовательности {Х(т)}.
6.5. а) Разложите последовательность данных {Х(т)} = {1 2 1 1 3 2 1 2} на
такие четыре взаимно ортогональные последовательности, при которых
{X (т)} = {F3 (m)} + {G3 (m)} + {G2 (m)} + {Gx (m)},
где {/^(m)} имеет единичный период, a {G3(tf0}» {G2Cm)} и {Gi(m)} соответ-
соответственно 1-, 2- и 4-косопериодичны.
Ответ.
{F3(m)} = { 1,625 1,625 1,625 1,625 1,62 5 1,625
{<?3(m)} = { —0,125 0,125 —0,125 0,125 -0,125 0,125
{G2(m)} = { 0,5 0,25 —0,5 — 0,25 0,5 0,25
{G1(m)} = {—1 0 0—0,5 10
1,625 1,625};
— 0,125 0,125};
-0,5 -0,25};
0 0,5}.
A3-1 3 1—3 —1 —1 — 3)
б) Из примера 6.3.1 известно, что {Bx(k)} = | — — — — — — — — I
Пользуясь этой информацией, вычислите энергетический спектр ПУА с упоря-
упорядочением по Адамару Ял@), ЯлA), РлB) и ЯлC).
в) Убедитесь в том, что Рл@)—средняя мощность в {Fz(m)}y а Рк(г) —
средняя мощность {Gi-r(m)}, r=l, 2, 3.
6.6. a) D(k) — ортогональная матрица, при которой Df&yDf&^clCu), где
с — константа. Если Dm(k) обозначает т-ю степень D(k), покажите, что Dm(k)
также является ортогональной для любого натурального числа т.
б) Убедитесь в том, что выражение F.9.12) можно выразить в следующей
компактной форме: f[Pft@)]=0; F[Ph(l)]=NI2 и F[Ph(r)] =2n-'Bk+1), г-
= 2, 3, ..., л; & = 0, 1, ..., 2Г~2—1, где n=\og2N.
6.7. В этой задаче доказывается интересное свойство фазового спектра
ПУА с упорядочением по Адамару при N=8.
Рассмотрим последовательность данных с периодом 8: {Х(т)}*=
= {12113212}. Пусть {Z(m)}i — последовательность, полученная из
{Х(т)} в результате левого циклического сдвига на / позиций, т. е.
1)};/ = 0, 1,2, # . .,7,
где {Z(m)}0={X(m)}.
136

Вычислить фазовый спектр ПУА с упорядочением по Адамару для после-
последовательности {Z(m)}i; /=0, 1, ..., 7, и показать, что он изменяется в соответ-
соответствии с приведенной ниже таблицей.
Таблица
♦л@)
♦лA)
4>лB)
*лC) '
0
1
— 1
2
-2/У К
1
1
1
1
0
2
1
— 1
— 2
0
3
1
1
— 1
-1/1/5"
4
1
— 1
2
2//5"
5
1
1
1
0
6
1
— 1
-2
0
7
1
1
— 1
1/1/5"
Примечания. 1) ^@) не изменяется при изменении /=1, 2, ..., 7.
2) tyh(r) является 2г~1-косопериодичной при г=1, 2, 3, при изменении /
ют 0 до 7.
Комментарий. Последнее свойство сохраняется для любого N=
= 2n\|?/i(r), является 2г~1-косопериодичной, г=1, 2, ..., п, по мере того как /
меняется от 0 до N—1.
Г1 1 3 П
6.8. Пусть дан массив данных Bx4): [Х^щ, т2)] =
а) Покажите, что двумерное ПУА с упорядочением по Адамару массива
[Х(ти ™"ьУ\ имеет вид
13 3 — 3—Г
— 3—11
_ 1 _зJ -
б) Расположите столбцы [Х(ти т2)] в виде вектора размерностью 8:
С помощью одномерного БПУА с упо-
упорядочением по Адамару вычислите By(k),
k = 0, I, ..., 7. Убедитесь в том, что
By
By
By
By
By
By
By
By
@)
A)
B)
C)
D)
E)
F)
G)
xx(,)
Bxx A,0)
B**@,0
Bxx VA)
Bxx@,2)
Bxx A.2)
Bxx@,3)
Bxx(\,2>)
м-й столбец;
>2-й столбец;
> 3-й столбец;
14-й столбец.
рис 6 14
сдвиги
6.9. На рис. 6.15 изображены функции Х(<фт,-), »=1, 2 6, которые полу-
получаются из функции x(t), показанной на рис. 6.14 в результате диадических сдви-
сдвигов. Определите величины т.,, (=1, 2, ..., 6.
137

Примечание. При этом необходимо пользоваться данными табл. 6.6.1
6.10. Пусть дана экспоненциально убывающая последовательность Х(т) —
= 10 е-4™/31, т=0, 1, ..., 31. Используйте БПУА с упорядочением по Адамару
программа которого приведена в приложении 6.1, для вычисления энергетиче-
энергетического спектра ПУА с упорядочением по Адамару для указанной последова-
последовательности.
x(t©r2)
Q
7
6
5
A
«+
3
2
1
-^ 0
_
_
-
-
-
x(tG>73)
8
7
6
' 6
4
3
2
1
0
/\
x(t£>r4)
8
7
6
5
4
3
2
Рис. 6.15. Диадические сдвиги ступенчатой функции x(t)
Ответ. /М0)=6,8046; РЛA)=0,0271; Ph B) =0,1044; РЛC) =0,420S
phD) = 1,5697; РЛE) =5,1749.
6.11. Внесите такие изменения в подпрограмму ПУА с упорядочением па
Уолшу и по Адамару, приведенную в приложении 6.1, чтобы с ее помощы
можно было вычислять соответствующие двумерные преобразования. Затем
138

используйте двумерное ПУА с упорядочением по Уолшу и по Адамару для
определения преобразования массива данных
[X (nii, пг.
где р = 0,9.
6.12. Повторите задачу 6.11 для
lX(mit пг2)]==
р2
1
р2 р 1 . . . р5
р7 р6 р5 . . . 1
где р = 0,9.
6.13. Матрицы преобразований H/iD) и HwD) можно факторизовать сле-
следующим образом:
"НA)
НлA)
X
D)
НлО)
X
Рис. 6.16. Граф БПУА с упорядочением по Адамару, ЛГ=16
• ВхF)
-ВхG)
-Вх(8)
- Вх <9)
ВхA0)
ВхA2)
ВхA3)
.ВхA5)
139

X
i8 i«l
»8 — I8J
где Над D) получается в результате перестановки столбцов H^D) в двоично-
инвертированном порядке. Напишите множители в сигнальных графах, изоб-
изображенных на рис. 6.16 и 6.17 для вычисления указанных выше преобразований
Уолша—Адамара. Подсчитайте число умножений и сложений/вычитаний, необ-
необходимых для выполнения вычислений в соответствии с этими сигнальными
графами.
6.14. По аналогии с разреженными матрицами для НлD) и HwD) (см.
задачу 6.13) запишите факторизацию разреженных матриц для матриц преоб-
преобразования ЩE) и Hw,E). Получите обобщение для Hh(n) и \iw(n) для лю-
любых /г, n=\og2N.
Wx@)
WxA>
Wx B)
wx C)
Wx D)
Wx E)
wx (.6)
Wx G)
Wx(8)
x (9)
WxA0)
WxA1)
WxA2)
WxA3)
WxA4)
W A5)
Рис. 6.17. Граф БПУА с упорядочением по Уолшу, ЛГ= 16
140

6.1Й\ а) Исходя из множителей, записанных на сигнальном графе МПУА
(см. рис.\6.12), записать факторизацию матрицы преобразования НC) [см. вы-
выражение ^6.10.3)] в виде разреженных матриц.
б) Повторить пункт «а» для обратного МПУА (см. рис. 6.13). Убедитесь
в том, что произведение разреженных матриц дает в результате НC)/.
6.16. Матрица преобразования НD) может быть факторизована следую-
следующим образом:
f
i_i| °1Г!;_!;
т%
0 ; I12 J L
'12 JL ! Is
Нарисуйте полный сигнальный граф для эффективного вычисления МПУА,.
JV=16. Подсчитайте число умножений и сложений/вычитаний, необходимых для!
выполнения вычислений в соответствии с нарисованным графом.
6.17. Повторите задачу 6.16 для ОМПУА, N=16.
6.18. По аналогии с факторизацией НC) и НD) запишите факторизацию*
А
НE). Запишите правила факторизации для любого /г, n=\og2N.
6.19. Нарисуйте сигнальный граф для iV=16, аналогичный графу, изобра-
изображенному на рис. 6.10.
ГЛАВА 7
Различные ортогональные преобразования
Кроме ДПФ, ПУА с упорядочением по Уолшу и по Адамару и модифцци-
рованного ПУА существуют и другие дискретные ортогональные преобразова-
преобразования. Из них в данной главе рассматриваются: обобщенное преобразование,
преобразование Хаара, пилообразное преобразование и дискретное косинусное
преобразование. Будет показано, что для данной входной последовательности
Х(т), т = 0, 1, ..., N—1, в качестве обобщенного преобразования (GT)r, г=
= 0, 1, ..., п—1, можно определить класс n=\ogz N ортогональных преобразо-
преобразований. Преобразование (GTH соответствует ПУА с упорядочением по Адама--
ру, a (GT)n_i соответствует ДПФ. Таким образом, обобщенное преобразова-
преобразование (GT)r позволяет осуществлять переход от ПУА с упорядочением по Ада-
Адамару к ДПФ.
Исследование преобразования Хаара, пилообразного и дискретного коси-
косинусного преобразований оправдывается их применением в системах с сжатием
данных, описываемых в гл. 9. Кроме того, в гл. 9 будет рассмотрено преобра-
преобразование Карунена—Лоэва (КЛП). Причина, по которой обсуждение КЛП не-
несколько отодвигается, заключается в необходимости изложения вспомогатель-
вспомогательного материала, который будет приведен в гл. 8.
7.1. Факторизация матриц
Основным понятием, связанным с определением обобщенного
преобразования, является факторизация матриц, некоторые ас-
аспекты которой рассматриваются в данном параграфе. Из опреде-
определения ДПФ следует, что
A()X() G.1.1)
141

где Х(п)'=[Х(О)Х(\) ...X(N—l)] —вектор входных данных:
C(n)'=[C@)C(l) ...C(N—l)] —вектор коэффициентов ДПФ1 и
А(п) =
w° w° w°
W° W1 W2
W° W2 H^4
W0
— О
~О (#—1
и i = Y-
где Й7=
Пусть С(п) и Л(/г) — вектор и матрица, полученные в резуль-
результате перестановки строк С(п) и А(п) в соответствии с двоичной
инверсией их номеров. Например, если
С C)' = [С @) С A) С B) С C) С D) С E) С F) С G)],
то
СC)' = [С@)СD)СB)СF)СA)СE)СC)СG)].
Таким образом, в соответствии с G.1.1) получаем
C(n)=±A(n)X(n).
G.1.2)
Из решения задачи 4.3 следует, что А(п) можно выразить в виде
произведения п разреженных матриц, что можно записать как
п
А(п)= П Fj(n). G.1.3)
При N=16 выражение G.1.3) принимает вид
п
ЛD)= П F,D)f
где
\m — единичная матрица размером (тХт). Рассмотрение приве-
приведенных выше матриц FjD), /=1, 2, 3, 4, приводит к выводу, что
можно задать следующие четыре ортогональных преобразования:
142
1 Для упрощения индекс х в Cx(k) опущен.

i) Положим все W=l. Это соответствует ПУА с упорядочени-
упорядочением по Адамару, которое обозначим как
В0D)=^-Л0D)ХD),
G.1.4)
где ВоD)у=[Во(О)ВоA) ...£0A5)] —вектор коэффициентов ПУА
и АоD) = НлD). Следовательно, элементы ЛоD)=±1.
и) Положим W2, W6, W, W\ W3 и W7 равными 1. Это приво-
приводит к комплексному преобразованию Уолша — Адамара или
комплексному BIFORE преобразованию [1—3], которое опреде-
определяется как
Bi D) = — Ах D) X D), ' G.1.5)
где BiD)/=[B1@)Bi(l) ... B{A5)]—вектор коэффициентов пре-
преобразования, Ai D1) — соответствующая матрица преобразования,
р ()
содержащая элементы {±1, }
Ill) Положим W, W5, W3 и W7 равны 1 и получаемые при
этом коэффициенты преобразования обозначим через Bi(k)> k =
= 0, 1, ..., 15. Соответствующая матрица преобразования АгD)
Итерация #1 Итерация #2 Итерация #3 Итерация #4
Вг{15)
'14
Рис. 7.1. Граф, соответствующий формулам G.1.4)—G.1.7), ЛГ=16
.143

Таблица 7.1.
Множители для сигнального графа на рис. 7.1 (W=^e~
Множитель
«1
а2
«з
«4
«5
«6
«7
«8
я9
«10
«11
«12
«13
«14
B0(k)
1
1
1
1
1
_ 1
1
— 1
1
— 1
1
1
1
— 1
Коэффициенты
В, (k)
— i
i
1
— 1
1
— 1
1
— 1
1
— 1
1
_ l
1
1
Г4
H?12
1
I
1
I
1
I
1
1
/
B3 (k)
1
1 W*
И712
U72
U76
U79
U75
IF13
U73
U7H
U715
содержит элементы {±1,
ние записывается как
A, ±W2y ±W6}, а само преобразова-
преобразоваG.1.6)
iv) He будем приравнивать ни один из элементов W к 1. При
этом получаем преобразование
где В3D)/==[Б3@)ВзA) ... В3A5)] —вектор коэффициентов пре-
преобразования и Лз'D)=ЛD). Таким образом, B3(k) связаны с ко-
коэффициентами ДПФ C(k) операцией двоичной инверсии, т. е.
B9(k) = C(<k»,k = 09l, . . .,15, G.1.8)
где <k>—десятичное число, полученное в результате двоичной
инверсии четырехразрядного двоичного представления k.
144

Граф, соответствующий описанным выше четырем преобразо-
преобразования^, приведен на рис. 7.1, а соответствующие множители ука-
указаны в^табл. 7.1.1. За исключением ДПФ, алгоритм, соответствую-
соответствующий гр^фу, изображенному на рис. 7.1, дает коэффициенты пре-
преобразования Bj(k), / = 0, 1, 2, в естественном порядке.
7.2. Обобщенное преобразование Г 4, 5]
Из приведенного в предыдущем параграфе рассмотрения сле-
следует, что при заданной входной последовательности {Х(т)} =
= {Х@)ХA) ... X(N—1)} можно определить множество из Iog2 N
дискретных ортогональных преобразований. Этот класс преобра-
преобразований начинается с ПУА с упорядочением по Адамару и закан-
заканчивается ДПФ. Таким образом, если Br(k) обозначает &-й коэф-
коэффициент /*-го преобразования, г = 0, 1, ..., п—1, то обобщенное пре-
преобразование (GT)r можно определить как
В,(п)=-1-Ог(я),Х(/1).г = 0,1, • • -,п~\, G.2.1)
где Br(n)'=[fiP@)fir(l) ...Br(/V-1)]; Х(п)'= [Х@)ХA) ... X(N-
-1)];
Gr(n) — матрица преобразования, которую можно записать в ви-
виде произведения разреженных матриц D^(n), т. е.
Сг(п) = П Щ(п\ G.2.2)
/=1
где Dir(mJ==ciiag[Ar0(/)Ari(/) ... Ar2*-/_i(/)]. Матричный множи-
множитель Dir(n) можно получать рекуррентно следующим образом1.
/),A[(/), . . ., А2^_/1 (/)],/=-1, 2, . . „я,
где
1 11
j J ,
= 2г, 2r-h 1, • • ., 2"-/—1;
G.2.3)
Символ ® обозначает кронекеровское произведение матриц2,
а <Ст;§> —десятичное число, получаемое в результате двоичной
инверсии (п—1)-разрядного двоичного представления т\ т. е.
если m = mn_22n~2-г ... -bm121-fm02° есть (п—1)-разрядное двоич-
двоичное представление т, то <С^> =mo2n~2-i-mi2n-3+ ... -Ь/77П_321 +•
+ mn_22°.
1 Пример приведен в приложении 7.2.
2 Основные сведения о свойствах кронекеровского произведения матриц
■приведены в приложении 7.1.
145

Входная последовательность {Х(т)} восстанавливается с по-
помощью обратного обобщенного преобразования (IGT)r, которое
определяется как
X(n) = Gr(n)'Br(n)fr = 0, 1, . . .,п— 1, G.2.4)
где Gr(n)' — транспонированная матрица, комплексно-сопряжен-
комплексно-сопряженная матрице Gr(n). Обратное обобщенное преобразование (IGT)r
получается из выражения G.2.1) как следствие свойства
C(n)'Qr(n)=N\N. Из выражения G.2.2) получаем
п— 1
G.2.5)
Ог(л)' = П Dr«-<(n)\
где Dsr{ri)' — транспонированная матрица, комплексно-сопряжен-
комплексно-сопряженная матрице Dsr(n).
Матрицы преобразования Gr(n) также можно получить ре-
куррентно [6, 7], т. е.
Hh(k— 1) Wh{k— 1
что соответствует выражению E.4.10). Для г=\9 2, ..., п—1
GAk)=\Gr(k-l)Gr(k-l) 1
; lK(k-i)-K(k-i) J
где Ог@)=1иОгA)-=[11_111=НдA),
a Ar(fe— 1) подробно рассмотрены в [6]. Например, рекуррентное
соотношение для г=2 имеет вид
G.2.7)
где
А, (*-!) =
1 e-i Я/4
(Н (>fe—3).
Подведем итоги обсуждения обобщенного преобразования (GT)r и
обратного обобщенного преобразования (IGT)r:
i) при г = 0 получаем ПУА с упорядочением по Адамару;
ii) при г=1 получаем комплексное BIFORE- преобразование
(СВТ);
ill) при г=(/г—1) получаем коэффициенты ДПФ, расположен-
расположенные в двоично-инвертированном порядке, т. е.
£n_x(&) = С (<£>),& = 0,1, . . .,#— 1, G.2.8)
146

где <£>—десятичное число, полученное в результате двоичной
лнверСди n-разрядного двоичного представления числа k\
iV) при изменении г от 2 до (п—2) получаем еще (п—3) до-
дополнительных ортогональных преобразований;
V) сложность обобщенного преобразования (GT)r возрастает
ло мере увеличения г, в том смысле, что для вычисления коэффи-
.шентов преобразования требуется все большее число степеней W
ш. табл. 7.2.1).
Таблица 7.2.1
Описание элементов обобщенных преобразований
Чреобразо-
вание
Число раз-
различных
элементов
Элементы
Элементы на еди-
единичной окружно-
окружности
(GTH
е— i 2 п ^ e—i я
(GT)i
GT)
(GT)8
(GTL
e—t 2 я . e—in . e± ijt/2
pr-i 2 тс . pr-i я . + i я/2 .
с , с , с ,
it Я/4 . e± 13Я/4
e— i 2 я . e—in . e— in/2 .
e± in/A e± i Зя/4 е±1Я/8
e± i 3 Я/8 ;e±t5 Я/8 ;e±i7 я/8
Все предыдущие элементы плюс
e ±'/*/1б,/= 1,3,5,7,9,11
p± (i2nj/N)
,/ = 0,1,2,
.,#/2
Im
Г1
i
1-1
Im
0 I/Re
h
0 I/Re
0 WRe
147

7.3. Преобразование Хаара [ПХ]
Коэффициенты преобразования Хаара Yx(k), 6=0, 1, ..., N—1,
соответствующие входной последовательности {Х(т)} =
= {Х@)ХA) ... X(N—1)}, получаются в результате вычисления
преобразования
Ух(п) =— Н*(м)Х (п), G.3.1;
где Н*(/г) — матрица Хаара размером (NxN) [8]. Матрица
H*(V) получается в результате дискретизации множества функ-
функций Хаара {har(r, m, /)}, определенных выражением E.3.2). На-
Например, матрица Хаара (8x8) записывается в виде (см.
5.46)
Н*C) =
1
1
V2
0
2
0
0
0
1
1
1
1
1
1
VY—VY—V2
0
2
0
0
0
0
0
2
0
0
0
0
— 2
0
0
1
— 1
0
1/2
0
0
2
0
1
— 1 •
0
V2-
0
0
2
0
1
-1
0
-V2-
0
0
0
2
1
— 1
0
-\Г2
0
0
0
— 2
да
N1
Рассматривая Н*C), видим, что N/2 коэффициентов преоор*
зования Хаара соответствуют корреляции двух соседних точек г
пространстве входных последовательностей, N/4 коэффициентов
соответствуют связям четырех соседних точек и т. д. до N/N ко-
коэффициентов, соответствующих всем N координатам пространст-
пространства входных последовательностей. Это означает, что область преоб-
преобразования в случае преобразования Хаара обладает свойством
как локальной, так и глобальной чувствительности. При ДПФ и
ПУА каждый коэффициент преобразования является функцией
всех координат пространства входных последовательностей (свой-
(свойство глобальной чувствительности), а в преобразовании Хаара
это относится к первым двум коэффициентам.
7.4. Алгоритмы для вычисления преобразования Хаара (ПХ)
Для осуществления преобразования Хаара требуется 2 (N—1)
операций сложения/вычитания и N операций умножения, что по-
показано на рис. 7.2а для N=8. Этот алгоритм вычисления преоб-
148

разования Хаара был предложен Эндрюсом [9]. Соответственно
алгоритм для вычисления обратного преобразования Хаара изо-
изображен в виде графа на рис. 7.26. Из рис. 7.2 видно, что алго-
алгоритм Эндрюса не является алгоритмом типа Кули — Тьюки [10].
Ниже будет показано, что преобразование Хаара можно осущест-
осуществить и с йомощью алгоритма типа Кули — Тьюки. Обоснование
Ух@)
б)
Рис. 7.2. Граф прямого и обратного преобразования Хаара, соот-
соответствующий алгоритму Эндрюса, N=8:
а — прямое преобразование; б — обратное преобразование
поиска такого алгоритма связано с тем, что процессор БПФ типа
Кули — Тьюки можно использовать для вычисления ПУА с упо-
упорядочением по Адамару, ПУА с упорядочением по Уолшу, обоб-
обобщенного преобразования (GT)r и преобразования Хаара допол-
дополнительно к вычислению коэффициентов ДПФ.
Алгоритм типа Кули — Тьюки [8, 31]. Этот алгоритм может
быть наилучшим образом продемонстрирован при N=8. Запишем
снова матрицу Хаара из G.3.2)
149

Столбец
# о
4
Н*C) =
1
1
V2
0
2
0
0
0
1
{
1
1
/2-1
0
—2
0
0
0
2
4
1
1
/2"
0
0
2
0
0
3
4
1
1
-V2
0
0
—2
0
0
4
4
1
— 1
0
V2
0
0
2
0
5
4
1
— 1
0
0
0
—2
0
6
4
1
— 1
0
0
0
0
2
7
4
1
1
0
1/2"
0
0
0
—2
Переупорядочим столбцы Н*C), пользуясь последовательно дво-
двоичной инверсией при N = 8, N=4 и JV = 2, как показано ниже.
Шаг 1. Переставим столбцы Н*C) в соответствии с двоич-
двоичной инверсией номеров столбцов при JV=8, т. е. {О, 1, 2, 3, 4, 5
6, 7}->{0, 4, 2, 6, 1, 5, 3, 7}, что приведет к
HfC) =
11111111
1-1 1-1 1-1 1-1
^2 0 -"/2 0 |/2 0 -1/2 О
О У2 0 -]/2 0 ]/2 0 -1/2
2
0
0
0
0
0
2
0
0
2
0
0
0
0
0
2
—2
0
0
0
0
0
_2
0
0
— 2
0
0
0
0
0
-2
G.4-1)
t t t
Столбец # 0 1
Шаг. 2. Переставим столбцы DX4) матриц, заключенных г
квадраты, в соответствии с двоичной инверсией номеров столб-
столбцов при jV = 4, т. е. {О, 1, 2, 3}-^{0, 2, 1, 3}. Это приводит к мат-
матрице
Н*C) :
1
1
][2
0
2
0
0
0
1
-1
0
1/2
0
2
0
0
1
1
-Р
0
0
0
2
0
1
-1
0
-1/5
0
0
0
2
1
1
1/2
0
о
0
0
0
1
-1
0
1/2
0
-2
0
0
1
1
-fl
0
0
0
-2
0
1
-1
0
-Р
0
0
0
G.4-2)
Шаг 3. Переставим столбцы BX2) матриц, заключенных г=
квадраты, в соответствии с двоичной инверсией номеров столб-
столбцов при JV = 2, т. е. {О, 1}-^{0, 1}, что приводит к матрице, сов'па
150

дающей с Н*2C). Таким образом, окончательно получим
 1 1 1 1 1 1 1
1—1 1—1 1—1 1—1
1/2" 0 — УТ О УТ 0 —уТ О
О УТ О —У2 0 ]/2" 0 —1/2"
2 000—2 000
02000—2 00
002000—2 0
0002000—2
Н3*C) =
G.4.3)
Матрица Я*3C) в выражении G.4.3) и матрица НC) модифи-
модифицированного ПУА в выражении F.10.3) идентичны. Отсюда сле-
следует, что преобразование Хаара при N=8 можно вычислить с
помощью графа МПУА с незначительным изменением, показан-
показанным на рис. 7.3. Этот граф фактически является упрощенным
Вход
х@)
с B)
хD)
хE)
х{6)
Рис. 7.3. Граф алгоритма Ку#и-Тьюки для вычисления преобразования Хаара,
графом БПУА с упорядочением по Уолшу, приведенным на рис.
6.6. Создание графа, соответствующего алгоритму типа Кули —
Тьюки для вычисления обратного преобразования Хаара, предла-
предлагается читателю в качестве упражнения (см. задачу 7.1).
151

Из приведенного описания следует, что в общем случае для
вычисления преобразования Хаара с помощью алгоритма типа
Кули — Тьюки требуется log2iV двоичных инверсий, 2(N—1) сло-
сложений/вычитаний и N умножений.
7.5. Пилообразные матрицы
Понятие ортогонального преобразования, основанного на «пи-
«пилообразных» базисных векторах, было введено Эномото и Шиба-
та [11]. Пилообразный вектор представляет собой результат дис-
дискретизации пилообразной волны, убы-
убывающей равномерными шагами вдоль
ее длины, как показано на рис. 7.4. Пи-
Пилообразные векторы можно эффектив-
эффективно использовать для представления по-
постепенного изменения яркости вдоль
строки изображения. В работе Эномо-
Эномото и Шибата были приведены пилооб-
пилообразные векторы размером 4 и 8. Обоб-
Обобщение, предложенное Праттом, Уэлчем
и Ченом [12, 13], привело к определе-
определению пилообразного преобразования,
которое успешно используется при кодировании изображений
[12-15].
Получение матриц пилообразных функций. Если через S(n)
обозначить матрицу (NxN)y N=2ny образованную пилообразны-
пилообразными базисными векторами, то
-1
-2
-3
Рис. 7.4. Пилообразный сигнал
при Л/"=4 и шаге, равном 2
1 П 1
П.
G.5.1)
Пилообразная матрица для N = 4 может быть записана как
1111
а + Ь а—b —a + b —а—b
1—1—1 1
a—b —a—b a + b —a + b J G.5.2)
где а и b — действительные константы, которые определяются ис-
исходя из следующих условий: 1) шаг убывания — постоянен и
2) S B) — ортогональна. Величина шага между первыми двумя
элементами пилообразного вектора [см. вторую строку S B)]
равна
(a + b) — {a—b) = 2b, G.5.3)
а величина шага между вторым и третьим элементами равна
{а—Ь) — (— а-\~Ь) = 2а—26, G.5.4)
что приводит к а = 26. Отсюда
152

1
1111
3& b —b — 36
1—1—1 1
b —3b 3 b—b J G.5.5)
Пользуясь условием ортогональности
^=[3bb-b~3b]^=[3bb—b — 36]'= 1,
У 4 у 4
получаем 6=1/1/5, а=2/У. Таким образом, матрица пилооб-
пилообразных векторов в выражении G.5.2) принимает вид
1 1 1 1 '
3 1 —1 —3
1 У5~ /5~ Уб ~]/ъ
1—1—1 1
1—3 3 —1
VW V5" У5
G.5.6)
Матрица S B) обладает свойством упорядоченности по частости,
т. е. частости ее строк равны соответственно 0, 1, 1 и 2, что сов-
совпадает с частостями соответствующих строк матриц Адамара,
упорядоченной по Уолшу:
1111
1 1 — 1 — 1
1 — 1 — 1 1
1 — 1 1 — 1.
Наконец, SB) можно выразить через S(l) следующим образом:
10 1 01
НшB) =
1
а4
0
64 -г
1
0 -1
—о. а.
где а* = 2/}/ и &4= 1/V^b7 Подобным же образом SC) можно вы-
зазить чеоез SB):
1 О
8 "8
I О
| О
О 1
-К
о
о
о
о
о
о
1
о
о
о
1
о
0; 1
OJ-Os
0: О
lj О
О | 0—1
о| ь(
0; О
ii о
<h
о
о
1
о
о
о
о-
о
о
1
о
о
0—1 О
О 0—1
X
153

X
1
3
V5
1
1
Vb
1
l
V5"
— 1
— 3
V5"
1
— 1
Л/ь
— 1
3
Л/ь
1
— 3
1
_i
V5"
1
3
V5"
1
,1
0
1
1
У5"
" —1
— 3
Уб
1
_ 1
J
3
уь
l
— 3
]/5~
1
_1
ys"
где а8 и bs— константы. В SC) пилообразный вектор получается
простой операцией масштабирования S B), а остальные компо-
компоненты служат для получения свойств упорядочения по частости у
ортогональности. Выражение G.5.7) можно обобщить для получе
ния матрицы пилообразных векторов размерностью N с по
мощью соответствующей матрицы размером N/2, что записывает-
записывается как
1
а,
1
Ii !
м
"E
°!
LLi
-1
к
Kl
Щ1»-
"H
[«л-ui о
.
G.5.8)
где I2 — единичная матрица размером BX2). Коэффициента
(aNy bN) можно вычислить по следующим формулам [12]:
а2= 1 ;6N= 1/A
G.5.9
7.6. Определение пилообразного преобразования
Рассмотренные выше пилообразные матрицы можно использо-
использовать для определения пилообразного преобразования, которое за-
записывается как
G.6.1
где Dx(n)'={Dx(O)Dx(l)...Dx(N—l)] —вектор коэффициентов
пилообразного преобразования; Х(п)'=[Х@)ХA)] ...X(N—1)] —
154

Рис. 7.5. Сравнение базисных век-
векторов ПУА с упорядочением по
Уолшу и пилообразного преобра-
преобразования при N=16
ПУА, пилообраз-
пилообразное преобразование
вектор входной последова-
последовательности, a S(n) — пилооб-
пилообразная матрица размером
(NXN).
Базисными векторами
пилообразного преобразова-
преобразования являются строки пило-
пилообразной матрицы S(n). На
рис. 7.5 приведены базис-
базисные векторы пилообразного
преобразования для iV=16
и базисные векторы ПУА,
упорядоченным по Уолшу.
Как видно из этого рисунка,
строки с индексами с 9 по 12
совпадают.
Быстрый алгоритм вы-
вычисления пилообразного пре-
преобразования. Пилообразное
преобразование можно осу-
осуществить с помощью
быстрого алгоритма, кото-
который наиболее просто про-
продемонстрировать для N = 4.
При этом выражение G.6.1)
записывается в виде
DXB) = SB)XB), G.6.2)
где SB) определяется из
выражения G.5.6). Наличие
быстрого алгоритма стано-
становится очевидным при фак-
факторизации матрицы преоб-
преобразования на произведение
разреженных матриц:
1 О О (Г
°° °
-плл
ICUTJLTV
0 0 10
У5
G.6.3)

С помощью приведенной выше факторизации пилообразное пре-
преобразование можно вычислить, как показано на рис. 7.6. Из рас-
рассмотрения графа преобразования можно сделать вывод, что для
х@Ь
/Л
/NJ/3
1/2
3/2n/5
1/2
3/2y/E
D
D>
D>
D,
@)
.A)
<B)
хB)
Рис. 7.6. Граф пилообразного преобразования,
N = 4
получения коэффициентов пилообразного преобразования \Dx(k),
fe = 0, 1, 2, 3, необходимо выполнить восемь сложений/вычитаний
и шесть умножений.
7.7. Дискретное косинусное преобразование (ДКП)
Дискретное косинусное преобразование исходного массива
данных Х(т), т = 0, 1, ..., N—1, определяется как {16]
Vl7
m=0 N m=0
k=\y2y . . .Л/-1, G.7.1)
где Lx(k) есть fe-й коэффициент дискретного косинусного преобра-
преобразования. Следует отметить, что множество базисных векторов
D=, 1/ X
XV N У N
cos
2N
фактически образует класс дискретных многочленов Чебышева.
Это легко установить, приведя следующее определение многочле-
многочленов Чебышева [17]:
T0(P)=1/VNk
Tk (Zm) = у~*- cos [k arccos (Zm)], k, m = 1, 2, . . ., N-1 , G.7.2)
где Tk(Zm) есть fe-й многочлен Чебышева. Нули iV-го многочлена
TN(Zm)определяются из формулы [17]
-n, m = 0,l, . . .,iV-l. G.7.3)
156

Подставляя выражение G.7.3) в выражение G.7.2), определим
значения {7^(Zm)}, / = 0, 1, ..., N—1, в нулях TN(Zm). Эта про-
процедура приводит к множеству дискретных многочленов Чебышева.
T0(m)=uVN*Tk(m)= YJ «и** "У* ". « = 0,1, - . .,N-1,
GJ.4)
которые эквивалентны множеству базисных векторов дискретного
косинусного преобразования. Обратное дискретное косинусное
преобразование определяется как
N—l.
Использование свойства ортогональности [17]
G.7.5)
G.7.6)
применительно к выражению G.7.5) приводит к определению ди-
дискретного косинусного преобразования (см. задачу 7.3). При за-
записи выражения G.7.1) в матричной форме, где Г(п) обозначает
матрицу (NXN) дискретного косинусного преобразования, свой-
свойство ортогональности можно записать как
Г (л)' Г (л) = lN. G.7.7)
Например, матрицу ГC) можно записать в виде
,354 0,354 0,354 0,354! 0,354 0,354 0,354 0,354'
0,490 0,416 0,278 0,0981—0,098—0,278—0,416—0,490
0,462 0,191—0,191—0,462;—0,462—0,191 0,191 0,462
0,416— 0,098 — 0,490—0,278: 0,278 0,490 0,098—0,416
0,354 —0,354—,354—^рй!";зМ—Д354—0,354 ""о;354
0,278—0,490 0,098 0,416!—0,416—0,098 0,490—0,278
0,191 0,462 0,462—0,191|—0,191 0,462—0,462 0,191
_ 0,098 0,278 0,416—0,490; 0,490—0,416 0,278—0,098_
Легко проверить, что ГC)ТC) = 18. G.7.8)
Вычисление дискретного косинусного преобразования. Можно
показать, что (см. задачу 7.4) дискретное косинусное преобразо-
преобразование можно также выразить в виде
N— 1 ( 2 N— 1
т=0
ГC) =
.,N-1,
G.7.9)
где W=e~i2n/2N; i= V—1, X(m)=0; m = N, N+l, ..., 2N— 1
Re{-} —действительная часть выражения, стоящего в скобках.
157

Из выражения G.7.9) следует, что N коэффициентов дискрет-
дискретного косинусного преобразования можно вычислить с помощьи
2Л^-точечного алгоритма БПФ. Так же можно показать, что 2N-
точечный алгоритм ОБПФ позволяет получить все коэффициента
обратного дискретного косинусного преобразования (см. задача
7.5).
Основное свойство. Дискретное косинусное преобразование
обладает тем основным свойством, что его базисные векторы очен!
хорошо аппроксимируют собственные векторы теплицевых матриь
[18, 19]. Этот класс матриц определяется как
. . . p
V-2
p-v-] p'v p'v-3 ... 1
G.7.10.
В качестве иллюстрации на рис. 7.7 изображены собственные век-
векторы -ф для N = 8 и р = 0,9 и соответствующие векторы базиса д»
скретного косинусного преобразования [строки матрицы Г(.г .
0.4,
0,2
о
0,4 с.
A)
-0,4-
-1
",
:
ц
гг.
0,4
1 п
-0,4
1
—т—
1
E)
1
0,4
0.4
-
i
i
i
г
!
— -
C)
0,4
-0,4 С
- L_J
1
F)
1— -0,4 L LJ
Рис. 7.7. Собственные векторы теплицевой матрицы (8x8) (р = 0,9) и
кые векторы ДКП:
ДКП, собственные векторы
в выражении G.7.8)]. Заметно большое сходство (если
учитывать фазовый сдвиг на 180°) между собственными векто-- ■
ми теплицевой матрицы и базисными векторами дискретного t
синусного преобразования. В главе 9 будет показано, что всле ■
ствие этого свойства дискретное косинусное преобразование моъч
но эффективно использовать в области обработки изображений.
158

7.8. Двумерные преобразования
Рассмотренные выше преобразования можно легко обобщить
для двумерного случая. Матричная запись двумерных преобразо-
преобразований Хаара, пилообразного, дискретного косинусного и соответ-
соответствующих обратных преобразований сведена в табл. 7.8.1. В этой
Таблица 7.8.1
Двумерные преобразования
Наименование
преобразования
Хаар
Пилообразное
Дискретное
косинусное
[YxxiUi
[X(mlf
IDxxlth
Г V /**••
Z
щ)]
1
= н^
= S(n,)
= Г(лх)
Определение
II* /•! \ Г V / «, #1, \1 II* /«1 \'
" (%) L^ \т1> т2)\ " (Л2) »
'2
[X(mltm2)]r(n2)'t
f[Lxx(ultu2)]r(n2)
таблице [Х(ти m2)] обозначает матрицу исходных данных раз-
размера NiXN2, a [Yxx(uu и2)], [Dxx(uu u2)] и [Lxx(uu u2)] пред-
представляют собой матрицы преобразований Хаара, пилообразного
преобразования и дискретного косинусного преобразования соот-
соответственно. Как и в случае ДПФ и ПУА, приведенные выше дву-
двумерные преобразования и обратные им преобразования можно
вычислить в результате Л/^Л/2-кратного применения алгоритмов,
используемых для вычисления соответствующих одномерных пре-
преобразований.
7.9. Заключение
В данной главе были введены преобразования: Хаара, пило-
пилообразное, дискретное косинусное и обобщенное. Было показано,
что при данной входной последовательности Х(т), т = 0, 1, ...,
Af—1, обобщенное преобразование (GT)r определяет класс из
log2Af ортогональных преобразований и, следовательно, обеспечи-
обеспечивает постепенный переход от ПУА с упорядочением по Адамару
к ДПФ. Можно показать, что преобразования (GT)n r=l, 2, ...,
п—2, также имеют энергетический спектр, инвариантный по от-
отношению к сдвигам [4—7]. Эти преобразования можно эффек-
эффективно осуществить с помощью кронекеровских произведений мат-
матриц [9, 20, 21] или с помощью матричной факторизации [22—25].
Выведены быстрые алгоритмы для вычисления преобразований:
Хаара, пилообразного и дискретного косинусного. Было показано,
что алгоритм Кули — Тьюки можно использовать и для вычисле-
вычисления преобразования Хаара.
159

ПРИЛОЖЕНИЕ 7.1
Кронекеровское произведение матриц
Пусть А и В — две матрицы:
аХ1 а12
а21 а22
• «2
'Ьп Ь1
кронекеровское произведение которых определяется как
'ап В а12 В . . . а1п Ъ
а21 В а22 В . . . я2п В
Abn Abt
A b21 A b2
A 6x
Abk2 • • • A i
где (x) —знак кронекеровского произведения матриц. Из приведенного выше
определения очевидно, что А (х) В представляет собой (mkxnl) матрицу. В ка-
качестве примера рассмотрим рекуррентное построение матриц Адамара hh(k)>
которое определяется как [см. выражение F.1.6)]
H/i {k — 1) Нд (k — 1I
Wh(k~ 1) —Wh(k— \)\ *'
Эту рекуррентную формулу можно выразить в виде кронекеровского произве-
произведения матриц
Hh(k) =--
= 1,2, . . ., п.
НЛ(*) =
или
п.
Для кронекеровского произведения матриц справедливы следующие тожде-
тождества [18]:
® С = (А ® В) ® С = А <
где АВ и BD — обычное матричное произведение матриц А, С и В, D соответ-
соответственно.
ПРИЛОЖЕНИЕ 7.2
Факторизация матриц
Факторизация матрицы преобразования иллюстрируется для N=16 и г=2.
При этом из выражений G.2.1) и G.2.2) следует
\
(П7.2.1)
Матрицы D*'2D) получаются рекуррентно [см. выражение G.2.3)], как пока-
показано ниже.
160

Случай I. /=1
D'D) = diag[A2(l)A2(l) .
где
Ag(l) =
-w€2*\[\-w*
A2m0)=
W = e~'2lt/16
Случай 2. / = 2
D= D) diag = [Д2 B) A2 B) A| B) A^ B) ]
где
А^
А?
At
А2
B)
B)
B)
B)
=
[ 1 1,
= i!_r.l®
1 ит
= 1 «г J (Я)
Случай 3. / = 3
D^ D) = diag[AoC)A^
Как и выше,
п
1.=
C)].
j I
1
'4
= _ 4
v 4 4J •
Следовательно,
Подобным же образом можно показать, что-
6—8
(П7.2.2)
161

ЗАДАЧИ
ч 7.1. Запишите алгоритм Кули—Тьюки для вычисления обратного преобра-
преобразования Адамара при N = 8.
7.2. Нарисуйте граф, соответствующий вычислению пилообразного преоб-
преобразования при N=8. С его помощью вычислите пилообразное преобразование
последовательности
= {1 2 113 2 12}.
7.3. Пользуясь G.7.5) и G.7.6), получите выражение G.7.1).
7.4. Пользуясь выражениями G.7.1), выведите выражение G.7.9).
7.5. Покажите, что обратное дискретное косинусное преобразование, запи-
записанное в виде G.7.5), можно также записать в виде
j BN-\
Х(т) = ^-4@)+)/1 Re V M*)^m , m = 0, 2,..., tf-
k=0
где C 7.5.1)
£,(Л)в{М«е'*^^ = 0.1 N-l;k = N;N+l. . . .. 2 N - 1 ;
я W=e~i2n>/zNf a W — комплексно-сопряженное число.
Примечание. Из C7.5.1) следует, что ОДКП можно вычислить с помощью
ОБПФ для массива, состоящего из 2N дискрет.
7.6. Пусть дана последовательность
123421231245 3}.
а) Пользуясь алгоритмом Эндрюса, покажите, что преобразование Адама-
Адамара последовательности {Х(т)} имеет вид
5l _ _
0—2/2 4/2 — 2|^2 4|/ — 4/2 — 4/2
б) Убедитесь в том, что последовательность коэффициентов {Yx(tn)} по-
получается такой же при использовании алгоритма типа Кули—Тьюки.
7.7. Нарисуйте сигнальный граф для вычисления обратного пилообразного
преобразования при N=4, пользуясь графом, изображенным на рис. 7.6.
б) Пользуясь данными п. «а» и задачей 7.2, нарисуйте граф обратного
пилообразного преобразования N=8.
7.8. Матрицу обобщенного преобразования Gr(n) можно записать в вы-
выражениях его матричных множителей для г=2 и N=16 (я=4), т. е. СгD) =
= П Dj2D) (см. приложение 7.2). Основываясь на этих матричных множите-
/=1
лях, определите множители в вершинах сигнального графа, изображенного на
рис. 7.8. Сравните полученный граф с изображенным на рис. 7.1.
7.9. Матрицу преобразования Gr(n) можно получить рекуррентно, как по-
показано в [6]. Опишите G2D), пользуясь указанной ссылкой, и убедитесь r
том, что эта матрица равна произведению матричных множителей, описанных
в задаче 7.8.
7.10. а) Можно вывести модифицированную форму (GT)r, известную под
названием модифицированного обобщенного преобразования (MGT)r [6, 7, 27].
Матрица преобразования Жг(п) в этом случае определяется рекуррентной фор-
формулой
м /« \*r(k-\) JMA-1) 1
где
Мг@) = 1 и Mr A) = [!_[] =НЛ A).
162

Подматрица Cr(k— 1) описана в [6]. Получите матрицу преобразования
(MGT)r при г = 2 и N=16 (п = 4), т. е. М2D).
б) Матрицу преобразования (MGT),- можно также выразить через ее мат-
матричные множители, основываясь па небольшой модификации G.2.3) (см. [7]),
Пользуясь таким подходом, получите матричные множители МгD). Пользуясь
х(О)^—» 7 ^—■ 7 ^—• т ^г- -^ В2@)
—. В2A)
* В2B>
ш В2C))
„ В2D)
* В2E)
- В2F)-
» R2G)
„ В2(8)
„ В2A0)(
. В2A1)
. В2A2)
. В2A3)
» B2A4)
. В2A5)
Рис. 7.8. Граф обобщенного преобразования (GT)r при г = 2, N=16 (л = 4)
этими матричными множителями, определите множители в вершинах сигналы
ного графа, изображенного на рис. 7.9.
в) Покажите, что матрицы МгD), полученные в п. «а» и «б», совпадают*
7.11. Решите задачу 7.8 для N=16 и г=0, 1 и 3.
7.12. Повторите задачу 7.9 для N=\6 и г=0, 1 и 3.
7.13. Повторите задачу 7.10 для N=16 и г = 0, 1 и 3.
7.14. Для N=\6 и г = 2 получите инвариантный к сдвигу энергетический
спектр (GT)r и (MGT)r и покажите, что они совпадают (см. [4—6, 7]).
7.16. Соотношения, связывающие преобразование Хаара и ПУА с упорядсм
чением по Уолшу, были получены Файно [28]. Убедитесь в их справедливости,-,
рассмотрев подматрицы HwC) (см. рис. 5.56) и подматрицы Н*C) (см. выра^
жение G.3.2) в соответствии с [28]).
7.16. Получите Н*D) и HwD) из Н*C) и HwC), пользуясь рекуррентны-
рекуррентными соотношениями Файно [28].
7.17. Нарисуйте подобный графу на рис. 7.2 сигнальный граф, соответст-*
вующий алгоритму Эндрюса для вычисления прямого и обратного преобразо*
вания Хаара при N=16.
7.18. Переставьте столбцы Н*D) как для Н*C) [см. выражения G.4.1)—•
G.4.3)] и получите граф, соответствующий алгоритму Кули—Тьюки для вы-
вычисления преобразования Хаара при N=16 (см. рис. 7.3).
7.19. Нарисуйте граф, соответствующий алгоритму Кули—Тьюки для вы*
числения обратного преобразования Хаара при N=16.
6* 163

7.20. а) Получите SD) с помощью SC) [см. выражение G.5.7)] и рекур-
рекуррентных соотношений, описанных в G.5.8) и G.5.9).
б) Получите матричные множители SD) и нарисуйте граф для пилообраз-
пилообразного преобразования. С помощью этого графа получите коэффициенты {Dx(k)\,
соответствующие пилообразному преобразованию последовательности {Х(т)},
описанной в задаче 7.6.
Е2@>
, F2D)
* F2E)
» F2F)
„ . F2G)
■F2(B)
• F2(9)
F2A0)
• F2A1)
. F2A2)
. F2A3) •
. F2A4)
. F2A5)
Рис. 7.9. Граф для модифицированного обобщенного преобразования
(MGT)r при г=2, #=16 (л=4)
7.21. Нарисуйте сигнальный граф для вычисления обратного пилообразно-
пилообразного преобразования при N=\6. Восстановите {Х(т)} по {Dx(k)}, полученным
в задаче 7.206.
ГЛАВА 8
Обобщенная винеровская фильтрация
В гл. 1 были описаны три случая применения ортогональных преобразо-
преобразований, рассмотрению которых посвящена данная книга. В настоящей главе
приводится классический метод обработки сигналов, а именно винеровская
фильтрации [1]. Будет показано, что ортогональные преобразования можно
использовать для обобщения винеровской фильтрации дискретных сигналов и
особенно в целях сокращения объема вычислений.
164

8.1. Некоторые основные матричные операции
Для полного понимания вопросов обобщения винеровской
фильтрации необходимо выполнить некоторые матричные опера-
операции. Обозначим вектор X и матрицу А следующим образом:
— [Xj х2 . . • xd\ , ^о. 1.1/
~au a12 ... ald ~
CLty\ CLnn . . . Clnyf
: : • . : • (8.1.2)
_adl ad2 ... add _
Покажем теперь, что
где Va{Х'А'АХ}—градиент (т. е. обобщение операции диффе-
дифференцирования) выражения Х'А'АХ по отношению к матрице А.
Для примера рассмотрим случай d = 2. Из выражений (8.1.1) и
(8.1.2) следует, что
Р= [хг:
а12
22
1 =(ди хг+а12 х2J+(а21 хх + а22 х2J,
где Р = Х/А/АХ. При этом градиент Р по отношению к матрице А
определяется как ,
др~
Уа —
дап
дР
,да21
дР
да22]
Вычислим элементы
ар
^r2{anXi
\др Л
t ~
+ а12х2)
1 ~
(8.1.4)
дР
дР
(8.1.5)
^ = 2 (ап хх + а22 х2) х1 ; — = 2 (а21 хг + а22 х2) ^2.
Подстановка выражения (8.1.5) в выражение (8.1.4) дает
уАР = 2Га11 ai2l Г^1 *i4=2rail ИР1! [*!*,]. (8-1.6)
[a21 OmJLjci*. A J l.a21 a22JL^2J
Формула (8.1.6) дает желаемый результат
Подобным же образом при V'=[ui, v2 ... va] можно показать, что
(см. задачу 8.1)
Va{X'A'V} = VX' (8.1.7) и Va{V'V} = 0. (8.1.8}
165

8.2. Математическая модель [2]
На рис. 8.1 приведена структурная схема одномерной обобщен-
обобщенной системы винеровской фильтрации. Через Z обозначен вход-
входной Л/-вектор, который представляет собой сумму вектора данных
А
Рис. 8.1. Обобщенная модель винеровской фильтрации
X и шумового вектора W. Винеровский фильтр А представлен в ви-
виде матрицы (NxN). Ортогональное преобразование Т и обратное
ему преобразование Т также записываются в виде (NxN) мат-
матриц. Вектор X представляет собой оценку X. Основная задача за-
заключается в создании такого фильтра А, чтобы математическое
ожидание среднеквадратичного отклонения X от X было бы мини-
минимальным. В частном случае, когда Т является единичной матрицей
I, изображенная на рис. 8.1 модель соответствует фильтру, перво-
первоначально предложенному Винером. В этом смысле структурная
схема на рис. 8.1 является более общей. Отсюда и название —
обобщенная винеровская фильтрация. Случай Т=1 соответствует
тождественному преобразованию (ТП), являющемуся простейшим
ортогональным преобразованием.
Статистическая интерпретация. Для удобства будем предпола-
предполагать, что элементы матрицы Т — действительные числа. Приводи-
Приводимые ниже определения легко можно обобщить при комплексных
исходных данных (см. задаяу 8.3).
Во многих случаях вектор Z можно рассматривать как выбор-
выборку из случайного процесса (стационарного или нестационарного).
Если вектор математического ожидания процесса обозначить че-
через Z, то ковариационная матрица 1 в области исходных данный
определяется как
где Е — математическое ожидание. С помощью выражения (8.2.1)
можно показать, что [см. приложение 8.1, формулу (П8.1.4)]
ZZ'. (8.2.2)
Подобным же образом ковариационная матрица в области изобра-
изображений Sz может быть определена как
V =E{(F—F)(F—FOHEjFF7} — FF', (8.2.3)
1 Для читателя, не вполне знакомого с применяемой терминологией и оп-
определениями в приложении 8.1, дается краткое пояснение определений корре-
корреляционной и ковариационной матриц.
166

где F = TZ. Если ортогональная матрица Т такова, чтоТ'Т=1, где I—
единичная матрица, то 2Z из (8.2.3) можно записать в виде
V =TV T' = TV T-1. (8.2.4)
Из выражения (8.2.4) следует, что ковариационные матрицы в
области оригиналов и в области изображений связаны между со-
собой преобразованием подобия. Более того, можно заметить, что
2Z можно рассматривать как двумерное преобразование 2Z, что
удобно с вычислительной точки зрения.
Пример 8.2.1. Рассмотрим множество векторов исходных данных
а) Вычислим 2г.
б) Используем результат «а» для определения Sz при
т=тИ!_!].
Решение, а) Вычислим ZZ' и E(ZZ') следующим образом:
5 |_6 15] .
Подстановка ZZ7 и E{ZZ/} в (8.2.2) дает
ГО,4 0,21
^—[0,2 2 J.
б) Формула (8.2.4) дает
V =^-\1 П [0.4 0,21 Г1 11 Г 1,4-0,81
2dz 2 [1 -lJL0,22 lU-lJ L — 0,8 2 J.
8.3. Расчет фильтра
Без потери общности можно сделать следующие предположе-
предположения.
1. Сигнал и шум имеют нулевые математические ожидания, т. е.
X = W = 0, откуда следует, что
Z = 0; £ж=Е(XX');Yw = E(WW) и^^Е(ZZ'). (8.3.1)
2. Сигнал и шум некоррелированны, т. е.
= 0. (8.3.2)
167

3. При Т'Т=1 следует, что [см. выражение (8.2.4)]
Г'. (8.3.3)
Определение матрицы фильтра. Так как X является вектором
оценки X, то соответствующий вектор ошибки определяется как
е = Х—X. (8.3.4 )
Таким образом, общая среднеквадратичная ошибка при оценива-
оценивании равна
е= Е{||Х-Х|(*} = Е{(Х-Х)'(Х-Х)}. (8.3.5)
Из структурной схемы на рис. 8.1 следует, что
X = Т-1ATZ = Г ATZ, (8.3.6)
так как Т~1 = Т/. Подстановка выражения (8.3.6) в выражение
(8.3.5) дает
s = Е {Г V A' TV ATZ}—2 Е {Г V А'ТХ} + Ц X |р}. (8.3.7)
Поскольку ТТ'=1 и F = TZ, выражение (8.3.7) можно записать как
£ = E{F'A'AF}—2E{F'ATX} + E{||X||*}. (8.3.8)
Теперь матрица А должна быть выбрана такой, чтобы г была ми-
минимальна. Следовательно, она должна удовлетворять необходимо-
необходимому условию Va8 = 0, что приводит к
Е {ул (Г A'AF)}-2 Е {Va<F' А' ТХ)} + Е {ул (Ц X ||«)> = 0. (8.3.9)
Из (8.1.3), (8.1.7) и (8.1.8) следует, что
АА (F A' AF) = 2 AFF ; ул (F А' ТХ) = TXF ; ул (|| X ||«) = 0.
Таким образом, выражение (8.3.9) можно привести к виду
AEIFF^^TEIXF'}, из которого с учетом того, что F = TZ, получа-
получаем
ATE{ZZ'} Г = Т E{XZ'} Г. (8.3.10)
Учитывая, что Z = X+W, и пользуясь выражением (8.3.1), легко
получаем следующие соотношения:
Е (XZ') = Е (XX') = ]?, и Е (ZZ') = 2, +
Подстановка (8.3.11) в выражение (8.3.10) дает
AT(L+IJT'=T2J' ■ (8-3-12>
Уравнение (8.3.12) позволяет определить требуемую матрицу оп-
оптимального фильтра двумя способами.
1. Через ковариационные матрицы Sx и Sw, относящиеся к об-
области исходных данных (сигналов):
А, = т2,Т'[ТBя + 5;ш)Т'Г1. (8.3.13)
168

что можно в упрощенном виде записать как
Ао = ТАгТ', (8.3.14 )
где Ar=Sx(Sx + 2Wj)~1. Матрица Аг называется матрицей отклика
[2] по аналогии с импульсным откликом линейной системы.
2. Через ковариационные матрицы 2* и 2W, относящиеся к обла-
области изображений:
где 2х=Т2хТ/ и 2«, = Т2«Л".
Минимальная среднеквадратичная ошибка. Для вычисления
среднеквадратичной ошибки, связанной с описанным выше опти-
оптимальным фильтром, удобно выразить е из выражения (8.3.5) в ви-
виде
е = tr{E[(X -X) (Х-Х)']}, (8.3.16)
где «tr» — след матрицы, т. е. сумма диагональных элементов мат-
матрицы. Можно показать, что (см. задачу 8.4)
tr{E[(X-X) (Х-Х)']} = Е{|| Х-Х ||«}. (8.3.17)
Из (8.3.16) получаем
е = tr {E { XX'}—Е {XX'}—Е{ХХ'}4-Е {XX'}}. (8.3.18)
Учитывая X = TATZ, можно показать, что (см. задачу 8.5)
Е {XX'} = Е{XX'} и Е {ХХ'}=Т' А Т 2Ж. (8.3.19)
Подставляя (8.3.19) в выражение (8.3.18) и пользуясь соотноше-
соотношением 2Х = Е{ХХ'}, получаем
В = tf f£*~Т' AT X J • (8.3.20)
Теперь выражение (8.3.14) для оптимального фильтра Ао =
= T2XBX + 2^)~1T/ подставляем в выражение (8.3.20) вместо А,
что приводит к следующему выражению для минимальной сред-
среднеквадратичной ошибки:
(8-3-21>
В (8.3.21) Zmin теперь полностью выражается через ковариаци-
ковариационные матрицы 2Х и 2™ и, следовательно, может быть вычислена.
Кроме того, emin можно выразить через ковариационные матрицы
2Ж и 2ад, соответствующие областям изображений в виде (см. за-
задачу 8.7)
г £1 • (8-3-22)
Из уравнений (8.3.21) и (8.3.22) можно сделать следующий вы-
вывод — минимальная среднеквадратичная ошибка гт%п не зависит
от используемого ортогонального преобразования.
169

8.4. Субоптимальная винеровская фильтрация
Исходя из того, что Smin не зависит от вида ортогонального
преобразования I, можно свободно выбирать вид преобразования,
стремясь при этом сократить число вычислительных операций,
связанных с осуществлением фильтрации.
Число операций умножения, связанных с выполнением винеров-
винеровской фильтрации [см. формулу (8.3.6)], в соответствии со структур-
структурной схемой, приведенной на рис. 8.1, сведено в табл. 8.4.1. Основ-
Та блица 8.4.1
Количество умножений при оптимальной винеровской фильтрации
Преобразование
Тождественное преобразование
ДПФ1
ПУА, МПУА или ПХ
дкп*
Приблизительное число умножений
N2
N* + 2N]og2N
N2
N* + 4N\og2N
1 Умножение комплексных чисел.
ным препятствием для осуществления фильтрации в реальном
масштабе времени является то, что число требуемых операций
умножения пропорционально №. Таким образом, в качестве компро-
компромиссного решения рассмотрим возможность использования матриц
фильтра, содержащих относительно большое число нулей. С по-
помощью таких матриц операция фильтрации AF (см. рис. 8.1) мо-
может быть выполнена при меньшем числе умножений. Основной
целью расчета фильтра, конечно, остается получение среднеквадра-
среднеквадратичной ошибки, близкой к среднеквадратичной ошибке оптималь-
оптимального фильтра.
Задача расчета субоптимального винеровского фильтра может
быть сформулирована как задала оптимизации, в которой матрица
фильтра А выбирается исходя из минимизации [см. выражение
(8.3.20)]
при ограничении, заключающемся в том, что определенные выбран-
выбранные элементы матрицы А равняются нулю. Рассмотрим следующие
возможные случаи.
1. Ограничим А классом диагональных матриц. Этот класс
фильтров рассматривается в § 8.6.
2. Рассчитаем фильтр, матрица которого содержит два отлич-
отличных от нуля элемента в строке; дополнительные элементы будем
добавлять до тех пор, пока не получим требуемое качество па
170

критерию минимума среднеквадратичной ошибки. Однако такой
подход быстро становится чрезвычайно сложным.
3. Получим матрицу субоптимального фильтра из матрицы оп-
оптимального фильтра, оставляя только те элементы, которые имеют
относительно большую величину. Все остальные элементы прирав-
приравняем к нулю.
В качестве примера рассмотрим третий случай реализации суб-
субоптимального фильтра.
Пример субоптимальной фильтрации. Рассмотрим случай оцен-
оценки случайного сигнала в присутствии шума по среднеквадратич-
среднеквадратичному критерию, когда ковариационные матрицы сигнала и шума
определяются следующим выражением:
(8.4.1)
где 2Ж — теплицева матрица [см. выражение G.7.10)]. Ковариаци-
Ковариационная матрица 2Х соответствует марковскому процессу первого по-
порядка, aSw — белому шуму.
Для определения влияния ортогональных преобразований на
структуру соответствующей матрицы фильтра вычислим матрицы
фильтра для тождественного и дискретного косинусного преобразо-
преобразований, пользуясь уравнением (8.3.14) при JV=16, р = 0,9 и &0 = 0,1.
Так как &0 = 0,1, отношение сигнал/шум равняется 10. Матрицы
фильтров можно наглядно изобразить, как показало на рис. 8.2.
Заштрихованные клетки представляют собой те элементы матрицы
фильтра, значение которых превосходит или равно 1% от значения
наибольшего элемента матрицы фильтра. Из рис. 8.2 следует, что
1
р
Р2
pw-i
р
1
р
Р2
Р
1
рл/-з
. . . р™~~'
. . . р^-2
. . . р"-3
... 1
ft
fa
6)
Рис. 8.2. Матрицы винеровского фильтра:
а — тождественное преобразование; б — ДКП
'171

применение дискретного косинусного преобразования позволяет
получить матрицу для соответствующего фильтра, содержащую
значительно меньшее число элементов с относительно большими
значениями.
Рассмотрим теперь пример, касающийся среднеквадратичной
ошибки, получающейся в результате субоптимальной винеровской
фильтрации. Для этого рас-
рассмотрим фильтр с использова-
использованием ПУА, упорядоченным по
Уолшу, и ПУА, упорядоченным
по Адамару, при 7V= 16 и
р = 0,9. Отношение сигнал/шум
выбирается равным единице,
т. е. feo=l. На рис. 8.3 показа-
показана зависимость фильтрации
при использовании тождест-
тождественного преобразования и пре-
преобразования Уолша — Адама-
ра по критерию минимума
'среднеквадратичной ошибки от
числа элементов матрицы
фильтра, не равных нулю [2].
Очевидно, что фильтр с тож-
тождественным преобразованием
работает существенно хуже,
чем фильтр с ПУА, упорядо-
упорядоченным по Адамару, так как в
первом случае он должен со-
содержать значительно большее
число не равных нулю элемен-
элементов для достижения заданной
среднеквадратичной ошибки.
Более того, качество фильтра-
фильтрации при использовании фильтра с ПУА при 10 ненулевых элемен-
элементах очень близко к оптимальной фильтрации, когда применяются
все 256 элементов матрицы фильтра.
8.5. Оптимальные диагональные фильтры
Приведенное выше обсуждение позволяет задать естественный
вопрос: «Какой вид должно иметь ортогональное преобразование
Т, которое позволяет получить оптимальный диагональный фильтр
AOd?». Ответ на этот вопрос содержится в следующей теореме, до-
доказательство которой может быть найдено, например, в [12]. Основ-
Основным предположением, лежащим в основе доказательства, являет-
является то, что собственные значения действительной симметричной мат-
матрицы являются различными действительными числами. Заметим,
что матрица отклика Ar= S^Sx + S™)-1 в (8.3.14) представляет со-
собой действительную симметричную матрицу.
172
0 4 8 12 16 20 24 28 32 36 40 44 48
Число ненулевых элементов в матрице
фильтра
Рие. 8.3. Среднеквадратичная ошибка
винеровского фильтра при тождествен-
тождественном преобразовании и ПУА с упорядо-
упорядочением по Адамару

Теорема. Если Xi и <рг, г=1, 2, ..., N, — соответственно собствен-
собственные значения и собственные векторы действительной симметричной
матрицы Г, то
ФГФ' = Л, (8.5.1)
где Ф=[ф1ф2... <pjv] — такая (NxN) матрица собственных векторов,
при которой ФФ=1, и A=diag (Х\, ^2, • • •, hN) — матрица собствен-
собственных значений.
Из выражения (8.5.1) становится очевидным, что если в качест-
качестве f выбирать матрицу собственных векторов матрицы отклика Лг,
то AOd = TArT/ представляет собой требуемый оптимальный диаго-
диагональный фильтр.
С целью иллюстрации приведенной выше теоремы рассмотрим
простой пример. Пусть ковариационные матрицы в области ори-
оригиналов имеют следующий вид:
Тогда матрица отклика Аг в соответствии с (8.3.14) принимает вид
A S( )~1. Вычисляя элементы Аг, получаем
«
где а= B—р2)/D—р2) и Р = р/D—р2). Для нахождения собствен-
собственных значений запишем |АГ—АЛ|=О, что приводит к характеристи-
характеристическому многочлену
Я2—2 а% + (а2—р2) = 0. (8.5.2)
Решая уравнение (8.5.2), находим собственные значения Xi = a + p
и %2 = а—Р- Выполняя вычисления, можно получить, что нормиро-
нормированные собственные векторы, соответствующие Х\ и Х2, имеют вид
(см. задачу 8.8)
_ _1_П
Таким образом, матрица искомого ортогонального преобразования
имеет вид
>-*[\Л
Легко вычислить, что соответствующая матрица оптимального ви-
неровского фильтра в этом случае имеет вид [см. уравнение
(8.3.14)] диагональной матрицы
0 a —
Приведенное выше ортогональное преобразование, базисные век-
векторы которого являются собственными векторами заданных кова-
173

рнационных матриц, называется преобразованием Карунепа—Лоэ-
ва (ПКЛI. Сделаем несколько замечаний относительно ПКЛ и
ПКЛ фильтра.
1. Фильтр ПКЛ является оптимальным в смысле среднеквадра-
среднеквадратичной ошибки, которая при этом равняется e?mn и определяется
выражением (8.3.21) или (8.3.22);
2. Если ПКЛ определяется заданными ковариационными мат-
матрицами, то не существует общего быстрого алгоритма для его 'вы-
'вычисления или вычисления обратного преобразования. Это означ/ает,
4то F = TZ и X = T~1(AF), вычисление которых в соответствии со
структурной схемой на рис. 8.1 потребует выполнения приблизи-
приблизительно 2N2 умножений. Таким образом, общее число умножений
для получения X равно BN2 + N) ^2N2.
3. По мере увеличения N задача вычисления собственных век-
векторов быстро усложняется.
Из замечаний 2 и 3 следует, что при большом N применять
ПКЛ не имеет смысла. Однако вследствие того, что это преобразо-
преобразование является оптимальным, его можно использовать для опре-
определения качества субоптимальных фильтров.
8.6. Субоптимальные диагональные фильтры [2—4]
Так как ПКЛ нельзя вычислить с помощью быстрых алгорит-
алгоритмов, вполне естественно рассмотреть возможность применения суб-
субоптимальных фильтров с диагональными матрицами преобразова-
преобразований, которые обладают быстрыми алгоритмами. В этом параграфе
будет рассмотрено применение фильтров такого класса примени-
применительно к ДПФ, ПУА, преобразованию Хаара и дискретному ко-
косинусному преобразованию.
Фильтры с диагональными матрицами иногда называются ска-
скалярными фильтрами; векторные фильтры относятся к более обще-
общему классу, который определяется матрицами, содержащими нену-
ненулевые внедиагональные элементы.
Искомый скалярный фильтр можно получить, если на матрицу
А в выражении (8.3.12) накладывать ограничение диагональности.
Таким образом, если
Ad = diag(fllba22, . . .,аш) (8.6.1)
является матрицей скалярного фильтра, то из выражения (8.3.12)
имеем
У (U)
e»= ~ ~ ,i=l,2, ...,#, (8.6.2)
1 Эта терминология связана с разложением Карунена—Лоэва, которое бу-
будет рассмотрено в гл. 9.
174

где 2я = Т2аТ'; l>w = TIiwT\ a 2x(i\ i), S«;(r, 0 обозначают /-e диаго-
диагональные элементы матриц 2X и Hw соответственно.
Среднеквадратичная ошибка, связанная с А^, получается из
(8.3.20) в виде
2LI (8-6-3>
Тай какИз^ТЕЛ1' и Т'Т=1, то
2>T'LT- <8-6-4>
Подстановка (8.6.4) в выражение (8.6.3) приводит к
). (8.6.5)
Поскольку Т является ортонормированным преобразованием, сле-
следует [см. задачу 8.6 и выражение C8.6.1)]
(8.6.6)
Объединяя выражения (8.6.5) и (8.6.6), получаем
Так как А^ — диагональная матрица, то е^ можно записать в упро-
упрощенном виде
ed = tr(yj- 2 аи ]L(m). (8.6.7)
1=1
Подставляя пц из выражения (8.6.2), получаем следующее выра-
выражение для среднеквадратичной ошибки скалярного фильтра А<* и
ортогонального преобразования Т:
(8.6.8)
м\ (м)+N («. 0
где 2X = TSKT/ и Su^TSJT. В частности, для ПКЛ выражение
(8.6.8) можно записать в виде (см. выражение (8.5.1))
N N
2Ь-1A?/Ы, (8-6.9)
1=1 1=1
где ^г и |г- — собственные векторы Sx и (Sx + Sw) соответственно.
Для сравнения качества работы различных скалярных филь-
фильтров вновь рассмотрим задачу оценивания марковского процесса
на фоне белого шума. Соответствующие ковариационные матрицы
175

Таблица 8.6.1
Среднеквадратичная ошибка различных скалярных фильтров;
р = 0,9; ko=\
Преобразование
ПКЛ
дкп
ДПФ
ПУА,
упорядоченное
по Адамару
ПХ
N=■2
5,9680
5,9680
5,9680
5,9680
5,9680
4,6640
4,6720
4,7424
4,7072
4,7072
N=8
4,0528
4,0736
4,3926
4,2384
4,2400
N=16
3,7696
3,7894
4,1472
4,1312
4,1424
N=32
3,6288
3,6512
3,9058
4,1312
4,1312
N=64
3,558-
3,57Г
4,094-
4,129с
8.0
6,4
о
4,8
3,2
\
\
\
\
\
\
\
\
\
X ДПК
/
/
, ПКЛ
дпф
к—
*=
8
Размер,
16
32
64
Рис. 8.4. Среднеквадратичная ошибка скаляр-
скалярных фильтров
ца, которая утверждает, что [3, 6]
lim [ Т
дпф
Ро
Pi
Р2
Г—' 1 _
ДПФ] ~
Pi
Ро
Pi
= Л
7
Рг
Pi
Ро
. . . рлг-i
. . . PN-2
. . . рлг-з
сигнала и шума опреде
ляются выражениям*.
(8.4.1) и (8.4.2) соот-
соответственно. В табл. 8.6.1
приведены значения гс
для различных значений
Л^ при р = 0,9 и отноше
нии сигнал/шум, равноу
единице (т. е. &о=1) [5]
Из табл. 8.6.1 видно
что среднеквадратична*
ошибка при диcкpeтнo^
косинусном преобразова
нии очень близка г
ошибке при ПКЛ. Эт<:
подтверждается графика
ми качества работы филь-
фильтров (рис. 8.4), из кото-
которых видно, что график
качества работы ДПа
асимптотически стремит -
ся к соответствующему
графику ПКЛ. Этот ре-
результат является частные
случаем теоремы Тепли
(8.6.Н
-1 РЛ/-2
v-з ... Ро
176

есть ковариационная матрица стационарного в широком смысле
случайного процесса |[см. выражение (П8.1.7)] и A=diag (Х1Д2,
..., KN) — матрица собственных значений 2.
8.7. Двумерная винеровская фильтрация
Хотя в основном рассматривалась одномерная фильтрация, из-
изложенные выше методы можно использовать и для целей двумер-
двумерной Е^рнеровской фильтрации. Ниже приводится метод осуществле-
осуществления двумерной фильтрации, заключающийся в последовательном
применении одномерной фильтрации.
Пусть [Z(x, у)] и [F(u, v)] представляют собой (NxN) матрицы
исходных данных и результата преобразования соответственно. Ес-
Если Т — матрица преобразования {NxN), при которой Т'Т = Т, то
y)]V; (8.7.1)
v]T. (8.7.2)
Матрица исходных данных [Z(x,y)] представляет собой сумму
матриц сигнала [Х(х, у)] и шума [W(x, у)], т. е.
IZ (х, у)] = [X (х, у)] + [W {х, у)]. (8.7.3)
Матрицу результатов преобразования [F(u,v)] можно преобра-
преобразовать для получения матрицы результатов фильтрации {G(u> v)]
следующим образом:
[ G{u9v)) = AvlF(u,v)]A'x, (8.7.4)
где Ау и Ах — матрицы фильтра Винера для строк и столбцов со-
соответственно матрицы исходных данных [Z(x,y)]. Матрицы Ах и
Ау получаются в результате применения методов расчета, разра-
разработанных выше для одномерного случая.
Наконец, для оценки (Х(хуу)] сигнала [Х(х9у)] производят вы-
вычисление обратного преобразования матрицы [G(u,v)] из выра-
выражения (8.7.4). Таким образом,
lX(xty)]=T[G(u,v)]T. (8.7.5)
Из приведенных выше рассуждений видно, что двумерную ви-
неровскую фильтрацию можно трактовать как последовательное
применение одномерных процедур фильтрации к строкам и столб-
столбцам исходного массива данных [Z(x,y)]. Двумерная обобщенная
винеровская фильтрация успешно использовалась для улучшения
качества изображений, а именно — для улучшения качества за-
шумленных изображений [2].
8.8. Заключение
Было показано, что классическую винеровскую фильтрацию
можно осуществить с помощью ортогональных преобразований.
Количество необходимых вычислительных операций зависит при
177

этом от используемого преобразования. Причем объем вычислений
может быть значительно уменьшен за счет незначительного ухуд-
ухудшения качества, фильтрации по критерию минимума среднеквадра-
среднеквадратичной ошибки.
Краткое обсуждение двумерной винеровской фильтрации при-
приведено в основном для иллюстрации того, что ее можно осущест-
осуществить путем последовательного применения методов одномерной
фильтрации. Ортогональные преобразования могут применяться и
для других видов фильтрации в области обработки изображений
[7—10]. Эти приложения были рассмотрены Праттом [11], где он
рассмотрел роль преобразований Уолша—Адамара в обработке
изображений и двумерной фильтрации.
ПРИЛОЖЕНИЕ 8.1
Терминология и определения
Если
= [ziZ2 •••
как
i=l, 2, ..., N, — множество N случайных величин, то Z'=
случайный вектор. Ковариационная матрица Z определяется
V = E{(Z-Z)(Z-
(П8.1.1)
где Е — оператор математического ожидания, a Z соответствует среднему век-
вектору E{Z}. Пользуясь матричными обозначениями, 2Z можно выразить как
2,=
(zN —
или
- 4)
E{(zN- z^^-
2 2
a21 a22
- i(zl zl) (ZN — 2Л*)}
■E{(zv —lN)(z^ —"zN)> _
(П8.1.2)
,2 "I
o2N
°N\
°N2
JNNJ
(П8.1.3)
где o'i^EUzi-z^iz—Zi)}, (i, y=l, 2, ..., N).
Из (П8.1.3) следует, что диагональные элементы ковариационной матри-
матрицы являются дисперсиями отдельных случайных величин, а каждый внедиа-
178

тональный элемент соответствует ковариации двух случайных величин: гг- и Zj.
Заметим, что ковариационная матрица симметрична. Это обстоятельство позво-
позволяет использовать результаты, относящиеся к теории симметричных матриц,
для анализа ковариационных матриц.
Выражение (П8.1.1) часто записывается в следующем виде:
У 2 = Е JZZ' — Z Z — Z~Z' + ~Ъ Г } = Е {ZZ'} — Е {Z} Z —Z Е {Z'} + Е {ZZf'},
что эквивалентно
22 = S—ZZ', (П8.1.4)
где S = E{ZZ'} =
S — автокорреляционная матрица, иногда называемая матрицей рассеяния Z.
В некоторых случаях удобнее выражать 2Z через коэффициенты корре-
корреляции, которые определяются как
•и-
Тогда подстановка (П8.1.5) в выражение (П8.1.3) приводит к
(П 8.1.5)
(П8.1.6)
где Г =
oru 0 ... О
О а22 ... О
6 "о" '."'"'
JNN.
-rN\ rN2
Ч N
r2N
Г
Матрица R называется корреляционной матрицей.
Частный случай. Если 22 соответствует случайному процессу, стационар-
стационарному в широком смысле, то она имеет вид
С>о
Os-i
\
\
\
Go
\
\
\
Оо -• Vs-з
(П8.1.7)
JL'.v-i {?.v-2 Рл-з
Очевидно, что 2Z в (П8.1.7) полностью определяется любой из ее строк или
столбцов. Это связано с тем, что любой элемент ац матрицы 2г определяется
как
,PU = p ;*\/ = 1,2, . . .,N. (П8.1.8)
179

ЗАДАЧИ
8.1. Если дано Х/=(дс1дс2... xd]\ V/=[y1u2... vd] и
ап а12 . . ми'
А =
докажите, что
а)
б) уд (х' а' v> = vx'-
8.2. Пользуясь выражениями, начиная с (8.2.3), выведите выражение
(8.2.4) с помощью соотношения Т'Т = 1.
8.3. Пусть Т матрица преобразования, элементами которой являются та-
такие комплексные числа, при которых (Т*)'Т=1. При этом определение матри-
матрицы (8.2.3) изменяется следующим образом:
= Е {(F -Л5) [(F-ЛГП - Е {(F -F) [(F*)' -J?*)']},
где F* — вектор-столбец, комплексно-сопряженный F. С помощью введенных
выше соотношений докажите, что (8.2.4) превращается при этом в 22=122A*)',
где 2Z определяется из (8.2.1).
8.4. Пусть е=Х—X — случайный вектор размером 2, при котором
Le12J
Покажите, что
tr{E[(X_X)(X-X)']}=
k=\
8.5. С помощью X=T'ATZ и выражений (8.3.11) и (8.3.12) выведите выра-
выражение (8.3.19), т. е. покажите, что
Е {XX'} = Е { XX'} = S Т'А'ТиЕ {XX'} = Г AT У
шЯЛХ Jem X *
8.6. Пусть дана матрица преобразования
а) Убедитесь, в том, что она ортонормирована, т. е. Т'Т=1.
б) Если Q = п | , то покажите, что
L£21 ^22J
tr (Q) = tr (TQT') = qil+gn. (П 8.6.1)
В более общем виде выражение (П8.6.1) можно записать в виде теоремы: если
Q — действительная симметрическая матрица, а Т — такая, что Т7Т=1, то
tr(Q) = tr(TQT'), (П 8.6.2)
т. е. след матрицы Q инвариантен по отношению к ортогональным преобразо-
преобразованиям. ^
8.7. Из выражения (8.3.3) известно, что 22 = Т22Т'.
а) Докажите, что 22=Г22Т. (П8.7.1I
18С

б) С помощью выражений, начиная с (8.3.20), выведите выражение (8.3.22)v
Примечание. Пользуйтесь выражениями (П8.7.1), (П8.6.2) и (8.3.15).
8.8. Собственные значения матрицы
равны Xi=(a+P) и Х2=(а—Р), докажите, что соответствующие нормирован-
нормированные векторы равны
Q=
8.9. Пусть дана симметрическая матрица
1 — 1 0 0'
—1 2—1 0
0—1 2—1
0 0—1 1
4
Докажите, что tr(Q)=6=2 ta> гДе ^г — собственные значения Q.
Ответ. Xi = 0; Х2 = 2\ %3 = 2+ "l/^T А,4 = 2— У~2.
Примечание. В общем случае для действительной симметрической матрицы
Q размером (NxN) с собственными значениями Хг, i=l, 2, ..., N, справедливо'
выражение
N
U- (П8.9.1)»
ГЛАВА 9
Сжатие данных
Важной областью применения ортогональных преобразований является сжатие*
данных. Сжатие данных основывается на теории представления сигналов, кото-
которая рассматривает методы эффективного представления сигналов данного клас-
класса (или классов). Если дискретный сигнал содержит N отсчетов, то его можно
рассматривать как точку Af-мерного пространства. Тогда каждый отсчет являет-
является координатой Af-мерного вектора данных X, который представляет собой
сигнал в этом пространстве. Для более эффективного представления можно
осуществить ортогональное преобразование X, что приводит к Y=TX, где Y
и Т — вектор коэффициентов преобразования и матрица преобразования соот-
соответственно. Целью сжатия данных является выбор подмножества М коорди-
координат вектора Y, где М существенно меньше N. Остальные (N—М) координат
можно отбросить, не вызывая существенной ошибки при восстановлении сиг-
сигнала по М координатам вектора Y. Следовательно, сравнивать ортогональные'
преобразования следует в соответствии с некоторым критерием ошибки. Од-
Одним из часто используемых критериев является критерий среднеквадратичной
ошибки.
Естественным следствием приведенных выше соображений является сжа-
сжатие данных, заключающееся в том, что представление сигнала можно исполь-
использовать для уменьшения количества избыточной информации. Поэтому в пер-
первую очередь рассмотрим представление сигналов с помощью ортогональных
преобразований. После этого рассматривается сжатие данных, которое будет-
проиллюстрировано на примерах обработки электрокардиограмм и обработки1
изображений.
181;

"9.1. Поиск оптимального преобразования
Найдем ортогональное преобразование, которое, с одной стороны,
будет обеспечивать представление сигнала, а с другой стороны,
будет оптимальным в смысле среднеквадратичного критерия. Пусть
I — ортогональное преобразование, заданное в виде
Т'= [?!?, • • .Ы. (9.1.1)
где ф — есть iV-векторы. Для удобства базисные векторы {фт} бу-
будем считать вещественнозначными и ортонормированными, т. е.
Для каждого вектора X, принадлежащего к данному классу век-
векторов исходных данных, получаем
Т-ТХ, (9.1.3)
где Х/ = [х{х2. . . xN] и Y/ = [t/i«/2- • • Ум]. Из выражений (9.1.1) и (9.1.2)
следует, что Т/Т=1 и, следовательно, Х = Т/¥=[ф1ф2... ф^^, что
можно записать как
/,*,. (9.1.4)
Желательно сохранить подмножество {у\У2- ♦ . Ум) координат Y и
при этом получить оценку X. Это может быть осуществлено заме-
заменой остальных ;V—М координат Y заранее выбранными константа-
константами Ь.и что приводит к
М N
^(M) = 2 Уг<?1+ Ц b%yif (9.1.5)
где Х(М) обозначает оценку X. Ошибку, возникающую при отбра-
отбрасывании N—М координат, можно представить в виде АХ = Х—
—Х(М), где АХ — вектор ошибки, т. е.
М N
bi4i. (9.1.6)
Из выражений (9.1.4) и (9.1.6) следует, что
N
АХ= 2 iyt-bdti. (9.1.7)
t=M+l
Таким образом, среднеквадратичная ошибка г(М) определяет-
определяется в виде
«(Л4) = Е.{||ДХ||») = Е.{(ДХ)'(ДХ)>. (9.1.8)
182

Подстановка (9.1.7) в (9.1.8) приводит к
{N N
I £ (у,-*|)(&-&у)?'«
i=M+l j=M+l
что в упрощенном виде можно записать как
г(М)= V ЕЦу.-Ь^}. (9.1.9)
Из выражения (9.1.9) следует, что для каждого выбора ф* и Ь\ по-
получаем определенное значение г{М). Требуется определить такую
комбинацию этих величин, чтобы минимизировать г(М). Проце-
Процедура выбора оптимальных Ь\ и фг разбивается соответственно на
два этапа.
Первый этап. Оптимальное значение Ьл определяем из вы-
выражения
^6Л= -2[E{yt}-bt] = 0,
что приводит к
bi = E{yi}. (9.1.10)
Затем из выражений (9.1.2) и (9.1.4) получаем
У1 = ЧР'|Х. (9.1.11)
Таким образом, Ь^ф'гЩХ} =ф'Д, где Х = Е{Х}. Так как разность
(t/i—b,i) в (9.1.9) является скалярной величиной, то г(М) можно
записать как
г(М)= У] E{yl-bi)(yi-bi)'}. (9.1.12)
i=M+l
Подстановка г/г^ф^Х и Ь1г = ф/Д в выражение (9.1.12) приводит к.
N
i=M+l
Так как 2^ = E{(X—X) (X—XO} является ковариационной матри-
матрицей X, получаем
Второй этап. Для нахождения оптимального ф* следует не
только минимизировать г(М) по отношению к <р*, но и удовлетво-
удовлетворить ограничению ф/гфг=1. При этом воспользуемся методом мно-
множителей Лагранжа 1 и минимизируем
1 Краткое обсуждение метода множителей Лагранжа приведено в прило-
приложении 9.1.
183

N
i=Af+l
(9.1.14)
'по отношению к <р*, где p* — множители Лагранжа. Можно пока-
показать, что (см. задачу 9.1)
Таким образом, из выражения (9.1.14) получаем
что приводит к
По определению выражение (9.1.15) означает, что срг- — собст-
собственный вектор ковариационной матрицы 2Х, а р* — соответствую-
соответствующее i-e собственное значение. Обозначая р* через А,г- и подставляя
(9.1.15) в (9.1.13), получаем минимальное значение среднеквадра-
среднеквадратичной ошибки в виде
*Мп(М) = £ V (9.1.16)
Таким образом, разложение, записанное в (9.1.4), представляет
собой разложение по собственным векторам ковариационной мат-
матрицы. Это разложение называется разложением Карунена—Лоэва.
Векторы фг, которые образуют Т в (9.1.1), являются собственными
лекторами 2Х. Поэтому преобразование Y = TX называется преобра-
преобразованием Карунена—Лоэва (ПКЛ). Напомним, что ПКЛ уже упо-
упоминалось в § 8.5.
В литературе по статистике задача минимизации е(М) назы-
называется факторным анализом или анализом главных компонент1.
Из приведенного выше рассмотрения можно сделать два важных
вывода:
1. Преобразование Карунена—Лоэва является оптимальным
преобразованием для представления сигналов по отношению к кри-
критерию среднеквадратичной ошибки.
2. Поскольку Y = TX, то ковариационная матрица в области
изображений 2У определяется как [см. выражение (8.2.4)]
= Т V Т" = Т\ Г
jLJx ^dx
1 В математической статистике метод главных компонент был впервые
предложен Хотеллингом ,[Д19]. Поэтому рассмотренное выше дискретное пре-
преобразование Карунена—Лоэва иногда называют также преобразованием Хо-
теллинга (см. (Д21]). (Прим. перев.)
184

Так как Т состоит из собственных векторов 2*, то [см. выражение*
(8.5.1)]
^2, . . m9XN), (9.1.17),
где хи i= 1,2,. .., N — собственные значения 2Х. Так как 2У — диа-
диагональная матрица, то приходим к выводу, что координаты векто-
вектора преобразованных данных у\ в выражении (9.1.11) некоррелиро-
некоррелированны.
9.2. Дисперсионный критерий и распределение дисперсии [1]
Из выражения (9.1.16) следует, что эффективность коэффициен-
коэффициента преобразования у\ для представления вектора данных X опре-
определяется соответствующим ему собственным значением. Если;
коэффициент ук не учитывается, то среднеквадратичная ошибка,
увеличивается на соответствующее собственное значение А/^. Таким
образом, необходимо выбрать множество уи соответствующее М
наибольшим собственным значениям, а остальные yi отбросить^
так как их можно заменить константами ft,*, i = M+ I,..., N*.
Так как собственные значения являются элементами 2У, стоя-
стоящими на главной диагонали, то они соответствуют дисперсиям-
коэффициентов преобразования у\, г= 1,2,..., N. Для всех осталь-
остальных преобразований 2У содержит ненулевые внедиагональные эле-
элементы. Поэтому естественным критерием при выборе множества,
сохраняемых коэффициентов преобразования является сохранение-
М коэффициентов с наибольшими дисперсиями, а остальные
(N—М) коэффициентов можно отбросить. Приведенный выше кри-
критерий выбора коэффициентов преобразования определим как дис-
дисперсионный критерий.
Графическим представлением дисперсионного критерия являет-
является график дисперсий коэффициентов преобразования, где диспер-
дисперсии расположены в порядке убывания и нормированы к следу 1
матрицы See или 2У. Нормировка производится потому, что отно-
отношение дисперсии к сумме дисперсий (т. е. следу) дает меру (в про-
процентах) среднеквадратичной ошибки, возникающей при отбрасы-
отбрасывании фг IB (9.1.4). Такой график называется графиком распреде-
распределения дисперсии. На рис. 9.1 приведено распределение дисперсии,
связанное с четырьмя различными преобразованиями. Площадь,
ограниченная каждой кривой для заданного числа коэффициентов,
преобразования, является мерой энергии, содержащейся в этих.
коэффициентах. Общая площадь, ограниченная каждой кривой,,
равняется единице в результате нормировки на след. Например,,
при сохранении 20 коэффициентов из рис. 9.1 следует, что преоб-
преобразования упорядочиваются по эффективности следующим образом.
*
Так как 6* = ф'*лГ, то остальные г/г-, i=M+l, ..., N, можно приравнять
нулю, если исходные данные предварительно центрированы, т. е. Х=О.
1 След матрицы инвариантен относительно любого ортонормированного-
преобразования (см. задачу 8.6).
185»

Преобразование 4>преобразования 2> преобразования 3> пре-
преобразования 1.
Выше предполагалось, что X принадлежит к одному класса
сигналов, но все рассуждения легко распространяются
о
X
О 10 20 30 40 50 60
Коэффициенты
Рис. 9.1. Распределение дисперсии
90 100
ко классов. Отличие заключается в том, что базисные векторы длг
соответствующего ПКЛ являются собственными векторами обще£
матрицы 2*я, а не Sx. Матрица 2** определяется как
(9.2.1
где К — число классов сигналов, а 2Я£ —ковариационная матрица
1-го класса с априорной вероятностью.
Ниже, на примере обработки электрокардиограмм, будет пока-
показано, как распределение дисперсий используется для сжатия дан-
данных.
9.3. Сжатие электрокардиограмм [2]
Прежде чем рассматривать задачу сжатия электрокардиограмм,
следует определить некоторые элементарные свойства сигналов,
поступающих от электрокардиографа.
Электрокардиограмма (ЭКГ) представляет собой результат из-
измерения активности сердца с помощью электрического сигнала.
Этот сигнал образуется в результате деполяризации и реполяриза-
ции клеток сердечной мышцы при ее сокращении и релаксации.
Измеряемый на клеточной мембране потенциал образуется в ре-
результате ионного градиента. Изменения ионного градиента связа-
186

ны с мышечной активностью сердца и записываются в виде ЭКГ'
(рис. 9.2).
Сердце является циклическим насосом. Цикл деятельности
сердца (систола, диастола, пауза) включает в себя нагнетание-
крови из желудочков в тело и легкие, а также возврат крови из
тела и легких в сердце. Правый и левый желудочки сердца — это-
камеры сердца, причем правый желудочек накачивает кровь с ма-
Рис. 9.2. Нормальная ЭКГ
лым содержанием кислорода в легкие, а левый посылает кровь,,
обогащенную кислородом, в тело. Приемными камерами являются
предсердия. Левое принимает кровь, обогащенную кислородом из
легких, а правое — кровь с малым содержанием кислорода из тела.
В большинстве случаев ЭКГ можно рассматривать как перио-
периодический сигнал, так как он генерируется за время цикла деятель-
деятельности сердца. Синусово-предсердный узел инициирует раздраже-
раздражение для сокращения сердечной мышцы. Раздражение распростра-
распространяется по предсердию, в результате чего оно сокращается, а затем
после небольшой паузы, требуемой для прохождения синусово-
предсердного узла, раздражение через перегородку передается в
желудочки, заставляя их сжиматься. Деполяризация предсердий
и желудочков выражается в виде Р волны и QRS цикла соответ-
соответственно, как показано на рис. 9.2. В процессе реполяризации эти
мышечные клетки после сокращения возвращаются в первоначаль-
первоначальное состояние. Реполяризация предсердий маскируется циклом
QRS, а реполяризация желудочков вызывает Т волну на ЭКГ.
Постановка задачи. Пусть ЭКГ (см. рис. 9.2) продискретизиро-
вана для получения вектора исходных данных Х' = [х\Х2.. .xN]. Так
как каждый отсчет хг хранится как одно слово в памяти, то для
хранения всей ЭКГ требуется N слов. Сжатие данных т : 1 озна-
означает, что число слов, необходимое для хранения одной ЭКГ, будет
равняться при этом N/m слов.
Ниже приводится пример сжатия ЭКГ, снятых у собак. Собаки
были выбраны из-за сходства их ЭКГ с ЭКГ человека. Это сходст-
сходство позволяет в дальнейшем распространить полученные методы на
ЭКГ людей.
Получение данных. Запись ЭКГ зависит от положения системы
регистрирующих электродов на теле. Известно несколько систем
расположения регистрирующих электродов при записи ЭКГ. При-
Принятая для настоящего исследования система называется стандарт-
стандартной и содержит три пары электродов (рис. 9.3).
18Г

Исходные данные подразделялись на два класса — нормальные
.ЭКГ и ЭКГ с отклонениями 1. Последние отражали дефекты же-
желудочков, как вызванные воздействием химических препаратов,
так и путем хирургического вмешательства. Полученные ЭКГ2
дискретизировались с частотой 400 отсчетов в секунду в предпо-
предположении, что ширина полосы частот ЭКГ равняется 200 Гц.
X Место подключения электрода
Рис. 9.3. Стандартная схема расположения трех элек-
электродов
Каждая дискретизированная ЭКГ представлялась в виде 128
•отсчетов. Отсчеты выбирались таким образом, чтобы всегда при-
присутствовал QRS цикл и Т волна. Таким образом, 128 отсчетов не
отражают всей ЭКГ, так как игнорируется Р волна. Полученные
цифровые данные изображались с помощью графопостроителя
CALCOMP в виде графиков, один из которых приведен на рис. 9.4.
Рис. 9.4. Нормальная ЭКГ, полученная с электрода № 1
Для изучения процедуры сжатия данных выбирались индивидуаль-
индивидуальные ЭКГ. Было отобрано 300 ЭКГ: 150 — нормальных, 150 — с от-
отклонениями.
Результаты эксперимента. Сжатие производилось путем ди-
дискретного косинусного преобразования для ЭКГ, снятой с помощью
одной пары электродов. Общая ковариационная матрица в обла-
1 Запись ЭКГ была произведена в ветеринарной больнице государствен-
государственного университета штата Канзас, Манхэттен, США под наблюдением доктора
Харриса из отделения хирургии и терапии.
2 Оцифровка ЭКГ и дальнейшая обработка проводились на факультете
электротехники и в вычислительном центре государственного университета
штата Канзас.
188

сти сигналов вычислялась как [см. выражение (9.2.1)] в предполо-
предположении, что Pi = P2=l/2:
(9.3.1)
где 2^ и 2*2 —соответственно ковариационные матрицы класса
нормальных ЭКГ и класса ЭКГ с отклонениями. При вычислении
2*я было использовано 150 нормальных ЭКГ и 150 ЭКГ с откло-
отклонениями. Соответственно ковариационная матрица в области пре-
преобразований определялась как
Г'. (9.3.2)
Распределение дисперсии, получаемое в результате вычисления
Л*х, показано на рис. 9.5. Из этого рисунка следует, что распреде-
распределение дисперсии дискретного косинусного преобразования почти
0,36р
0,30
I
I 0,24
0,18
|о.12
О
т
п
Д
Г
ождестЕ
реобраз
КП
1КЛ
зенное
ование
0,06
0 30 45 60 75 90 105 120 130
Коэффициенты
Рис. 9.5. Распределение дисперсии при тождественном преоб-
преобразовании, ДКП и ПКЛ
совпадает с соответствующим распределением для ПКЛ, которое
соответствует собственным значениям 2**. Почти вся энергия сиг-
сигнала содержится в основном в 45 из 128 коэффициентов дискрет-
дискретного косинусного преобразования и ПКЛ, в то время как энергия
распределяется почти равномерно по всем 128 коэффициентам.
Поскольку энергия сигнала в основном заключена в 45 из 128 ко-
коэффициентов дискретного косинусного преобразования, сжатие дан-
данных можно выполнить в соотношении 3:1.
Для сжатия в соотношении 3 : 1 выбираются 43 коэффициента
дискретного косинусного преобразования, соответствующих наи-
наибольшим по величине диагональным членам 2*х. В табл. 9.3.1
приведены отобранные коэффициенты дискретного косинусного пре-
189

Таблица 9.3.1
Коэффициенты ДКП с наибольшей дисперсией,
использованные при сжатии данных
У( 1)
У( 6)
У A1)
У A6)
У B1)
У B6)
У C1)
У C6)
У D1)
У B)
У( 7)
У A2)
У A7)
У B2)
У B7)
У C2)
У C7)
У D2)
У( 3)
У( 8)
У A3)
У A8)
У B3)
У B8)
У C3)
У C8)
У D3)
УD)
У( 9)
УA4)
У A9)
У B4)
У B9)
У C4)
У C9)
У( 5)
У A0)
У A5)
У B0)
У B5)
У C0)
У C5)
У D0)
образования, а па рис. 9.6 изображена структурная схема восста-
восстановления соответсп ующей ЭКГ по этим коэффициентам. Все коэф-
коэффициенты дискретно, о косинусного преобразования, кроме 43,
представляющих ЭКГ, приравни-
приравниваются нулю. Затем вычисляется
обратное дискретное косинусное
преобразование и результирую-
результирующая ЭКГ записывается с помощью
графопостроителя. Исходные ЭКГ
и ЭКГ, восстановленные по сжа-
сжатым данным, приведены на рис. 9.7
9.8 соответственно. Потеря инфор-
информации, связанная с использова-
использованием сжатия в соотношении 3 : 1
с помощью дискретного косинус-
косинусного преобразования, незначи-
незначительна. Процедуру сжатия в соот-
соотношении 3 : 1 можно осуществлять
с помощью преобразования Хаара
(рис. 9.9). Оставляемые 43 коэф-
коэффициента перечислены в табл.
9.3.2. Дисперсионный критерий и распределение дисперсии можно
эффективно использовать для сжатия данных. Общая структурная
схема сжатия данных такого типа приведена на рис. 9.10.
У A) = У A)
УB)=УB)
УC)=УC)
•
У D3)-У D3)
у D4) =0.0
У A28) =0,0
Обратное
ДКП
Само-
Самописец
Рис. 9.6. Восстановление
помощью ОДКП
данных с
Т а б л и d
[а 9.3.2
Коэффициенты ПХ
с наибольшей
Диагональные элементы
У( 1)
У( 8)
У B3)
У A2)
У D1)
У C8)
У( 3)
У( 7)
У B1)
У D9)
У E0)
У B7)
У( 2)
У( 9)
У B6)
У D6)
У C2)
У C7)
дисперсией, используемые
У( 4)
У B4)
У A5)
У D8)
У D5)
У( 6)
У A3)
У A6)
У (81)
У D0)
У A2)
У A0)
У A8)
У G3)
У B9)
при
Y
Y
Y
Y
Y
сжатии
( 5)
B5)
A4)
C6)
E1)
данных
Y A1)
YA9)
YB0)
YF7)
YC5)
190

Рис. 9.7. Исходные ЭКГ при 128 отсчетах:
а — нормальная; б — с отклонениями
Рис. 9.8. Восстановленные ЭКГ, соответствующие 43 коэффициен-
коэффициентам ДКП с наибольшими дисперсиями:
а — нормальная; б — с отклонениями
Рис. 9.9. Восстановленные ЭКГ, соответствующие 43 коэффициен-
коэффициентам преобразования Хаара с наибольшими дисперсиями:
а — нормальная; б — с отклонениями
191

Рассмотренный метод сжатия данных можно применять при
сжатии изображений, что будет рассмотрено ниже на нескольких
примерах. Но прежде поясним некоторые основные понятия.
Входной
сигнал
Преобразование Т
выборки
объема N
Выбрать (N/m)
коэффициентов
преобразования,
пользуясь дис-
дисперсионным
критерием или
распределением
дисперсии.
Остальные
коэффициенты
приравнять
нулю
Обратное
преобразование
1
Восстановленный
сигнал
Рис. 9.10. Модель для сжатия данных в соотношении т : 1
9.4. Основные понятия сжатия изображений
При цифровой обработке сигналов изображений обычно имеют
дело с большим количеством данных, которые в общем случае
сильно коррелированны по строкам и столбцам (рис. 9.11). Каж-
20
20
19
20
23
21
20
20
2!
15
16
15
13
И
12
15
19
17
20
20
23
15
13
15
15
21
23
21
14
п
12
13
21
19
20
2Р
18
Ш
16
13
М
19
18
16
14
12
12
12
19
21
21
19
20
г\
22
19
12
14
11
12
11
12
11
12
20
17
21
20
21
22
22 -
16
12
12
\\
12
13
15
13
12
20
19
21
19
20
16
15.
12
14
13
14
17
19
20
14
12
19
20
20-
19
15
15
13
15
14
19
18
22
22
22
13
15
20
20
21
21
16
22
13
17
15
19
20
2Z
22
20
13
19
21
20
21
24
21
21
,13
19
21
15
23
23
20
13
15
21
2Q
21
21
24
21
16-
15
20
21
20
23
21
22
16
17
21
19
19
21
24
20
16
16
21
22
25
21
23
21
17
20
24
20
22
21
24
23
21
20
21
24
26
21
23
21
19
20
24
21
21
20
20
23
23
22
22
22
25
20
19
21
21
14
18
21
21
20
19
21
21
22
25
21
24
23
16
16
20
13
13
20
21
21
18
20
21
21.
22
21
25-
23
16
15
15
13
13
21
20
21
19
20
21
21
21
19
20
18
19
20
15
15
15
Рис. 9.11. Массив изображения, закодированный с помощью шести-
шестиразрядного АЦПУ
дый элемент изображения обычно кодируется в виде слова, содер-
содержащего 6 бит. Таким образом элемент изображения можно пред-
представить десятичным числом от 1 до 64 или от 0 до 63 (т. е. 64 уров-
уровнями). Закодированные таким образом данные обычно обрабаты-
обрабатываются блоками размером (NXN), как показано на рис. 9.12.
Элемент изображения в i-й строке и /-м столбце можем пред-
представить в виде случайной величины f(i, /), а матрицу (NXN) слу-
192

чайных величин как (/(t,/)]. Тогда двумерное преобразование
[/(/,/)] и обратное преобразование можно записать как
IF (и, v)] = T[f(it j)]T и 1ПШ] = тШи&)]Р*
где [F(u, v)]—матрица коэффициентов преобразования, а Т—мат-
Т—матрица преобразования. Для простоты предположим, что Т является
матрицей с действительными элементами и Т'Т=1.
Обозначим через o2(t, /) и >a2(w, v) дисперсии /(*,/) и F(u9v)
соответственно. Если функция распределения дисперсии о2 (u, v)
неизвестна для изображения
или класса изображении, кото-
рые подвергаются преобразо-
ванию, ее получают обычно
моделированием [3]. Один
из подходов заключается в
том, что изображение описыва-
описывается статистически, как мар-
марковский процесс первого поряд-
порядка, а строки и столбцы обраба-
обрабатываются независимо. Предпо-
Предположим также, что дисперсия
каждого столбца и строки слу-
слуй 2
Ыстолбцов
NcTp0K
фрагментов
Рис. 9.12. Обработка
(NxN) изображения
чайных величин равняется а2.
Тогда ковариационные матрицы для строк и столбцов можно запи-
записать как [см. выражения (8.4.1), (П8.1.5) и (П8.1.6)]
Vt>
(9.4.1)
где Rh =
Рь
р!
{-I—
рл 1 рл
pi р* i
1
a pi и p2 — коэффициенты корреляции для строк и столбцов слу-
случайных величин соответственно.
Ковариационные матрицы в области преобразований, соответ-
соответствующие Sfc в выражении (9.4.1), записываются как
'J, 4-1, 2.
(9.4.2)
Затем вычисляется функция распределения дисперсии а2 (и, v) как
функция величин 2i(s, 5) и 2г($, s), которые являются диагональ-
диагональными элементами Si и 22 соответственно. На рис. 9.13 приведены
графики 2fe(sf 5)/a2 при N=16 и pi = p2=0,95 в порядке убывания.
Из рис. 9.13 следует, что дискретное косинусное преобразование
почти совпадает с ПКЛ, что также справедливо для двумерных
7—88
193

Дйсйерсий о2 (и, v). Функция распределения дисперсии а2 (и, v)
определяется как
о*2(и, и) =
2(v, v).
(9.4.3)
Определяя ®2(иу v) при N=16 и ipi = p = 0,9, получаем
матрицу, изображенную на, рис. 9.14, элементы которой вычисля-
вычислялись с точностью до двух десятичных знаков после запятой («—»
-4%
100
1
0,1
>,Q1
•
\
и—
\
—^Sc ^
/
-X ДКП ^
/
/ \
' /
^ -л
ДПФ
ПУА
5-X—
J ■
L
6 8 10
Коэффициенты
i?2
14 16
Рис. 9.!3. Распределение 2k(sf s)/a2 по коэффициен-
коэффициентам для различных преобразований
обозначает нули). Так как эта матрица симметрична, то приводит-
приводится только ее верхняя треугольная часть. Из приведенной матрицы
следует, что двумерные дисперсии в случае дискретного косинусно-
косинусного преобразования представляют собой функцию распределения
дисперсии, имеющую максимум в начале координат, обладающую
круговой симметрией и монотонно убывающую по величине по мере
увеличения пространственных частот.
194

07,72 28,89 11,91 6,92 3,42 2,27 1,66 1,27 1,03 0,86 0,74 0,66 0,60 0,56 0,63 0,«2
8,6 3,65 1,7 1,02 0,67 0,49 0,37 0,30 0f26 0^22 0,19 0,17 0,16 0л16 0,16
1,46 0,70 0,42 0,28 0,20 0,16 0,12 0,10 0,09 0,08 0,07 0,06 0,06 Of»
0,33 0,20 0,13 0,09 0,07 0,06 0,06 0,04 0,03 0,03 <уK Q.03 0,03
0Д2 0,08 0,06 0,04 0,03 0,03 0,02 0,02 0,02 0,02 0,01 0,0!
0л05 0,03 0,02 0,02 0,02 0,01 0,01 0,01 0,01 0,01 0,01
0,02 0,02 0,01 0,01 0,01 0,01 0,01 -
0,01 0,01 0,01 ~ -----
0я01 - ______
Рис. 9.14. Распределение двумерной дисперсии при ДКП
9.5. Примеры сжатия изображений
Предположим, что данное изображение (или класс изображе-
изображений) закодировано с помощью k бит на элемент. Тогда одна из
форм сжатия данных может быть выражена с помощью коэффи-
коэффициента 1 уменьшения бит т, который определяется как [4]
число бит в коде исходного изображения
число бит в коде преобразованного изображения
Рассмотрим простейший способ 2 реализация сжатия данных,
называемый зональным кодированием. Этот способ реализуется в
три этапа:
1. Получают двумерное преобразование данного изображения
путем его обработки блоками (NXN).
2. Из N2 коэффициентов преобразования сохраняют N2f(tn коэф-
коэффициентов, обладающих наибольшими двумерными дисперсиями
о2(и, v). Все остальные коэффициенты приравниваются нулю.
1 Коэффициент сжатия. (Прим. ред.)
2 Имеется в виду неадаптивный способ. (Прим, перев.)
7* 195

[♦»++•*tl44|44*41»»»«• ««♦♦•• I »4ll4t ♦♦»44И««44+» 1 »4««4»::* XX* ••.'
>•> 114411X4X44444 4t*t*t •* t •• eXXl>»'t'tiilMNtH :'»'tt »•*<>«>• (№•**«
♦♦♦♦♦♦♦♦!'♦H**»»m«»t• ••♦♦m»»»«**x»:
Iffffff ♦♦♦♦♦♦♦♦H**»m♦♦m»*x
» IH#»»iilft|I«I»iiiM-iiiii !—♦•>«■• •:!-U-»l-:<M«M:»Kk
'•• — «ШЕИЩ?*™**11"*1 «♦«'♦♦««ни* 'иксмшицко'-ми
*' ' '■МИШИ'"""»*1""'» 'tfin ♦«*»♦ • «♦♦Mt«»«»»"X»*«««"»X»:
НС«М>ММ^1Ш««««а«М1A1»!(Х»(х:' :<»•'. • »»X»i • • »»»+ияя»»»»ХХ И
♦'•,, •«!♦• •• t>4XX4
it ttit ♦♦«4t ■■• •:««|>(MM4i(MfU«MMMi«4MMMMa»> t°*>tf««t:: • i»mmxm«
»А<.4ич|«»(*1мч1«{а(> и. !.» H'"!.'HWMi4'fmtnii
i*4f»««i}M >'*444** tiffKMHXtmtftixxi^
g2umH::tx«:!;hbr.;tH!??tt
.... SS:::«I:i!:Jt:.JrW-ltt:T»
Pf"!U:*?«'»??Hia!4!!!?IIMjl!«''''!!-!?:t"!'t
. ♦if*i$♦■!№;
; «fUll«»i2
. *t»«H44M1
ixTiiuIxxf! "•fiii!'tiJin!,,t;:i
:|KWI«XXxx44t• .t»»xx»»4«»XX»«»*>-::
4»—-in i♦:*.♦♦-}>♦-2itXXXMX««4XlX»»t;
•■-•->»♦! *1хнм4ххч1>*кмЖм|М4ххх«>1:
[ИМЧХИКХИ^дМММХ- XX««XX«N
"■■И
Рис. 9.15а. Исходное изображение;
6 бит на элемент изображения
Рис. 9.156. Изображение после сжа-
сжатия с помощью ДКП; 1,5 бита на
элемент изображения
Рис. 9.15в. Изображение после сжа-
сжатия с помощью ПУА, упорядочен-
упорядоченным по Адамару; 1,5 бита на элемент
изображения
196

3. Каждый из N2lm сохраненных коэффициентов кодируется с
помощью k бит. Затем восстанавливается соответствующий (NxN)
блок с помощью обратного преобразования.
Так как кодируется только N2/m коэффициентов преобразова-
преобразования, а не N2 исходных элементов изображения для каждого (NxN)
блока, то среднее число бит на элемент восстановленного изобра-
изображения равняется k/m.
Первый пример связан с обработкой фрагмента F4x64) изоб-
изображения, полученного с борта спутника для исследований земных
ресурсов ERTS. Обработка изображения проводилась блоками
A6X16). После преобразования сохранялось 64 коэффициента с
наибольшими дисперсиями в соответствии с выражением (9.4.3).
Эти коэффициенты кодировались 6 битами, а затем изображение
восстанавливалось с помощью обратного преобразования. Исход-
Исходные и восстановленные изображения, содержащие 64 уровня (т. е.
6 бит), сводились к изображениям с 13 равновероятными уровня-
уровнями, печать осуществлялась с помощью АЦПУ и результат печати
фотографировался (рис. 9.15). На основе приведенных изображе-
изображений можно сделать следующий вывод: изображение, восстановлен-
восстановленное с помощью дискретного косинусного преобразования, в боль-
большей степени соответствует исходному изображению, чем восстанов-
восстановленное изображение, полученное с помощью ПУА, упорядоченным
по Адамару. С другой стороны, ПУА, упорядоченное по Адамару,
вычисляется быстрее и проще при аппаратурной реализации. Сле-
Следовательно, при заданном т выбор типа преобразования опреде-
определяется объемом вычислений, объемом требуемой аппаратуры и тре-
требованиями, предъявляемыми к качеству изображения.
Изображения, полученные при сжатии в соответствии со вто-
вторым примером, приведены на рис. 9.16. Каждый элемент исходного
изображения размером B56x256), представленного на рис. 9.16а,
кодировался 8 битами. На рис. 9.166—е показаны восстановленные
изображения при тл = 4. Обработка велась блоками 16x16. Так
как k = 8 и т = 4, то в восстановленных изображениях в среднем
приходится 2 бита на элемент.
9.6. Дополнительные соображения
Выше было показано, что дисперсионный критерий дает воз-
возможность предсказать относительное качество различных преоб-
преобразований при сжатии данных. В соответствии с дисперсионным
критерием сохраняется множество коэффициентов преобразования,
обладающих наибольшими дисперсиями, а остальные коэффициен-
коэффициенты не учитываются. Такой подход может быть также объяснен с
помощью функции степени искажения, связанной с базисно огра-
ограниченными (БО) преобразованиями. Понятие базисно ограничен-
ограниченного преобразования ввел Пирл [5, 6]. Такое преобразование (рис.
9.17) включает в себя преобразование Т, операцию Q (не обяза-
обязательно линейную), определенную на множестве коэффициентов
Преобразования уи i = 1,2,. .. , /V, и обратное преобразование Т.
8—88 197

Приведенная структура имеет очевидное ограничение, заключаю-
заключающееся в том, что Q действует на каждый коэффициент уи i =
= 1,2,..., N, отдельно. Например, при ?г(*/г) =<7г*/г БО преобразо-
преобразование сводится к скалярной винеровской фильтрации, которая рас-
рассматривалась в § 8.4. Если же Qi(yi)=yu *=1,2, ...,Af, и ^г(г/г) =0>
i = M+1,..., N, то БО преобразование соответствует модели сжа-
сжатия данных, изображенной на рис. 9.10.
По существу функция степени искажения определяет минимум
информации в битах, необходимый для такого кодирования коэф-
коэффициента преобразования, при котором среднее искажение меньше
или равно заданной величине D. Обычно стремятся распределить
искажение по всем коэффициентам так, чтобы число бит на коэф-
коэффициент (т. е. количество) было минимальным. Рассмотрим случай»
когда коэффициенты преобразования имеют нормальное распреде-
распределение, а искажение измеряется в соответствии с критерием средне-
198

Рис. 9.16. Примеры сжатия изобра-
изображения:
а — оригинал; 8 бит на элемент изо- :
бражения; б — ПКЛ; 2 бита на эле-
элемент изображения; в — ДКП; 2 бита
на элемент изображения; г— пило-
пилообразное преобразование; 2 бита на
элемент изображения; д — ДПФ;
2 бита на элемент изображения; е —
ПУА, упорядоченное по Адамару;
2 бита на элемент изображения; ж —
преобразование Хаара; 2 бита на
элемент изображения
квадратичной ошибки. Тогда, как показано в [5—7], функция степе-
степени искажения определяется из выражения
1=1
где R — минимальное количество бит на коэффициент преобразо-
преобразования; А; — 1-е собственное значение, если Т представляет собой
ПКЛ или f-й диагональный элемент ковариационной матрицы в
Области преобразований 2Х, если Т представляет собой любое дру-
другое преобразование, и 0 — параметр, удовлетворяющий равенству
N
(9.6.2)
199

На рис. 9.18 приведено несколько графиков функции степень
искажения 1 для марковского процесса первого порядка, ковариа-
ковариационная матрица которого 2* определяется выражением (8.4.1 ;
т
Y
Vn
•
A
Vi
л
1
Л
1
= 91
»g2
-gN
(У2)
(УМ)
Л
У
т-1
Рис. 9.17. Базисно ограниченное преобразование
при N=16 и р = 0,9 [8]. Например, если допустимый уровень иска-
искажений равен 0,3, то необходимое для кодирования коэффициентоь
данного преобразования количество бит таково, что
#(ПКЛ; 0,3)«#(ДКП; 0,3)<#(ДПФ; 0,3)<#(ТП; 0,3).
Приведенный выше результат можно интерпретировать качествен-
качественно следующим образом: тождественное преобразование (ТШ со-
ю
о 0,1
£ 0,01
О)
0,001
/
/
7>-
г7/
rt ДКП
.пкл
^ДПФ
/ м
/преобра:
зенное
ование
\ 1
1
^v^ 1
V 1
0,2
0,4
0,6
0,8
1,0
Рис. 9.18. Зависимость искажения от параметра D при
марковском процессе первого порядка; Л/= 16 и р = 0,9
1 Соотношение между нат и бит (см. рис. 9.18) следующее: 1 нат=1,<±<± ии.
200

храняет всю корреляцию в исходных данных; преобразование
ДПФ декоррелирует исходные данные, но не полностью; преобра-
преобразование ПКЛ декоррелирует исходные данные полностью, а дис-
дискретное косинусное преобразование очень близко в этом отношении
к ПКЛ. Таким образом, декорреляция с помощью преобразований
приводит к значительно меньшим искажениям, чем непосредствен-
непосредственное кодирование данных, состоящих из некоррелированных отсче-
отсчетов.
9.7. Заключение
В данной главе показано, что ортогональные преобразования
можно использовать для сжатия данных. Основная идея заклю-
заключалась в отбрасывании коэффициентов преобразования с относи-
относительно небольшими дисперсиями. Рассматривались примеры сжа-
сжатия одномерных и двумерных массивов данных. Показано, что
ПКЛ является оптимальным преобразованием для сжатия данных
по отношению к критерию среднеквадратичной ошибки. Дисперси-
Дисперсионный критерий рассматривался с помощью функции степени ис-
искажений.
В гл. 10 будет показано, что дисперсионный критерий можно
также использовать при выборе признаков и распознавании обра-
образов.
ПРИЛОЖЕНИЕ 9.1
Множители Лагранжа [9]
Методом множителей Лагранжа, применяемым при оптимизации функции
от п переменных, воспользуемся при некоторых ограничениях, описываемых
ниже.
Необходимое условие того, что функция f(x\t л:2, ..., хп) от п независимых
переменных хь л:2, ..., хп имеет стационарное значение, определяется как
что эквивалентно п условиям
Т- = Т-= ...=^- = 0. (П9.1.2)
д хх д х2 д хп
Если некоторые из п переменных являются зависимыми, то метод множителей
Лагранжа наиболее эффективен при оптимизации функции. Пусть N из п пе-
переменных (N<Zn) зависимы и описываются как
Фк(*1,*2. • • .,*п) = 0,/С=1,2, . . .,N. (П9.1.3)
Тогда задача оптимизации f(xit x2f ..., хп) с N ограничениями, описанными в
(П9.1.3), сводится к оптимизации новой функции (без ограничений):
N
f(xltx2, . . .,*п) + 2 Р*Фя(*1.*2. • • -.*п), (П9.1.4)
к=\
где ря—множители Лагранжа. Необходимое условие того, что f(xitX2,...,xn)
с Af ограничениями, описанными выше, имеет максимум или минимум, запи-
записывается в виде
201

df
d<fK
:0,t=l,2,
n.
(П9.1.5)
Любые N из этих п уравнений можно решить по отношению к -Pi, (Зг, ..., Рлг,
которые затем можно подставить в оставшиеся п—N уравнений. Такая проце-
процедура приводит к необходимым условиям оптимизации f(xit x2t ..., хп) с задан-
заданными ограничениями.
ЗАДАЧИ
9.1. Докажите, что если 2— симметричная матрица и (pN — вектор, то
] = 2 £ Ф ; Уф [ф' ф] = 2 Ф.
9.2. Пусть ковариационная матрица класса сигналов, записываемых как
векторы размерностью 8, обозначена как 2Ж. Тогда дисперсии коэффициентов
преобразования задаются диагональными элементами ЕХ = Т2Х(Т*)/', где Т —
матрица преобразования, при которой Т(Т*)') = 1.
Предположим, что диагональные элементы 2Х данного класса сигналов
приведены в табл. П9.2.1. Укажите множество коэффициентов преобразования
i/fe, &=1, 2, ..., 8, которые следует сохранить для каждого из указанных преоб-
преобразований, если требуется сжатие данных в соотношении 2:1.
Таблица П9.2.1
Диагональные элементы
Диагональный
элемент #
1
2
3
4
5
6
7
8
пкл
6,203
1,007
0,330
0,165
0,104
0,076
0,062
0,055
ДКП
6,186
1,006
0,346
0,166
0,105
0,076
0,062
0,055
ДПФ
6,186
0,585
0,175
0,103
0,088
0,103
0,175
0,585
ПУА
6,186
0,088
0,246
0,105
0,864
0,103
0,305
0,104
пх
6,186
0,864
0,276
0,276
0,100
0,100
0,100
0,100
МПУА
6,186
0,088
0,176
0,176
0,344
0,344
0,344
0,344
9.3. Пусть фрагмент изображения размерностью Dx4) представлен в ви-
виде матрицы случайных величин
12 Л13 Л14
•31 ^32 ^33 <^34
Двумерное преобразование Уолша—Адамара с упорядочением по Адамару
массива X определяется как
где Y — матрица DX4) коэффициентов преобразования, и
B) :
11111"
1—1 1—1
1 1 — 1 — 1
1—1—1 1
202

С помощью некоторого данного фрагмента изображения были сосчитаны дис-
дисперсии коэффициентов преобразования уц и результаты представлены в виде
матрицы
0,000 0,370 2,240 0,664"
«„ = 0,635 0,976 0,035 0,155
2,55 0,183 0,925 0,135
1,055 0,095 0,407 0,232_
а) Вычислить двумерное ПУА с упорядочением по Адамару для фрагмен-
фрагмента DX4):
0 19 21 19
20 17 19 21
19 20 20 21
_20 20 20 19
б) Сохранить 25% коэффициентов в массиве Yi с наибольшими диспер-
дисперсиями в соответствии с оу. Положить остальные коэффициенты равными нулю
и восстановить исходный фрагмент с помощью обратного ПУА с упорядоче-
упорядочением по Адамару.
Ответ.
19,250 19,250 19,875 19,875'
19,125 19,125 19,750 19,750
19,50 19,50 20,125 20,125
.19,625 19,625 20,250 20,250.
Примечание. Вместо N2 элементоз исходного изображения можно хранить
JV2/4 коэффициентов преобразования, соответствующих наибольшим диспер-
дисперсиям. При этом осуществляется сжатие данных в соотношении 4:1. Такой
метод сжатия данных описывается в выражениях коэффициента уменьшения
выборки га, определенного в [4] как
172 =
число элементов исходного изображения
число элементов массива коэффициента преобразования
9.4. Диагональные элементы Sx = TSa:T/ приведены в табл. П9.4.1 для слу-
случая, когда Их определяется выражением (8.4.1) при JV=16 и 8 = 0,9.
Таблица П9.4.1
Диагональные элементы 2Ж
Диагональные
элементы
1
2
3
4
5
6
7
8
тп
1,0
1,0
1,0
1,0
1,0
1,0
1,0
1,0
ПУА
9,835
0,78
0,206
0,105
0,7С6
0,103
0,307
0,104
пх
9,835
2,537
0,864
0,864
0,276
0,276
0,276
0,276
МПУА
9,835
0,078
0,155
0,155
0,305
0,305
0,305
0,305
Диагональные
элементы
9
10
11
12
13
14
15
16
тп
1,0
1,0
1,0
1,0
1,0
1,0
1,0
1,0
ПУА
2,536
0,098
0,283
0,105
1,020
0,102
0,303
0,104
пх
0,100
0,100
0,100
0,100
0,100
0,100
0,100
0,100
МПУА
0,570
0,570
0,570
0,570
0,570
0,570
0,570
0,570
а) Вычислите соответствующие функции степени искажения R(T, D) с
помощью (9.6.1).
б) Изобразите полученные результаты на бумаге с логарифмическим мас-
масштабом по оси ординат (см. рис. 9.18).
203

ГЛАВА 10
Выбор признаков и распознавание образов
10.1. Введение
Распознавание образов включает в себя две основные области
исследования: 1) выбор признаков и 2) создание классификато-
классификаторов образов, что в общем виде показано на структурной схеме
рис. 10.1. Через x(t) обозначается сигнал, принадлежащий одно-
x(t)
Дискре
тизатор
хB)
х N '
Отбор признаков
Ортогональ
ное преобра
зование
УA)
У B)
V(N)
Понижение
размерности
Zi
ZM
i
Обучаемый Решение
классы
фикатор
x(t,.C,
Рис. 10.1. Система распознавания образов
му из К классов Си С2, ..., Ск. Дискретизация приводит к после-
последовательности данных
{Х(т)) = {ХA)ХB) . . .X(N)}f
которую можно представить как Af-вектор. На первом этапе вы-
выбора признаков осуществляется ортогональное преобразование.
Различные ортогональные преобразования были рассмотрены в
гл. 3—7. Так как такие преобразования обеспечивают взаимно
однозначное отображение, то последовательность коэффициентов
преобразования
также представляет собой N-вектор. Обычно N бывает достаточ-
достаточно велико. Интуитивно можно предположить, что по мере умень-
уменьшения числа входов классификатора его расчет и реализация уп-
упрощаются. Таким образом, вторым этапом выбора признаков яв-
является понижение размерности, после чего получаем подмножест-
подмножество М признаков zu z2, —, zM из {Y(m)}t так что M<^N\ Понижать
размерность следует таким образом, чтобы сопутствующее этому
увеличение ошибки классификации была относительно невелико.
Вектор Z/=[zlz2...zM] называется образом или вектором образа.
Классификатор, изображенный на рис. 10.1, является решаю-
решающим устройством, которое обучается с целью классификации
входного сигнала x(t), принадлежащего к одному из К классов.
Классификаторам образов посвящена обширная литература
[1-7].
Основная задача настоящей главы заключается в том, чтобы
показать, как дисперсионный критерий (развитый в предыдущей
главе) может быть использован для понижения размерности при
204

сравнительно небольшом увеличении ошибки классификации. Эта
будет показано на примере нескольких частных случаев. Предва-
Предварительно необходимо ознакомиться с простейшими алгоритмами
классификации и их реализацией. В основном будут рассматри-
рассматриваться классификаторы образов, построенные по критерию ми-
минимума расстояния.
10.2. Принцип обучения
Принцип обучения наилучшим образом можно объяснить с по-
помощью простого примера. Предположим, что желаем обучить
классификатор автоматически классифицировать образ Z, при-
принадлежащий либо классу Cj либо Сг. Предположим также, что
обучающее множество (т. е. множество, истинная классификация
которого известна) состоит из следующего множества двумерных
образов 2ц, где Ъц обозначает /-й образ, принадлежащий С{, £ =
= 1, 2:
=[s]; Zl3=[e]; Zl4=[?]; Zl5 = [s];
J ; Z23 = [ 3J; Z24=l J^ |
A0.2.1)
Образы {Zij}, принадлежащие классам Ci и С2, располага-
располагаются в двумерном пространстве признаков, как показано на рис.
10.2. Пусть Ъх и Z2 — средние векторы образов, связанные с С! и
I rz
Рис. 10.2. Двумерное пространство признаков
20S

С2 соответственно. Тогда
5
2, = -^J]zl/f i=\t 2, A0.2.2)
что дает
— 2
3
Из рис. 10.2 видно, что наиболее целесообразной решающей
границей (т. е. линией на плоскости), разделяющей классы Сх и
С2, является срединный перпендикуляр к прямой, соединяющей Zi и
Z2. Следующим шагом является описание предлагаемой решаю-
решающей границы с помощью уравнения.
Рассмотрим любую точку Z, принадлежащую решающей грани-
границе, как показано на рис. 10.2. Так как решающая граница яв-
является срединным перпендикуляром к прямой, соединяющей
Zi и Z2, то ||Z—Zi||2 = ||Z—Z2||2; это в более простом виде можно
записать как
(Z1-Z2)'Z=^{||Z1||2-||Z2|r}. (Ю.2.3)
Подставляя Z/=[e1e2] и выражение A0.2.2) в выражение
A0.2.3), получаем уравнение для решающей границы в виде
8z1 + 2,6z2 = 27,18. A0.2.4)
Величина 0,5(||Zi||2—||Z2||2) =27,18 называется порогом классифи-
классификатора. Уравнение A0.2.4) дает всю информацию, необходимую
для создания классификатора. Основной характеристикой, пред-
представляющей классификатор, является дискриминантная функция
g(Z), которая определяется как
g{Z) = 8z1 + 2,6z2—27,18. A0.2.5)
Следует задать вопрос, «что в действительности делает g(Z)?».
Чтобы ответить на этот вопрос, рассмотрим несколько испытатель-
испытательных образов (т. е. образов, точная классификация которых неиз-
неизвестна), которые обозначим как Z&, k=l, 2, 3, 4 (см. рис. 10.2).
Вычислим теперь значение g(Z) для каждого из испытательных
образов:
= 8C) + 2,6(8)-27,18>0;
= 8(-2) + 2,6G)-27,18<0;
= 8C) + 2,6C)-27,18>0;
= 8B) + 2,6(l)-27,18<0. A0.2.6)
206

Рассмотрение выражения A0.2.6) приводит к выводу, что
когда образ Z лежит «справа» от решающей границы, то g(Z) >0, и
наоборот, когда образ лежит «слева» от решающей границы, то
g(Z)<0. Все точки, лежащие справа (или с положительной сто-
стороны) от границы, ближе к Zb а точки, лежащие слева (или с
отрицательной стороны) от границы, ближе к Z2. Таким образом,
благодаря дискриминантной функции g(Z), получаем следующее
простое решающее правило:
если#(г)>0, то ZeCx
и
если g(Z)<0, то ZgC2.
Описанный выше классификатор, называемый элементом ли-
линейной пороговой логики, реализуется, как показано на рис. 10.3.
Термин «линейный» означает, что g(Z) является линейным функ-
функционалом признаков z{ и z2.
2.6
, , л , Выход =+1 =>ZeC1
Выход = -1
27.18 I Пороговый элемент
Рис. 10.3. Элемент линейной пороговой логики
Обучающее множество образов используется для создания
классификатора, который получается после вычисления дискри-
минатной функции g{Z). Получив дискриминатную функцию g(Z),
говорят, что классификатор обучен, т. е. способен классифициро-
классифицировать образы с помощью соответствующего решающего правила.
Элемент пороговой логики является классификатором, рабо-
работающим по критерию минимума расстояния, так как решаю-
решающее правило может быть сформулировано также следующим об-
образом:
если Z ближе к Zb то
и _
если Z ближе к Z2, то Ze C2.
10.3. ^-мерные образы
Рассмотрим элемент линейной пороговой логики, на который
воздействует (dxl) образы, где d>2. В этих случаях Z имеет
вид Z'=[zxz2...Zd\. Соответствующая дискриминантная функция
записывается как
207

где Wi — веса или параметры классификатора, а 0 — порог. Веса
Wi и 0 получаются из обучающего множества. Границей в этОхМ
случае является гиперплоскость, определенная как
g(Z) = 0. A0.3.2)
В частном случае при d=3 эта гиперплоскость сводится к плос-
плоскости. Описанный выше классификатор реализуется, как показа-
показано на рис. 10.4.
Wi •
-IO-
Рис. 10.4. Линейный элемент пороговой логики для d-мерных образов
10.4. Задача трех классов
В предыдущих двух параграфах рассматривались основные
аспекты так называемой задачи двух классов. Распространим те-
теперь эти понятия на более общий случай трех классов: d, Сг и Сз-
Пусть обучающее множество записывается как
= [°]; Z12 =
Z16 =
Z35=
Из выражения A0.4.1) следует, что средние векторы образов рав-
равны
они изображены на рис. 10.5. Классификатор, работающий па
минимуму расстояния, имеет следующее решающее правило: дан-
данный образ Z принадлежит Cif если Z ближе всего к Zh i=l, 2, 3.
Пусть Di обозначает расстояния образа Z от Z*, {=1, 2, 3. Тог-
Тогда получаем (см. рис. 10.5)
Z>H|Z-Zf||2 =(Z-"Z;)'(Z-"Zi).
208
A0.4.2)

Упрощение D2{ приводит к
A0.4.3)
Очевидно, что D2i минимально, когда величина {Z^Z— — ||Z<||2}
максимальна. Поэтому вместо вычисления D2i по A0.4.3) проще
- Z-Z«
У I I I L-
Z-Z,
\
/VV-J1.J
-5 -4 r-3 -2 -1 0
-1
1 2 3 4. 5 6^7/8 9 10 Z
15/
Рис. 10.5. Двумерное пространство признаков, связанное с
Си С2 и С3
потребовать, чтобы в классификаторе вычислялось значение
{Z^Z—O^IIZ^II2}. Классификатор в этом случае описывается дис-
криминантными функциями
gi(Z) = %Z--L\\Zi\\\ i=lf 2, 3.
Подстановка численных значений Z^ и
gx(Z) = —гг^Зга —6,5;
5,6z2—33,68;
A0.4.4)
приводит к
Таким образом, классификатор вычисляет три числа:
§(Z) и §(Z), как показано на рис. 10.6, и затем сравнивает их.
Классификатор относит Z к классу Сь если g"i(Z) максимально,
к классу С2, если g2(Z) максимально, и к классу С3, если ёГз (Z)
максимально. Реализация общего линейного классификатора, ра-
работающего по минимуму расстояния для случая К классов, по-
показана на рис. 10.7.
209

-Ю
Рис. 10.6. Классификатор для трех классов образов, работающий по критерию
минимального расстояния
(Z)
.i6opa I
ксима Г
»ного I
зчения_|.
льного I 2<?С|0,если
3Ha4eHMRjmax{gi(Z))=g.0(Z)
i
(Z)
Рис. 10.7. Классификатор для /С классов образов, работающий по критерию
минимального расстояния
10.5. Эксперимент по классификации изображений
Интересный эксперимент, проведенный Эндрюсом [7, 8], за-
заключался в распознавании цифр, принадлежащих к десяти клас-
классам (/С= 10), что соответствует цифрам от 0 до 9. Цифры запи-
записывались от руки, а затем оцифровывались растром A6x12) с
210

восемью уровнями серого. Пример распечатки, полученной с
АЦПУ, приведен на рис. 10.8. Эта информация представлена в
виде вектора, имеющего 192 отсчета. Для облегчения вычислений
каждый из этих векторов дополнялся нулями до вектора размером
256 (см. рис. 10.1):
• .ХB56)].
Процедура выбора признаков. Общая ковариационная матри-
матрица вычисляемся как [см. выражение (9.2.1)]
2*10> <1а5Л>
где 2Х —ковариационная матрица fe-ro класса; Р^ — априорная
вероятность класса Ck, которая предполагалась равной. 1/10. Рас-
Распределение дисперсии, вычисленной с использованием 2*х, пока-
зано на рис. 10.9 (на графике изо-
изображены только 100 первых со-
составляющих). Если через Y = TX
обозначить вектор коэффициен-
коэффициентов преобразования Y' =
= [УA)УB)...УB56)], то очевид-
очевидно, что энергия для тождественно-
тождественного преобразования (соответству-
(соответствующая площади, ограниченной
каждой кривой) распределяется
по значительно большему числу
коэффициентов преобразования,
чем при других преобразованиях.
В соответствии с дисперсионным
критерием в качестве признаков
выбираются М коэффициентов с
наибольшими дисперсиями. Такая"
процедура позволяет получить
множество образов, каждый из
которых обозначается как Z'=
= '[ZiZ2 ... Zm] •
Соображения по классифика-
классификации. Для распознавания приме-
применялся классификатор на 10 клас-
классов, работающий по критерию ми-
минимума расстояния, дискрими-
нантные функции такого класси-
классификатора записываются в виде
2'
2
1
1
4
4
6
5
5
5
5
5
6
4
1
1
5
5
6
4
5
3
5
4
5
4
4
3
4
5
5
5
2
5
4
2
3
3
Э
3
5
5
3
3
4
2
2
1
6
6
6
6
7
6
7
б
б
в
6
6
5
в
Рис. 10.8. Четырехуровневое пред*
ставление цифры 4 [8]
ю.
A0.5.2)
где Zft— средний вектор образа для 6-го класса. Так как Z'=*
= \z\Zi ...2м], то k-я дискриминантная функция принимает вид
B) z2+ ■ ■ ■+и>кмгм—вк,к=1, 2, . . ./10,A0.5.3)
211

где Z'k=\[wh] wk2...whM] и 0/l = O,5||Z/l||2. Реализация такого клас-
классификатора показана на рис. 10.7.
Описанный выше классификатор обучался с помощью обучаю-
обучающей выборки, состоящей из 500 образов для каждого класса. На
Тождественное
— ~—- преобразование
ДПФ
i ПУА. упорядоченное
по Адамару
40 50 60
Коэффициенты
100
Рис. 10.9. Распределение дисперсии при различных пре-
преобразованиях [8]
рис. 10.10 изображен результат верной классификации в зависи-
зависимости от числа сохраняемых признаков. Приведенные результаты
были получены при классификации только обучающего множест-
100
Тождественное
„_ преобразован ие-
ПУА,
упорядоченное
поАдамару
ПХ
20 25 30
Число признаков
Рис. 10.10. Зависимость правильной классификации от числа
сохраняемых признаков (обучающее множество)
ва. Очевидно, что пространство признаков, соответствующее
ДПФ, обладает значительным преимуществом по сравнению с
пространством признаков, соответствующим тождественному пре-
преобразованию.
212

Описанный выше эксперимент был повторен для состоящего
из 500 образов испытательного множества, заменившего обуча-
обучающее множество, по которому определялись Zk из A0.5.2). Ре-
Результаты классификации при этом были обычно на 2—7% хуже,
чем результаты для обучающего множества (рис. 10.11); это
S
I
Тождественное
о — преобразование
х ДПФ
ПУА.
50
40
20 25 30 35
Число признаков
Рис. 10.11. Зависимость правильной классификации от числа
сохраняемых признаков (испытательное множество)
вполне естественно, так как средние векторы образов определя-
определялись не по испытательному множеству. Кроме того, ошибка клас-
классификации может возникать из-за относительно простого алго-
алгоритма классификации. Однако в данном случае важным являет-
является выбор признаков, а не процедура классификации. Из рис.
10.11 видно, что для получения 88% верной классификации число
сохраняемых признаков, необходимых для ДПФ, ПУА с упорядо-
упорядочением по Адамару и преобразования Хаара, должно равняться
25, 35 и 50 соответственно. Для достижения такой же верности
классификации в случае использования тождественного преобра-
преобразования потребовалось бы сохранить 120 признаков.
10.6. Метод отображения по методу наименьших квадратов
При обсуждении классификаторов, работающих по критерию
наименьшего расстояния, предполагалось, что классы образов в
пространству признаков группируются вокруг соответствующих
им средних Ъи 1=1, 2, ..., К. Однако во многих случаях такое пред*
положение не всегда является обоснованным. При этом классифи-
классификатор должен в первую очередь отображать образы в пространст-
пространство решений, в котором образы, принадлежащие Cif обязательно
группируются вокруг заранее выбранной точки Vu i—l, 2, ..., К.
Преобразование А, которое позволяет осуществлять это отобра-
отображение из пространства признаков в пространство решений, в об-
213

щем случае выбирается таким, чтобы общая среднеквадратичная
ошибка отображения была минимальной. Для классификации не-
некоторого образа этот образ сначала отображается в пространст-
пространство решений, а затем классифицируется как принадлежащий Cio ,
если он отображен ближе к точке Vi0. Классификатор такого ти-
типа относится к классификаторам с минимальным среднеквадра-
среднеквадратичным расстоянием, которые будут подробно рассмотрены в §
10.8. Введем отображение по методу наименьших квадратов, на
котором основываются классификаторы с минимальным средне-
среднеквадратичным расстоянием.
Рассмотрим множество Л1-мерных образов Z\p /=1, 2, ..., ЛЛ-,
которые должны отображаться в определенную точку в /(-мер-
/(-мерном пространстве, обозначаемую V'i= [v\V2... vK]. Найдем пре-
преобразование Л, которое отображает {Zid} в Уг- таким образом,
чтобы общая среднеквадратичная ошибка, вызываемая отображе-
отображением, была минимальной. Обозначим результат отображения
образа Zij через L\y Тогда соответствующий вектор ошибки
равен
е, = L,,—V, = AZfi—V,. A0.6.1)
Из выражения A0.6.1) следует, что общая среднеквадратич-
среднеквадратичная ошибка при отображении {Z^} и V* определяется как
7=1
Подстановка A0.6.1) в A0.6.2) приводит к
, Ni
ii
8=ж S{Z^ A'Az* ~2zo- A'v*+iiv* ii2}-
i=i
Так как А должно быть выбрано так, чтобы е было минималь-
минимальным, то оно получается в результате решения уравнения Vas — 0,
что приводит к
Из выражений (8.1.3), (8.1.7) и (8.1.8) следует, что
Применение приведенных выше тождеств к выражению A0.6.4)
приводит к
]^ <10-6-5)

что позволяет определить А как
L/=i J L/=i J
A0.6.6)
Рассмотрим пример. Пусть множество {2ц} имеет вид
A0.6.7)
что соответствует Ni=5. Пусть V*= : . Тогда
V vr _ Г27 311 . V7 7' - [I47 1681
L V|^~ [27 31J ' Ъ^и- [168 195J *
Подстановка выражений A0.6.7) в уравнение A0.6.6) дает
д_ /°,129 0,04751 по 6 8ч
A-(o;i29O,O475j- (ШЬ-8)
Вычислим L,-j = AZi,-
, [0,8951. , [0,9321. , _ [0,9821. , _ Г 1,061.
L» = 10 8951' L|a 10 932J' iS ~ 10,982j ' " ~ 11.06J *
.- :
Множество
i
8
7
6
5
4
3
2
1
-
-
•
образов \
?\2V
Щ и {U,
1 C1
vzj4
Пространство признаков
I |
l i i
1 i i
} показано
1.6
1.4
1.2
1.0
0,8
0.6
0.4
0.2
i i i i
-
-
i
на рис. 10.12.
Li1
Пространство решений
1 ' ' ] • м
0 12 3 4 5 6 7 8 9 0 0,2 0,4 0,6 0,8 1,0 1.2
Рис. 10.12. Отображение по методу наименьших квадратов
10.7. Расширенное пространство признаков
Понятие расширенного пространства признаков необходимо
при разработке классификатора с минимальным среднеквадра-
среднеквадратичным расстоянием. Такое понятие непосредственно вытекает из
215

определения дискриминантной функции
Перепишем g(Z) в виде
где W =
-wdQ] и Zf =
.zd— 1] = [Z' — 1].
Из A0.7.1) следует, что Z можно легко получить из данного об-
образа Z приписыванием к нему дополнительной координаты, рав-
равной — 1. Пространство, состоящее из (d+1) -мерных образов Z,
называется расширенным пространством признаков.
10.8. Классификатор для распознавания трех классов образов
по критерию наименьшего среднеквадратичного расстояния
Рассмотрение классификатора с наименьшим среднеквадратич-
среднеквадратичным расстоянием наиболее наглядно может быть проведено для
трех классов. Для d-мерного пространства признаков получаем
(d+l)-мерное расширенное пространство признаков, приписывая
каждому образу Z координату, равную —1, для получения Z =
= [Z'—1]. Эта процедура проиллюстрирована для d=2 на рис.
10.13а и б.
д- О'
О-'
z- ич
г2
\
Асз
(
0
Jc2
|C1
Z=
22
-1.
б)
в>
Рис. 10.13. Классификатор для трех классов, работающий по критерию наи-
наименьшего среднеквадратичного расстояния:
а — пространство признаков; б — расширенное пространство признаков; в —
пространство решений
216

Определяем преобразование А, отображающее ZeC&, k=l9
2, 3, в Vk, k=l, 2, 3, в смысле наименьших квадратов. Выберем
в качестве Vi вершины трех единичных векторов, как показана
на рис. 10.13в. Обозначим априорные вероятности классов Си че-
через Pk, k=l, 2, 3. Преобразование можно непосредственно найти
в соответствии с рассуждениями,, приведенными в § 10.6. В част-
частности, в соответствии с выражением A0.6.5) получаем
f
/=1
Решая это уравнение относительно А, получаем
A = S л S-\, A0.8.2)
1=1 У=1
3 Ni
s =W-
Очевидно, что Suzah S \ гявляются матрицами взаимной корреляции
и автокорреляции соответственно [см. выражение (П8.1.4)]. Из
A0.8.2) следует, что А — матрица размером [ЗХ (d+ 1)]. Для клас-
классификации образа Z'=[Z]Z2 ...Zd—1] классификатор в первую оче-
очередь вычисляет L=AZ, а затем отображает Z в пространство ре-
решений (рис. 10.13). При этом применяется следующее решающее
правило по критерию минимума расстояния: если L наиболее бли-
близок V2o, то Z классифицируется как принадлежащий Cio. Рассто-
Расстояния, которые вычисляет классификатор, определяются как D2* =
= ||L—V;||2, f=l, 2, 3, т. е.
£J = || l ||2 — 2V: L +11 Vf |j2, f=l, 2, 3. A0.8.3)
В выражении A0.8.3) ||У*||2=1, /=1, 2, 3, и, следовательно, D2i
минимально, когда V^L максимально. Поэтому вместо D2* в
A0.8.3) достаточно, чтобы классификатор вычислил
df=V;Lf i=l, 2, 3. A0.8.4)
Подставляя V'i=[l 0 0], \'2= [0 10], У'3=[0 0 1] и L = AZ в
A0.8.4), получаем
AZ-AZ. A0.8.5)
9—88 " 217
d2
d3
=

0
0
0
1
0
0"
0
1.

Если матрица преобразования обозначается как
~апа12 • •
a2La22 • •
_^31а32 * * 'a3d®3
то A0.8.5) означает, что d\ представляет собой следующие дис-
криминантные функции, которые определяют классификатор:
ft(Z) = di = a<1z1 + a,az2+ • • - + aidzd—Qu i=l, 2, 3. A0.8.6)
Из A0.8.6) следует, что классификатор полностью определя-
определяется матрицей преобразования А, которая получается из множе-
множества обучающих образов. Для классификации данного образа
классификатор вычисляет три числа: g\(Z), g2(Z) и gz(Z)—в со-
соответствии с A0.8.6). Если max{gi(Z)} =gtn (Z), то этот образ
приписывается С; 0. Реализация такого классификатора показана
на рис. 10.14. Рассмотрим два численных примера.
-1o
(Z))=gjo(z)
Рис. 10.14. Реализация классификатора для распознавания трех
классов образов по критерию наименьшего среднеквадратичного
расстояния
Пример 10.8.1. Пусть обучающее множество размерностью 2 (т е.
представлено следующим образом:
•С,:
218
10

а) Предполагая Я1 = Я2 = Я3=1/3, требуется найти дискриминантные функ-
функции, которые определяют классификатор.
б) С помощью gi(Z), i=l, 2, 3, требуется определить уравнения разде-
разделяющих границ и изобразить их в пространстве признаков.
Решение, а) А вычисляют в соответствии с A0.8.2) следующим обра-
образом:
[5 5-1] +| 1 |[6 5-1] +
[6-1-1] +
|о|[7 0-1]+ . . .+ о]
5-1]
[10 1-1]
что дает
Г—0,667 1,000 — 0,3331
S * = 2,000 1,866 —0,333 h
vZ [ 2,666 0,133 — 0,333J
X
A0.8.7)
х
I—4 3—1]+Г 5 [5 5-1]+ 5
-1 ] +
-1 [6-1-1] +
О
— 1
[6 5-1] +
[70-1]
[Jl175-
-П
-1]};
в результате получаем
[10 1 —
A0.8.8)
Г 36,130 10,599 —4,0001
= 10,599 13,932 —3,000
L _4,000 —3,000 l,000j
A0.8.9)
A0.8.10)
Матрица, обратная S *z.PaBHa
. __ Г0,051 0,014 0,246-
S. - - 0,014 0,207 0,678
22 L0,246 0,678 4,017_
Подставляя A0.8.7) и A0.8.9) в выражение A0.8.2), получаем
[—0,101 —0,209 —0,825]
0,046 0,189 0,418 .
0,055 —0,160 — 0,593 J
Таким образом, дискриминантные функции, которые определяют классифика-
классификатор, имеют вид [см. выражение A0.8.6)]
gx (Z) = —0,101 z1 — 0,029 г2 + 0,825 ;
g2 (Z) = 0,046 гг + 0,189 г2 — 0,418 ;
£3 (Z) = 0,055 гх — 0,160 г^ + 0,593. A0.8.11>
Реализация полученного классификатора показана на рис. 10.15.
9*

6) Уравнения границ bi2, b2Z и 63i, которые соответственно разделяют
\у Сг)у (С2, Сз) и (Сз, Cij, получаем из g%(Z) следующим образом:
bx2:gi(Z)=g2(Z),
: g3(Z) =
A0.8.12)
Проведя вычисления в соответствии с A0.8.12), получаем разделяющие гра-
границы, показанные на рис. 10.16.
-0,101
Рис. 10.15. Реализация классификатора по данным примера 10.8.1
Пример 10.8.2. Рассмотрим двумерное обучающее множество, изображен-
изображенное на рис. 10.17 (символы О, V и О обозначают образы, принадлежащие
Си Сг и Сз соответственно).
>
(о о о о 3<
-4 -3 -2 -1 0
-1
-2
/
-3
t V V ^7 \
v /
и23
31
у- v Со
/О О OJ 6
2 3 4
5 Ь'Т/
9 ю и гх
Рис. 10.16. Разделяющие границы для классифика-
классификатора, изображенного на рис. 10.15
а) Найти gi(Z), i>l, 2, 3, предполагая Pi=Px=Ps-l/3.
б) Использовать классификатор для классификации образов, входящих в
обучающее множество.
220

/
i ~
/
"l "~
1
Vv
i
Z2i
8
7
5
~O\ 4
0 ' о 1
/
/2
1
I
-
-
- <Nx /
v/ I
1
i i i
o\
1
1
1 1 1 I f fc
-5-4-3-2-10 1 2 3 4 5 6 7 8 Zj
Рис. 10.17. Обучающее множество для примера 10.8.2
L, 2345678
Рис. 10.18. Разделяющие границы для классификатора
по данным примера 10.8.2

Решение, а) Вычисления проводим по той же схеме, что и в примере
10.8.1. В результате получаем
Г 0,HI —0,063 — 0,4651
А = —0,032 0,147 0,111 .
[ —0,110— 0,084 — 0,647 J
Соответственно дискриминантные функции определяются как
gt(Z)= 0,141 Zi —0,063 z2 +0,465;
g2(Z)= — 0,032 гг + 0,147 z2 — 0,111 ;
g3(Z)= — 0,110*! — 0,084 z2 +0,647. A0.8.13)
б) Классификация образов, принадлежащих обучающему множеству, осу-
осуществляется в результате вычисления gi(Z), t=l, 2, 3, для каждого Z, при-
принадлежащего множеству. Затем Z приписывается d0, если max{^i(rZ>)}=g>l0,(Z).
Результаты классификации обычно суммируются в виде следующей матрицы
ошибок классификации:
Г5 0 0 I
F= 12 2. A0.8.14)
0 14
В матрице F ненулевые элементы, стоящие не на главной диагонали, соответ-
соответствуют ошибкам классификатора, т. е. если элемент в k-Pi строке и /-м столб-
столбце матрицы F обозначить как fku кф1 и fhi=s, то s образов, принадлежащих
Сн, были ошибочно классифицированы как принадлежащие Си
Примечание. Полезно рассмотреть ошибки, которые отображены в матрице
ошибок классификации. Это можно сделать, изобразив разделяющие границы,
которые соответствуют приведенному классификатору. На рис. 10.18 показаны
разделяющие границы bi2, b23 и 63i. Процедура их получения опущена, так
как она полностью повторяет процедуру, приведенную в примере 10.8.1. Из
рассмотрения рис. 10.18 следует, что два треугольника ошибочно классифици-
классифицируются как принадлежащие Сз, а один треугольник ошибочно приписывается
Ci. Это соответствует второй строке F. Таким же образом один квадрат оши-
ошибочно приписывается Сг, что соответствует третьей строке F. Наконец, все
образы Ci классифицируются правильно, что отображено в первой строке F.
В заключение заметим, что любой классификатор, обладающий линейны-
линейными границами, будет совершать ошибки при классификации обучающего мно-
множества типа, изображенного на рис. 10.18, так как С2 и Сз нельзя разделить
линейными границами.
10.9. Классификатор для распознавания К классов образов
по критерию наименьшего среднеквадратичного расстояния
[9-11]
Задача трех классов может быть обобщена для случая К
классов. Расширенные образы, принадлежащие Си отображают-
отображаются в вершине единичного /(-вектора V^;
v; = [0. . -oio. . .0], (ю.9.1)
где ненулевой элемент «1» находится) в 1-й строке Viy x=l, 2, ...,
/С. Вместо CX(d+l)) матрицы преобразования А в A0.8.2) по-
получаем (KX(d+l)) матрицу
A = S .S~\, A0.9.2)
VZ !Z
где
222

К Ni
i=l 7=1
К Nl
7=1
Таким образом, дискриминантные функции, определяющие
классификатор, имеют вид
*d— в,, i=l, 2, . - ., /С. A0.9.3)
Реализация описанного выше классификатора приведена на
рис. 10.19.
Рис. 10.19. Реализация классификатора для К классов, работающего по крите-
критерию минимального среднеквадратичного расстояния
Пример 10.9.1.
При заданном обучающем множестве
3,5
5.5J ,L6,5j,L5 J.[6.3J ,
2,5| 13,5] Г41 ,4,5
7,5J,[7 J,L8j,[7 J.L6
.й-
Ct:
а) Предполагая Р{ = Ръ=*\12, требуется найти дискримннантные функции
gi(Z) и g2(Z) и таким образом показать, как можно реализовать классифи-
классификатор.
б) Изобразить приведенное выше обучающее множество и провести раз-
разделяющие границы в пространстве признаков.
223

в) Изобразить расположение образов, входящих в обучающее множество,
в пространстве решений.
Решение: а) Так как /С=2, V'i=[l 0] и V'2=[0 1].
Вычисляется А в соответствии с A0.9.2) следующим образом:
s.-;=-s-(f_f:HI2'56'5-1I + f J'5
[2 6,5-1]+
.+
- 1 j
7|[6 7-1] +
0,5
1
— 1
[0,5 1 —
[0,5 0,5-1] +
'-П12'52-']!-
что дает
[8,425 13,
13,020 23,
— 2,450 -4,0
S = — 1Г
vz 20 \[0
02
472
040
— 2,450
— 4,040
1,000
[2,5 5,5 —
0
1
[2 6,5—1]
-1] + I [0,5 0,5-1]
•+
•+|М[6 7-1] +
[2,5 2
[°][2,52_1] j;
-[.
A0.9.4)
в результате получаем
25 3,290 —0,5001
>5 0,750 — 0,500J.
Вычисляя A=S0 ^ S—! ^ g
получаем
0,043 0,159 0,2471
_0,043 —0,159 — 1,247J .
Из A0.9.4) определяем дискриминантные функции:
gi (Z) = 0,043 zx + 0,159 z2 — 0,247 ; g2{Z) =—0,043 zx — 0,159 z2 + 1,247.
б) Уравнение разделяющей границы bi2 определяется как gi(Z) = g2(Z) и
принимает вид 0,08б2Г1+0,3182г2= 1,494. Расположение разделяющей границы
в пространстве признаков приведено на рис. 10.20а.
8
7
6
5
4 -
1
-
Yo
I
1°
1°
*—*
°
о
Q
V
J
V
V
V
/
У
2
1 1 1
V)
1 1 1 1 1 1 ш
0123456789 10 11 Zt О
а)
Рис. 10.20. К примеру 10.9.1:
а — пространство признаков; б — пространство решений
6)
224

в) Расположение образов, принадлежащих обучающему множеству, в про-
пространстве решений определяется как
С. I . . А7 • Г • I А7 . < 19 1 П /1Л п с\
1 . L.lj —rXM^ij, U2 • *--2j — ■»»^'2j> / — 1, Z, ...,1U. ^ 1 U.f.JJ
Результаты приведенных выше вычислений изображены на рис. 10.206.
10.10. Квадратичные классификаторы [2]
В приведенных выше рассуждениях, касающихся классифика-
классификаторов по минимуму расстояния, ограничивались рассмотрением
только линейных классификаторов, т. е. классификаторов, кото-
которые обладают линейными разделяющими границами в простран-
пространстве признаков. Соответствующую процедуру обучения можно
легко получить для случая квадратичных разделяющих границ.
При этом реализация классификатора усложняется. Квадратич-
Квадратичный классификатор определяется дискриминантными функциями
d d—\ d d
j=\ k=j+l
квадратичные члены
линейные члены
A0.10.1)
Из выражения A0.10.1) следует, что квадратичная дискрими-
нантная функция gi(Z) имеет [ (d+ I) (rf + 2)]/2 весовых коэффи-
коэффициентов или параметров, а именно:
d параметров, соответствующих коэффициентам при z2j Wjj
d параметров, соответствующих коэффициентам при Zj Wj
d(d—1)/2 параметров, соответствующих коэффициентам
при ZjZh,j¥=k wjk
порог, не являющийся коэффициентом 6г-
Приведенные выше параметры определяются в процессе обуче-
обучения. Для пояснения реализации классификатора, связанного с вы-
выражением A0.10.1), определим Q-мерный вектор G, координаты
которого /ь /2, •>> }q являются функциями zi, i=l, 2, ..., d. Пер-
Первые d координат вектора G имеют вид г2ь г22, ..., z2a\ следующие
Z-C
Квадратич-
Квадратичное преобра
зование
_ -у *
A щ
fo = ;
-'о-
wk
WQ
Рис. 10.21. Реализация квадратичного классификатора
225

[d(d—1)]/2 координат соответствуют всем парам z{z2y Z\Zs, ...,
Zd-iZd; последние d координат представляют собой zu z2y ..., z\.
Общее число координат равняется Q = [d(d-\-3)]/2. Определяется
это соответствие как G = G(Z), где G(Z)—взаимооднозначное
преобразование. Таким образом, для каждого образа Z/=[e122...
...zd] в d-мерном. пространстве существует единственный вектор
G/= [/ifg •-- /q] в Q-мерном пространстве. Такое взаимооднознач-
взаимооднозначное соответствие позволяет записать gi(z) в виде линейной функ-
функции координат G, т. е. для каждой квадратичной дискриминант-
ной функции по Z существует соответствующая линейная дискри-
минантная функция от G. Таким образом, выражение A0.10.1)
можно записать в виде
+ • • . + wfQ-Qt. A0.10.2)
Реализация квадратичного классификатора, соответствующая
gi(Z) в выражении A0.10.2), приведена на рис. 10.21.
10.11. Эксперимент по классификации ЭКГ
В качестве второго примера, иллюстрирующего использование
дисперсионного критерия и распределение дисперсии при выборе
признаков, рассмотрим эксперимент, заключающийся в классифи-
классификации ЭКГ [12]. Эксперимент проведен с целью создания систе-
системы распознавания образов, способной определить, является ли
данная ЭКГ нормальной или в ней имеются отклонения. При ис-
исследовании использовались ЭКГ собак, подробности получения
которых описаны в § 9. 3.
Выбор признаков. Процесс выбора основывается на дисперси-
дисперсионном критерии. Было использовано 150 нормальных ЭКГ и 150
ЭКГ с отклонениями, снятых с помощью двух пар электродов.
После некоторых предварительных исследований было решено,
что наиболее эффективные результаты классификации получают-
получаются в том случае, когда используется информация, получаемая с
обеих пар электродов. При дискретизации ЭКГ 64 отсчета запи-
записывались с первой пары электродов, а затем к ним приписыва-
приписывались соответствующие 64 отсчета со второй пары электродов, чта
давало в итоге выборку объемом 128 отсчетов. Общая матрица
коварпации в области исходных данных определялась как
где EXl и 2Х2 — матрицы ковариации класса нормальных ЭКГ
и класса ЭКГ с отклонениями. Распределения дисперсий, вычис-
вычисленные с использованием S*x для ПКЛ, дискретного косинусного
преобразования (ДКП), ПУА с упорядочением по Адамару и для
тождественного преобразования, приведены на рис. 10.22. Из при-
приведенных распределений следует, что преобразования можно упо-
упорядочить по мере убывания эффективности при уменьшении раз-
226

мерности в процессе выбора признаков следующим образом:
ПКЛ>ДКП>ПУА>ТП. Как и выше, можно отметить, что при
учете более 30 коэффициентов преобразования распределения
дисперсии ПКЛ, ДКП и ПУА отличаются незначительно. Так как
0,15
5 0.12
. ПКЛ
ДКП
ПУА, упорядоченное
по Адамару
Тождественное
преобразование
60 75
Коэффициенты
Рис. 10.22. Распределение дисперсии при тождественном преобразо-
преобразовании ПКЛ, ДКП и ПУА, упорядоченным по Адамару
для ПКЛ не существует быстрого алгоритма преобразования, то
при выборе признаков пользовались ДКП, ПУА и ТП. В соответ-
соответствии с дисперсионным критерием в качестве признаков при клас-
классификации выбирались М коэффициентов преобразования с на-
наибольшими дисперсиями.
Вопросы классификации. Применялся классификатор, работа-
работающий по критерию наименьшего среднеквадратичного расстоя-
Обучающее
множество
ЭКГ
ЭКГ
электрод
№ 1:
64 отсчета
ЭКГ
электрод
№2:
64 отсчета
Конкатенация
отсчетов с
электродов
1 и 2 :
128 отсчетов
Преобразование
выборки из
128 отсчетов
Выбор М коэффици
ентов (М<32)
с помощью
дисперсионного
критерия
Получение дискриминантных функций
Рис. 10.23. Общая схема процедур отбора признаков и обучения
227

ния для задачи двух классов. Обучение классификатора произ-
производилось по 150 нормальным ЭКГ > и по 150 ЭКГ с отклонения-
отклонениями. Различные этапы, связанные с выбором признаков и процес-
процессом обучения, приведены в общем виде на рис. 10.23.
Качественные параметры различных преобразований сравни-
сравнивались на основании успешности их применения при классифика-
классификации 300 образов, принадлежащих обучающему множеству. На рис.
10.24 приведены результаты классификации. При использовании
90
80
70
60
Г/'
и/
ПУА, упорг
чдоченное
—- по Адамару
ДКП
Тождественное
прерб
зазование
—О
10
20
Число признаков
30
Рис. 10.24. Зависимость правильной классификации от числа сохраняемых при-
признаков при тождественном преобразовании, ДКП и ПУА, упорядоченным по
Адамару
Отбор признаков
Классифи
цируемые
ЭКГ
ЭКГ
электрод
№1:
64 отсчета
L
ЭКГ
электрод
№2 :
64 отсчета
Конкатенация
отсчетов с
электродов
1 и2 :
128 отсчетов
Преобразова
ние выборки
из 128
отсчетов
Выбор М коэффициен
тов, М < 32, с помощью
дисперсионного
критерия
Вычисление g1 (Z) и
[решение: ЭКГ нормаль
•ная, еспи с^ (Z)>g2 (Z)'
t с отклонениями в
противном случае
L.
J
Классификация
Рис. 10.25. Структурная схема системы распознавания ЭКГ
228

23 коэффициентов преобразования наиболее эффективно ДКП,
Дающее 87% верных классификаций. Более низкой эффективно-
эффективностью обладают ПУА с упорядочением по Адамару и ТП. Из рис.
10.24 следует, что ДКП и ПУА с упорядочением по Адамару да-
дают значительно более высокое качество классификации по срав-
сравнению с ТП. Структурная схема рассмотренной выше системы
классификации ЭКГ дана на рис. 10.25.
Комментарий. При классификации ЭКГ наиболее серьезная ошибка заклю-
заключалась в том, что ЭКГ с отклонениями классифицируется как нормальная. На
рис. 10.26 приведена зависимость ошибок этого типа от числа используемых
ПУА.
—упорядоченное
по Адамару
Тождественное
преобразование
О
30
20
Число признаков
Рис. 10.26. Зависимость процента ЭКГ с отклонениями, классифицированных
как нормальные, от числа сохраняемых признаков при тождественном преоб-
преобразовании ДКП и ПУА, упорядоченным по Адамару
признаков. Такие ошибки можно эффективно минимизировать, если 'использовать
кусочно-линейный классификатор * вместо линейного. При этом процесс выбора
признаков не меняется. Подробности, связанные с этим аспектом классифика-
классификации ЭКГ, обсуждаются в [12].
10.12. Заключение
В данной главе приведены некоторые простые алгоритмы
классификации и методы их реализации. Применение таких алго-
алгоритмов и связанное с ними эффективное понижение размерности
при выборе признаков основываются на дисперсионном критерии
и распределении дисперсии. Рассматривались два эксперимента
по распознаванию образов. Результаты этих экспериментов по-
казысают, что использование ортогональных преобразований дает
возможность существенно понизить размерность лишь при незна-
незначительном уменьшении процента верной классификации.
ЗАДАЧИ
10.1. а) Средние образы, соответствующие множеству трехмерных обучаю-
обучающих образов, равны Z'i=[2 3 4] и Z'2=[l 2 3]. Найдите уравнение плоско-
1 Кусочно-линейный классификатор имеет кусочно-линейные разделяющие
границы в пространстве признаков.
229

+2+3 ,
б) При решении некоторой задачи для трех классов получаем следующие
дискримипантные функции:
сти, перпендикулярной к прямой, которая соединяет Zt и Z2 и делит ее по.
лолам.
Ответ. Zi+z2+z3 = 7f5.
рой s
£2 + 5;
Найдите уравнения для разделяющих
границ Ь\2, Ь->з, bzi и точку их пере-
пересечения.
Примечание. Точка пересечения
получается в результате решения лю-
любых двух из трех уравнений для раз-
разделяющих границ.
10.2. Пусть Xi и Х2 — две точки
в d-мерпом пространстве. На рис.
10.27 эти точки показаны для случая
d = 2.
Рассмотрим гиперплоскость (при
т d=2 — прямая), перпендикулярную
и х. прямой, соединяющей Xi и Х2 в точке
Pl!, 10o7 *з, при которой
ЦХ2_Хз%|| = «з1|Х1-Х2|| ,0<д<1.
Докажите, что уравнение описанной выше гиперплоскости имеет вид
Х'_(Х2 — \г) + а || Хх || 2 + (а — 1) || Х21| 2 = B а — 1) Х\ Х2.
Примечание. Выберем точки X на искомой гиперплоскости (см. рис. 10.27)
и заметим, что
10.3. Рассмотрим AX = Y, где А — матрица размером (тхп); X — вектор
(/zxl) и Y —вектор (mxl). Покажите, что V х ||АХ—ЛГ||2 = 0 эквивалентно
Х = [А'А]-1 AY, (П 10.3.1)
где [А'А] предполагается невырожденной. В теории матриц [А'А]-1 называет-
называется обобщенной обратной, или псевдообратной по отношению к матрице А.
Примечание. Используйте следующие равенства:
ух [X' А' АХ] = 2 (А' А) X ; Ах [X' A' Y] = Ах [Y' АХ] = A' Y ; Дх [ || Y || 2\ = 0.
10.4. Рассмотрите матричное уравнение
(П 10.4.1)
[1Ш::Н0
Три линейных уравнения, соответствующих описанному выше матричному
уравнению, определяют па плоскости прямые /i, U и 1?п изображенные на
рис. 10.28. Из рис. 10.28 видно, что данные три прямые U, i=l, 2, 3, не пере-
пересекаются в одной точке, что означает отсутствие единственного решения. Дру-
Другими словами, уравнение (П10.4.1) соответствует множеству несовместимых
уравнений.
Пользуясь выражением (П 10.3.1), покажите, что решение в смысле пай-
меньших квадратов для множества несовместимых уравнений, описанных
(П10.4.1), имеет вид Х'=[7/6 1/2].
230

10.5. Пусть g описывает цифровое устройство, отклик которого на воздей-
воздействие Хг обозначается через у{ (рис. 10.29).
Рассмотрите четыре пары точек возбуждение-отклик (х*, уи i— 1, А о, sj,
изображенные на рис. 10.30. Вычислите значения а и Ь, которые определяют
такую прямую у = а+Ьх, что среднеквадратичная ошибка принимает наимень-
наименьшее значение. Изобразите прямую на рис. 10.30.
\
1
3 -2 -
x2i
4
3
2
1
1 0
-1
-2
%
1
-
-
X ={7/6 1/2j
^'^^ц, 1 I |
N>v3 4 5
i
Рис.
Рис.
g
10.29
10.30
Рис.
Y;
10.28
vi j
7
Q
5
4
3
2
1
Примечание. Среднеквадратичная ошибка в случае аппроксимации прямой
определяется как
где а и b определяются ка_к решения системы линейных уравнений, которая
получается из дг'л/да = 0 и д&2/дЬ-^0.
Ответ. у= 1,7л:.
10.6. Рассмотрите двумерные образы, приведенные на рис. 10.31. Запиши-
Запишите программу, реализующую распознавание образов для задачи трех классов
по критерию наименьшего среднеквадратичного расстояния, и покажите, что:
231

60
50
40
30
20
10
i
2 3
г
г
г
<
V
>
О
v
^*
А \
"\
}
1
, ■
Л/
b
/
/
/
/
/
/
V
Y Х\
1
<
г \
\
\
s
о
V
7
Л
—^
->-
1
6
(
^\
сз-
о
о-
9
<f
1с
!
о-
о
0-
с
-о-
а) матрица ошибок, полу-
полученная при классификации обу-
обучающего множества, имеет вяд
I 16 О
F= 0 15
L 0 2
б) разделяющие границы,
соответствующие описанному
классификатору, показан^ на
рис. 10.31.
10.7. Рассмотрите двумер-
двумерные образы, приведенные в
табл. П 10.7.1. Для каждого об-
образца Z/=[ziZz—1] вычислите
соответствующий квадратичный
ОбраЗ G'=[22i, 222, ZiZzt Zi, 22,
— 1]. Сделайте соответствую-
соответствующие изменения в программе,
записанной для решения зада-
задачи 10.6, и с ее помощью пока-
покажите, что матрица ошибок, свя-
связанная с классификацией обу-
обучающего множества с помощью
классификатора, работающего
по критерию наименьшего сред-
среднеквадратичного расстояния,
имеет вид
16 О О
О 15 1
О 1 15
10
20
30
40
Рис. 10.31
Таблица П10.7.1
Класс ,-
1
1
1
I
1
44
40
41
39
44
43
41
43
40
44
40
39
42
36
43
39
Z2
61
59
55
53
53
50
50
46
45
44
42
40
40
36
36
33
Класс ;
2
2
2
о
Z
2
2
2
2
2
2
2
2
2
2
2
2
19
13
11
20
16
10
15
12
6
11
8
И
3
5
8
5
59
58
55
56
55
53
50
50 I
48
46
44
43
41
37
36
34
Класс =--
3
3
3
3
3
3
3
3
3
3
3
3
3
3
3
3
20
22
18
24
14
20
17
20
24
9
4
15
10
19
10
15
z2
46
45
42
42
41
41
40
38
38
39
36
36
35
34
31
31
232

СПИСОК ЛИТЕРАТУРЫ
К главе 1
1. AndrewH, Н. С, and Caspari, К. L.: Л Generalized Technique for Spectral
Analysis. IEEE Trans. Computers C-19 A970) 16-25.
2. Andrews, H. Г., and Kane, J.: Kroneeker Matrices, Computer Implementation,
and Generalized Spectra, J. of the ACM 17 A970) 260-268.
3. Glassman, J. A.: A Generalization of the Fast Fourier Transform. IEEE Trons.
Computers C-19 A970) 105-116.
4. Special Issues on Fast Fourier Transform, IEEE Trans. Audio and Electro-
acoustics. AU-15 and AU-17, 1967 and 1969.
.">. Ahmed, N., Rao, K. K., and Schultz, R. В.: A Generalized Discrete Transform.
Proc. IEEE 59 A971) 1360-1362.
6. Rao, K. R., Mrig, L. Г., and Ahmed, N.: A Modified Generalized Discrete Trans-
Transform. Proc. IEEE 61 A973) 668-669.
7. Special Issue on Digital Pattern Recognition. Proc. IEEE 60, October, 1972.
8. Special Issue on Digital Picture Processing. Proc. IEEE 60, July, 1972.
9. Special Issue on Two-Dimensional Digital Signal Processing. IEEE Trans, Com-
puters C-21, July, 1972.
10. Special Issue on Digital Signal Processing. IEEE Trans. Audio and Electro-
acoustics AU-18, December, 1970.
11. Special Issue on Feature Extraction and Pattern Recognition. IEEE Trans.
Computers C-20, September, 1971.
12. Special Issue on Signal Processing for Digital Communications. IEEE Trans.
Communications Technology COM-19, December, 1971.
13. Special Issue on 1972 Conference on Speech Communication and Processing.
IEEE Trans. Audio and Electroacoustics AU-21, June, 1973.
14. Special Issue on Two Dimensional Digital Filtering and Image Processing. IEEE
Trans. Circuit Theory CT-21, November, 1974.
15. Ristenbatt, M. P.: Alternatives in Digital Communications. Proc. IEEE 61
A973) 703-721.
16. Carl, J. W., and Swartwood, R. V.: A Hybrid Walsh Transform Computer.
IEEE Trans. Computers C-22 A973) 669-672.
17. Wishner, H. D.: Designing a Special-Purpose Digital Image Processor. Computer
Design 11 A972) 71-76.
18. Pratt, W. K., and Andrews, H. C: Two-Dimensional Transform Coding of
Images. Internat. Symp. Information Theory, 1969.
19. Pratt, W. K., Kane, J., and Andrews, H. C.: Hadamard Transform Image Coding.
Proc. IEEE 57 A969) 58-68.
20. Andrews, H. C.: Computer Techniques in Image Processing. New York, London:
Academic Press, 1970, 73- 79
21. Wintz, P. A.: Transform Picture Ceding. Proc. IEEE 60 A972) 809-820. (Special
issue on Digital Picture Processing.)
22. Rabihi, A., and Wintz, P. A.: Image Coding By Linear Transformations and
Block Quantization. IEEE Trans. Communication Technology COM-19 A971)
50-62.
23. Several papers in the Proc. 1970-1974 Symp. Applications of Walsh Functions.
Washington, D. C.
24. Andrews, H. C, Teacher, H. G., and Krucrer, R. P.: Image Processing by Digital
Computer. IEEE Spectrum 9, 1972, 20 32.
25. Huang, T. S., Schreiber, W. F., and Tretiak, O. J.: Image Processing, Proc.
IEEE 59 A971) 1586-1609.
26. Pratt, W. K.: Spatial Transform Coding of Color Images. IEEE Trans. Com-
Communication Technology COM-19 A971) 980-992.

27. Fukinuki, Т., Miyata, M.: Intraframe? Image Coding by Cascaded Hadamard
Transforms. IEEE Trans. Communications COM-21 A973) 175-180.
28. Campanella, S. J., and Robinson, G. S.: Comparison of Orthogonal Transform-
Transformations for Digital Speech Processing. IEEE Trans. Communication Technology
C0M-19 A971) 1045-1050.
29. Shum, F. Y. Y., Elliot, A. R., and Brown, W. O.: Speech Processing with Walsh-
Hadamard Transforms, IEEE Trans. Audio and Electroacoustice AU-21 A973)
174-179.
30. Welchel, J. E., and Guinn, E. F.: The Fast Fourier-Hadamard Transform and
its use in Signal Representation and Classification. Eascon y08 Record, Electronic
and Aerospace Systems Convention, Washington, D. ('., Sept. 9-11, 1968,
published by IEEE Group on Aerospace and Electronic Systems.
31. Andrews, H; C: Multidimensional Rotations in Feature Selection. IEEE Trans.
Computers C-20 A971) 1045-1051.
32. Andrews, H. C.: Introduction to Mathematical Techniques in Pattern Recognition.
New York, London: Wiley-Interscience, 1972, 24-32, and 211-234.
33. Harmuth, H. F.: Transmission of Information by Orthogonal Functions. New
York, Heidelberg, Berlin: Springer 1972.
34. Pearl, J., Andrews, H. C, and Pratt, W. K.: Performance Measures for
Transform Data Coding. IEEE Trans. Communications COM-20 A972)
411-415.
35. Pearl,,J.: Walsh Processing of Random Signals. IEEE Trans. Electromagnetic
Compatability EMC-13 A971) 137-141.
36. Pratt, W. K.: Generalized Wiener Filtering Computation Techniques. IEEE
Trans. Computers C-21 A972) 636-641.
37. Gibbs, J. E., and Gobble, H. A.: Application of Walsh Functions to Transform
Spectroscopy. Nature 224 A969) 1012-1013.
38. Rabiner, L. R. et al.: Terminology in Digital Signal Processing. IEEE Trans.
Audio and Electroacoustics, AU-20 A972) 703-721.
39. Lee, Y. W.: Statistical Theory of Communication. New York: John Wiley, 1961.
40. Rabiner, L. R., and Rader, С. М. (Editors): Digital Signal Processing. New
York: IEEE Press, 1972.
К главе 2
1. Hancock, J. C.: An Introduction to the Principles of Communication Theory. New
York: McGraw-Hill, 1961, Chap. 1.
2. Harman, W. X.: Principles of Statistical Theory of Communication. New York:
McGraw-Hill, 1963, Chap. 1.
3. Guillemin, E. A.: The Mathematics of Circuit Analysis. New York: Wiley, 1949,
Chap. VII.
4. Goldman, S.: Information Theory. New York: Prentice-Hall, 1953, Chap. 2.
5. Lee, Y. \V.: Statistical Theory of Communication. New York: Wiley, 1961, Chap. 1.
6. Panter, P. F.: Modulation Noise and Spectral Analysis. New York: McGraw-
Hill, 1965, Chaps. 2 and 3.
7. Reza, F. M.: An Introduction to Information Theory. New York: McGraw-Hill,
1961, Chap. 9.
S. Shannon, С. Е.: A Mathematical Theory of Communication. Bell System Tech.
J. 27 A948K79-423.
9. Robbine, W\ P., and Fawcett, R. L.: A Classroom Demonstration of Correlation,
Convolution and The Superposition Integral. IEEE Trans. Education E-16 A973)
18-23.
К главе З
1. Cochran, W. T. et al.: WThat is the Fast Fourier Transform? Proc. IEEE 5£
A967) 1664-1674.
234

2. Cooley, J. W., et al.: The Finite Fourier Transform. IEEE Trans. Audio and'
Electroacoustics AU-17 A969) 77-85.
3. Cold, В., and Kader, С M.: Digital Processing of Signals*New York, N.Y. McGraw-
Hill, 1909.
4. Cooley, J. W., Lewis, P. A. W., and Welch, P. D.: The Fast Fourier Transform and
Its Applications. IBM Res. Paper, RC-1743, 1967, IBM Watson Research Center,.
Yorktown Heights, New York.
5. Ahmed, X., and Rao, K.R.: Discrete Fourier and Hadamard Transforms..
Electronics Letter* (> A970) 221-224.
6. Jagade.esan, N.: n-dimensional Fast Fourier Transform. Proc. of the 13th Midwest
Symposium on (rircuit Theory. University of Minnesota, Minneapolis, Minn., May
7 S, 1970, pp. Ш2.1-1112.8.
7. Ahmed, N., Rao, K. R., and Tjoe, 8. J.: Time-varying Fourier Transform. Elec-
Electronics Jitters 7 A971) f>3f> 536.
8. Arnold, С R.: Spectral Estimation for Transient Waveforms. IEEE Trans..
Audio and Electroacoustics AIMS A970) 248-257.
9. Ahmed, N., Natarajan. Т.. and Rao, K. R.: An Algorithm for the On-line Com-
Computation of Fourier Spectra. International Journal of Computer Mathematics-
3 A973) 361-370.
10. Andrews, H. (\, and Pratt. W. K.: Digital Image Transform Processing. Proc.
Symposium on Applications of Wahh Functions^ 1970, pp. 183-194. This maybe
obtained from National Technical Information Service, Springfield, Va. 22151,.
order No. AD-707 431.
11. Claire, K. J., Farber, S. M.. and Green, R. R.: Practical Techniques for Trans-
Transform Data Compression Image Coding. Ibid. pp. 2-6.
12. Special Issue on Digital Picture Processing, Proc. IEEE 60, July 1972.
13. Huang, T. S.. et al.: Image Processing, Proc. IEEE 59 A971) 1586-1609.
14. Kinariwala, B. K., Kuo, F. F., and Tsao, Nai-Kuan: Linear Circuits and Com-
Computation. New York, N. Y.: John Wiley, 1973.
К главе 4
1. Cochran, W. Т., et al.: What is the Fast Fourier Transform? Proc. IEEE 56
A967I664-74.
2. Cooley, J. W., and Tukey, J. W.: An Algorithm for Machine Computation of
Complex Fourier Series. Mathematics of Computation 19 A965) 297-301.
3. Singleton, R. C.: An Algorithm for Computing the Mixed Radix Fast Fourier
Transform. IEEE Trans. Audio and Electroacoustics AU-17 A969) 99-103.
4. Rader, C.: Discrete Fourier Transforms when the Number of Data Samples is
Prime. Proc. IEEE 56 A968) 1107-08.
5. Gold, В., and Rader, С M.: Digital Processing of Signals. New York: McGraw-
Hill, 1969.
6. Cooley, J. W. et al.: Historical Notes on the Fast Fourier Transform. Proc. IEEE
55 A967) 1675-77.
7. Ohnsorg, F. R.: The Tukey-Cooley Algorithm. Honeywell Inter-office Corres-
Correspondence, MR-9959, 1967, Systems and Research Center, St. Paul Minn., 55113,
USA.
8. Bergland, G. D.: A Guided Tour of the Fast Fourier Transform. IEEE Spectrum
6, July 1969, 41-52.
9. Kaneko, Т., and Liu, В.: Accumulation of Round-off Error in Fast Fourier
Transforms. Journal of ACM 17 A970) 637-654.
10. Cooley, J. W , Lewis, P. A. W., and Welch, P. D.: The Fast Fourier Transform
and its Applications. IBM Research Report RC-1743, IBM Watson Research
Center, Yorkstown, N. Y.
11. Brigham, E. O., and Morrow, R. E.: The Fast Fourier Transform. IEEE 8#ec-
trum 4, A967) 63-70.
235

12. Campbell, M. D., Houts, R. D., and Reinhard, E. A.: A Computer Utility In-
Incorporating the FFT Algorithm for д Signal and System Theory Course. IEEB
Trans. Education E-16 A973) 42-47.
13. Stockham, Jr., T. G.: High Speed Convolution and Correlation. 1966 Spring
Joint Computer Conference, AFIPS Proc, 1966, 229-233.
14. Jagadeesan, M.: n-Dimensional Fast Fourier Transform. Proc. Thirteenth Mid-
Midwest Symposium on Circuit Theory, 1970, III.2.1-III.2.8.
15. Brenner, N. M.: Three Fortran Programs that Perform the Cooley-Tukey Fourier
Transform. MIT Lincoln Lab. Publication AD 657019, 1967.
16. Fisher, J. R.: Fortran Program for Fast Fourier Transform. Naval Research
Laboratory Report No. 7041, Washington, D.C., 1970. '
17. Sande, G.: Arbitrary Radix One-dimensional Fast Fourier Transform Sub-
Subroutines, University of Chicago, Illinois, 1968.
18: Bluestein, L. I.: Several Fourier Transform Algorithms. NEREM Record, 10,
1968, 218-219, published by the Boston section of the IEEE.
19. Ferrie, J. R., and Nuttall, A. H.: Comparison of Four Fast Fourier Transform
Algorithms. Navy Underwater Systems Center, Newport, Rhode Island 02840,
NL'SC Report No. 4113, 1971.
20. Singleton, R. C: A Short Bibliography on the Fast Fourier Transform. IEEE
Trans. Audio and Electroacoustics AU-17 A969) 166-169.
21. Special Issues on Fast Fourier Transform. IEEE Trans. Audio and Electro
acoustics AU-15, June 1967r and AU-17, June 1969.
22. Ahmed, N., and Cheng, S. M.: On Matrix Partitioning and a Class of Algorithms.
IEEE Trans. Education E-13 A970) 103-105.
23. Theilheimer, F.: A Matrix Version of the Fast Fourier Transform IEEE Trans
Audio and Electroacousdcs AU-17 A969) 158-161.
24. Kahaner, D. K.: Matrix Description of the Fast Fourier Transform. IEEE
Trans. Audio and Elect roacoustics AU-18 A970) 442-452.
25. White Jr., Andrew, and Gray, Paul E.: Fast Fourier Transform: A Pragmatic
Approach. Dept. of Electrical Engineering, North Carolina Agricultural and
Technical State University, N Greensboro, North Carolina, USA. Monograph
EE-M-NO. 2, April 1973.
26. Brigham, E. O.: The Fast Fourier Transform. Englewood Cliffs, New Jersey:
Prentice-Hall, 1974.
К главе 5
1. Ahmed, N., Schreiber, H., and Lopresti, P.: dn Notation and Definition of
Terms Related to a Class of Complete Orthogonal Functions. IEEE Trans.
Electromagnetic Compatability EMC-15 A973) 75-80.
2. Harmuth, H.: Transmission of Information by Orthogonal Functions. 2nd ed.
New York, Heidelberg, Berlin: Springer, 1972, Chapter 1.
3. Pichler, F.: Das System der sal- und cal-Funktionen als Erweiterung des Systems
der Walsh-Funktionen und die Theorie der sal- und cal-Fourier Transformation.
Thesis, Dept. of Mathematics, Innsbruck Univ., Austria 1967.
4. Rademacher, H'.: Einige Satze von allgemeinen Orthogonalfunktionen. Math.
Annalen 87 A922) 122-138.
5. Corrington, M. S.: Advanced Analytical and Signal Processing Techniques.
A962) ASTIA Document No. AD 277-942.
6. Haar, A.: Zur Theorie der Orthogonalen Funktionensysteme. Math. Ann. 69
A910) 331-371; 71 A912) 38-53.
7. Nagy, B. S.: Introduction to Real Functions and Orthogonal Expansions. New
York: Oxford University Press, 1965.
8. Walsh, J. L.: A Closed Set of Orthogonal Functions. Amer. J. of Mathematics 45
A923M-24.
236

9. Lackey, R. В., and Meltzer, D.: A Simplified Definition of Walsh Functions.
IEEE Trans. Computers C-20 A971) 211-213.
10. Pratt, W. K., and Andrews, H. C.: Hadamard Transform Image Coding. Proc.
IEEE 57 A969) 58-68.
11. Paley, R. E. A. C: A Remarkable Series of Orthogonal Functions. Proc. London
Math. Soc. B) 34 A932) 241-279.
12. Yuen, C: Walsh Functions and Gray Code. Proc. 1971 Walsh Functions Sympo-
Symposium, 68-73, National Technical Information Service, Springfield, Va. 22151,
order no. AD-707431.
13. Ahmed, N., and Rao, K. R.: Walsh Functions and Hadamard Transform. Proc.
1972 Walsh Functions Symposium, 8-13, National Technical Information Ser-
Service, Springfield, Va. 22151, order no. AD-744650.
14. Lackey, R. В.: The Wonderful World of Walsh Functions. Ibid., 2-7.
15. Shore, J. E.: On the Application of Haar Functions. Naval Research Laboratory,
Washington, D. C. NRL Report 7467, January 1973.
16. Shore, J. E., and Berkowitz, R. L.: Convergence Properties of Haar Series. Ibid.,
NRL Report 7470, January 1973.
17. Shore, J. E.: On the Application of Haar Functions. IEEE Trans. Communi-
Communications COM-21 A973) 209-216.
18. Corrington, M. S.: Solution of Differential and Integral Equations with Walsh
Functions. IEEE Trans. Circuit Theory CT-20 A973) 470-476.
19. Lackey, R. В.: So What's a Walsh Function. IEEE Fall Electronics Conference,
Oct. 18-20, 1971, Chicago, 111., 368-371.
20. Ahmed, N., and Rao, K. R.: Transform Properties of Walsh Functions, ibid.,
378-382.
К главе 6
1. Walsh, J. L.: A Closed Set of Orthogonal Functions. Amer. J. of Mathematics 45
A923) 5-24.
2. Paley, R. E. A. C.: A Remarkable Series of Orthogonal Functions. Proc. London
Math. Soc. B) 34 A932) 241-279.
3. Fine, N. J.: On the Walsh Functions. Trans. Amer. Math, Soc. 69 A950) 66-77.
4. Olmsorg, F.: Binary Fourier Representation. Presented at the Spectrum Analysis
Techniques Symp., Honeywell Research Center, Hopkins, Minn., 20-21 Sept.
1966.
o.Andrews, H. C, and Caspari, K. L.: A Generalized Technique For Spectral
Analysis. IEEE Trans. Computers C-19 A970) 16-25.
6. Glassman, J. A.: A Generalization of the Fast Fourier Transform. IEEE Trans.
Computers C-19 A970) 105-116.
7. Ahmed, N., and Cheng, S. M.: On Matrix Partitioning and a Class of Algorithms.
IEEE Trans. Education E-13 A970) 103-105.
S.Pratt, W. K., Andrews, H. C, and Kane, J.: Hadamard Transform Image
Coding. Proc. IEEE 57 A969) 58-68.
9. Manz, J. W.: A Sequency-Ordered Fast Walsh Transform. IEEE Trans. Audio
and Electroacoustics AU-20 A972) 204-205.
10. Boesswetter, C: Analog Sequency Analysis and Synthesis of Voice Signals.
Proc. 1970 Walsh Functions Symposium, 220-229.
11. Robinson, (U.S.. and Campanella, 8. J.: Digital Sequency Decomposition of
Voice Signals. Proc. 1970 Walsh Functions Symposium, 230-237.
12. Harmuth, H. F.: Transmission of Information by Orthogonal Functions. 1st. ed.
New York, Heidelberg, Berlin: Springer-Verlag, 1969.
13. Ahmed, N., Rao, K. R., and Abdussattar, A. L.: BIFORE or Hadamard Trans-
Transform. IEEE Trans. Audio and Electroacoustics AU-19 A971) 225-234.
l&. Ahmed, N., and Rao, K. R.: A Phase Spectrum For Binary Fourier Representa-
Representation. Intern. J. Computer Math. Section B, C) A971) 85-101.

k-r). Ahmed, N., and Schultz, R. В.: Position Spectrum Considerations. IEEE Trans.
Audio and Electroacoustics AU-19 A971) 326-327.
16. Ahmed, N., Schultz, R. В., and Rao, K. R.: On the Characterization of the
Amplitude and Shift of N-Periodic Sequences. Information and Control 20 A972)
9-19.
17. Ohnsorg, F. R.: Spectral Modes of the Walsh-Hamard Transform. Proc. 1971
Walsh Functions Symposium,, 55-59.
18. Ahmed, N., Abdussattar, A. L., and Rao, K. R.: An Algorithm to Compute the
Walsh-Hadamard Transform Spectral Modes. Proc. 1972 Walsh Functions Sym-
Symposium, 276-280.
19. Abdussattar, A. L.: Spectral Modes of the Walsh-Hadamard Transform. Ph. D.
dissertation, Kansas State University, Manhattan, Kansas, U.S.A., 1972.
20. Corrington, M. S., and Adams, R. N.: Advanced Analytical and Signal Processing
Techniques. Applications of Walsh Functions to Nonlinear Analysis A962).
AD 277-942.
21. Pichler, F.: Walsh Functions aixl Optimal Linear Systems. Proc. 1970 Walsh
Functions Symposium, 17-22.
22. Frank, H. F.: Implementation of Dynamic Correlation. Proc. 1971 Walsh Func-
Functions Symposium, 111-117.
23. Ahmed, N., Rao, K. R., and Abdussattar, A. L.: On Cyclic Autocorrelation and
the Walsh-Hadamard Transform. IEEE Trans..Electromagnetic Compatability
EMC-15 A973) 141-146.
24. Bates; R. M.: Multi-dimensional BIFORE Transform. Ph. D. Dissertation, Kan-
Kansas State University, Manhattan, Kansas, U.S.A., 1971.
25. Ahmed, N., and Bates, R. M.: A Power Spectrum and Related Physical Inter-
Interpretation for the Multi-dimensional BIFORE Transform. Proc. 1971 Walsh
Functions Symposium, 47-50.
20. Yuen, C.: Walsh Functions and Gray Code. Proc. 1971 Walsh Functions Sym-
Symposium, 68-73.
27. Ohnsorg, F. R.: Quantization of the Fourier Sine-Cosine Functions. Honeywell
Memo No. U-RD 6299, Systems and Research Center, St. Paul, Minn. August 1963.
28. Robinson, G. S.: Logical Convolution and Discrete Walsh and Power Spectra.
IEEE Trans. Audio and Electroacoustics AU-20 A972) 271-279.
29. Gulamhusein, M. N., and Fallside,. F.: Short-Time Spectral and Autocorrelation
Analysis in the Walsh Domain. IEEE Trans. Info. Theory IT-19 A973) 615-623.
30. Bhagavan, B. K., and Polge, R. J.: Sequencing the Hadamard Transform. IEEE
Trans. Audio and Electroacoustics AU-21 A973) 472-473.
31. Mar, H. Y. L., and Sheng, C. L.: Fast Hadamard Transform using the H Dia-
Diagram. IEEE Trans. Computers C-22 A973) 957-959.
32. Ahmed, N., and Natarajan, T.: On Logical and Arithmetic Autocorrelation Func-
Functions. IEEE Trans. Electromagnetic Compatability EMC-16 A974) 177-183.
К главе 7
1. Ohnsorg, F. R.: Application of Walsh Functions to Complex Signals. Proc. 1970
Symp. Applications of Walsh Functions, 123-127.
2. Ohnsorg, F. R.: Properties of Complex Walsh Functions. Proc. IEEE Fall
Electronics Conf., Chicago, Oct. 18-20, 1971, 383-385.
3. Rao, K. R., and Ahmed, N.: Complex BIFORE Transform. Int. J. Systems Set.
2 A971I49-162.
4. Ahmed, N., and Rao, K. R.: Generalized Transform. Proc. 1971 Symp. Applica-
Applications of Walsh Functions, 60-67.
5. Ahmed, N., and Rao, K. R.: A Generalized Discrete Transform. Proc. IEEE
59 A971) 1360-1362.
*>. Rao, K. R., Ahmed, N., and Schultz, R. В.: A Class of Discrete Orthogonal
Transforms. Intl. Symp. Circuit Theory, April 9-11, 1973, Toronto, Canada.
238

Published in the Symp. Digest, 189-192.
7. Rao, K. R., Mrig, L. C, and Ahmed, N.: A Modified ОомпгаПмД Discrete Traiii-
form. Proc. IEEE 61 A973) 668-669.
8. Ahmed, N., Natarajan, Т., and Rao, K. R.: Some ConsidnnH itmi of the Modifit'tl
Walsh-Hadamard and Haar Transforms. Proc. 1973 Symp, Applications of
Walsh Functions, 91-95.
9. Andrews, H. C, and Caspari, K. L.: A Generalized. TwhitlqtMl for Spectral
Analysis. IEEE Trans. Computers C-19 A970) 16-25.
10. Cooley, J. W., and Tukey, J. W.: An Algorithm for the Maohlni Calculation of
Complex Fourier Series. Math. Computation 19 A965) 297-301,
11. Enomoto, H., and Shibata, K.: Orthogonal Transform Coding Nyitim for Tele-
Television Signals. Proc. 1971 Symp. Applications of Walsh Function*, lt-17.
12. Pratt, W. K., Welch, L. R., and Chen, W. H.: Slant Transforms for I limgfl Coding.
Proc. 1972 Symp. Applications of Walsh Functions, 229-234.
13. Chen, W. H., and Pratt, W. K.: Color Image Coding with the Slant TrfttlRform.
Proc. 1973 Symp. Applications of'Walsh Functions, 155-161.
14. Shibata, K.: Waveform Analysis of Image Signals by Orthogonal Trannforma-
tion. Proc. 1972 Symp. Applications of Walsh Functions, 210-215.
15. Shibata, K.: Block Waveform Coding of Image Signals by Orthogonal Trans-
Transformation. Proc. 1973 Symp. Applications of Walsh Functions, 137-143.
16. Ahmed, N., Natarajan, Т., and Rao, K. R.: Discrete Cosine Transform. IEEE
Trans. Computers C-23 A974) 90-93.
17. Pike, C. T.: Computer Evaluation of Mathematical Functions. Englewood Cliffs,
N. J.: Prentice Hall, 1968.
18. Bellman, R.: Introduction to Matrix Analysis. New York: McGraw-Hill, 1960.
19. Grenander, V., and Szego, G.: Toeplitz Forms and Their Applications. Berkeley
and Los Angeles: University of California Press, 1958.
20. Andrews, H. C, and Kane, J.: Kronecker Matrices, Computer Implementation,
and Generalized Spectra. J. Assoc. CompuL Mach. 17 A970) 260-268.
21. Whelchel, J. E., and Guinn, D. F.: The Fast Fourier-Hadamard Transform and
Its Use in Signal Representation and Classification. EASCON '68 Record, 1968,
561-573.
22. Brigham, E. O., and Morrow, R. E.: The Fast Fourier Transform. IEEE Spec-
Spectrum 4, Dec. 1967, 63-70.
23. Glassman, J. A.: A Generalization of the Fast Fourier Transform. IEEE Trans.
Computers C-19 A970) 105-116.
24. Theilheimer, F.: A Matrix Version of the Fast Fourier Transform. IEEE Trans,
Audio and Electroacoustics AU-17 A969) 158-161.
25. Gentleman, W. M.: Matrix Multiplication and the Fast Fourier Transform. Bell
System Tech. J. 47 A968) 1099-1103.
26. Rao, K. R., and Ahmed, N*: Modified Complex BIFORE Transform. Proc.
IEEE 60 A972) 1010-1012.
27. Rao, K. R., Mrig, L. C, and Ahmed, N.: A Modified Generalized Discrete Trans-
Transform. Proc. Sixth Asilomar Conf. on Circuits and Systems, 1972, 189-195.
28. Fino, B. J.: Relations Between Haar and Walsh-Hadamard Transforms. Proc.
IEEE 60 A972) 647-648.
29. Gibbs, J. E.: Discrete Complex Walsh Functions. Proc. 1970 Symp. Applications
of Walsh Functions, 106-122.
30. Elliott, D. F.: A Class of Generalized Continuous Orthogonal Transforms. IEEE
Trans. Acoustics, Speech and Signal Processing ASSP-23 A974) 245-254.
31. Ahmed, N., Natarajan, Т., and Rao, K. R.: Cooley-Tukey type Algorithm for
the Haar Transform. Electronics Letters 9 A973) 276-278.
32. Revuluri, K., et al.: Complex Haar Transform. Proc. Seventh Asilomar Conference
on Circuits, Systems, and Computers. Pacific Grove, California, Nov. 27-29,
1973, 729-733.
33. Elliott, D. F.: A Transform Class Governed by Signed-Bit Dyadic Time Shift.
239

1974 International Symposium on Circuits and Systems, San Francisco, Calif.
April 22-24, 1974.
:*4. Pratt, W. K., et al.: Slant Transform Image Coding. IEEE Trans. Communications
COM-22 A974) 1075-1093.
К главе 8
1. Davenport, \V. В., Jr.: Random Signals and Xoise. New York: McGraw-Hill,
1968.
2. Pratt, W. K.: Generalized Wiener Filtering Computation Techniques. IEEE
Trans. Computers C-21 A972) 636-641.
3. Pearl, J.: Basis Restricted Transformations and Performance Measures for Spec-
Spectral Representation. IEEE Trans. Information Theory IT-17 A971) 751-752.
4. —, Walsh Processing of Random Signals. IEEE Trans. Electromagnetic Com-
Compatibility (special issue) EMC-13 A971) 137-141.
5. Ahmed, N., Natarajan. Т., and Rao, K. R.: Discrete Cosine Transform. IEEE
Trans. Computers C-23 A974) 90-93.
6. Grenander, V., and Szego, G.: Toeplitz Forms and Their Applications. Berkeley,
Los Angeles: Univ. of California Press, 1958.
7. Andrews, H. C.< Computer Techniques in Image Processing. New York, London:
Academic Press, 1970.
8. Pratt, W, K.: Linear and Nonlinear Filtering in the Walsh Domain. IEEE
Trans. Electromagnetic Compatability (special issue) EMC-13 A971) 38-42.
9. Several articles in the Proceedings of the 1970-74 Symposia on Applications of
Walsh Functions.
10. Andrews, H. C, et al.: Image Processing by Digital Computer. IEEE Spectrum
9, July 1972, 20-32.
11. Pratt, W. K.: Walsh Functions in Image Processing and Two-Dimensional
Filtering. Proc. 1972 Symp. Applications of Walsh Functions, 14-22.
12. Fukunaga, K.: Introduction to Statistical Pattern Recognition. New York, London:
Academic Press, 1972.
13. Hildebrand, F. B.: Methods of Applied Mathematics. Englewood Cliffs, N. J.
Prentice-Hall, 1952.
14. Bellman, R.: Introduction to Matrix Analysis. New York, Londo/i: McGraw-
Hill, 1960.
К главе 9
1. Andrews, H. C.: Multidimensional Rotations in Feature Selection. IEEE Trans.
Computers C-20 A971) 1045-1051.
2. Milne, P. J.: Orthogonal Transform Processing of Electrocardiograph Data. Ph.
I), dissertation, Kansas State University, Manhattan, Kansas, USA, 1973.
3. Andrews, H. C.: Computer'/Techniques in Image Processing. New York, London:
Academic Press, 1970, 135-151.
4. Pratt, W. K.: Walsh Functions in Image Processing and Two-dimensional Filter
ing. Proc. 1972 Symp. Applications of Walsh Functions, 14-22.
5. Pearl, J.: Basis Restricted Transformations and Performance Measures for Spec-
Spectral Representation. IEEE Trans. Info. Theory IT-17 A971) 751-752.
6. - , Walsh Processing of Random' Signals. IEEE Trans. Electromagnetic Com
patability (special issue) EMC-13 A971) 137-141.
7. Pearl, J., Andrews, H. C, and Ptatt, W. K.: Performance Measures for Trans-
Transform Data Coding. IEEE Trans. Communications COM-20 A972) 411-415.
8. Ahmed, N., Natarajan, Т., and Rao, JK. R.: Discrete Coeine Transform. IEEE
Trans. Computers C-23 A974) 90-93.
9. Hildebrand, F. В.: Methods of Applied Mathematics. Englewood Cliffs, N. J.:
Prentice-Hall, 1952, 120-125.
240

К главе 10
1. Sebestyen, G. S.: Decision-Making Processes in Pattern Recognition. New York,
London: Macmillan, 1962.
2. Nilsson, N. J.: Learning Machines.New York, London: McGraw-Hill, 1965.
3. Fu, K. S.: Sequential Methods in Pattern Recognition and Machine Learning. New
York» London: Academic Press, 1968.
4. Watanabe, S.: Methodologies in Pattern Recognition. New York, London: Aca-
Academic Press, 1969.
5. Mendel, J. M., and Fu, K. S. (editors): Adaptive, Learning, and Pattern Recogni-
Recognition Systems. New York, London: Academic Press, 1970.
6. Fukunaga, K.: Introduction to Statistical Pattern Recognition. New York, London:
Academic Press, 1972.
7. Andrews, H. C: Introduction to Mathematical Techniques in Pattern Recognition.
New York, London: Wiley-Interscience, 1972.
S. Andrews, H. C: Multidimensional Rotations in Feature Selection. IEEE Trans.
Computers C-20 A971) 1045-1051.
9. Chaplin, W. G., and Levadi, V. S.: A Generalization of the Linear Threshold
Decision Algorithm to N Dimensions. Second Symposium on Computers and
Information Sciences, Columbus, Ohio, August 1968.
10. Zagaleky, N. R.: A New Formulation of a Classification P» oedure. Thesis for
the Degree of Master of Science, University of Minnesota, Minneapolis, Minn.,
1968.
11. Wee, W. G.: Generalized Inverse Approach to Adaptive Multiolase Pattern
Claesification. IEEE Trans. Computers C-17 A968) 1157-1164.
12. Milne, P. J.: Orthogonal Transform Processing of Electrocardiograph Data.
Ph.D. Dissertation, Kansas State University, Manhattan, Ks., 1973.
ДОПОЛНИТЕЛЬНАЯ ЛИТЕРАТУРА
1. Агарвал Р., Баррас С. Теоретико-числовые преобразования для быстрого
вычисления цифровой свертки. — ТИИЭР. 1975, вып. 4, с. 6—20.
2. Айзенберг Н. Нм Рудько В. П., Сысуев Е. В. Функции и дискретное преоб-
преобразование Хаара. — Известия АН СССР. Техническая кибернетика. 1975,
№ 6, с. 86—94.
3. Айзенберг Н. Н., Иваськив Ю. Л. Многозначная пороговая логика. Киев:
Наукова думка, 1977.
4. Алгоритм формирования симметричных систем функций Уолша/Артемьев
М. Ю., Гаев Г. П., Кренкель Т. Э., Скотников А. П. — Радиотехника и элек-
электроника. 1978, № 7, с. 1432—1440.
5. Блюмин С. Л., Трахтман А. М. Дискретное преобразование Гильберта на
конечных интервалах. — Радиотехника и электроника. 1977, № 7, с. 1390—
1398.
6. Бойко Л. Л. Обобщенное преобразование Фурье—Хаара и абелевы расши-
расширения полей. — В кн.: Пятый Международный симпозиум по теории инфор-
информации. Часть II. Тбилиси, 1979.
7. Большаков И. А., Ракошиц В. С. Приложение ортогональных систем дис-
дискретных функций к микропроцессорной обработке сигналов. Часть 1. — Из-
Известия АН СССР. Техническая кибернетика. 1977, № 5,.с. 143—147.
8. Гармонический анализ на группах в абстрактной теории систем. — Межву-
Межвузовский сб., УПИ им. С. М. Кирова. Свердловск, 1976.
9. Дядюнов Н. Г., Сенин А. И. Ортогональные и квазиортогональные сигналы.
М.: Связь, 1977.
0. Зеленков А. В. Быстрое преобразование спектра сигналов из базиса функ-
функций Уолша в базис дискретных экспоненциальных функций. — Радиотехни-
Радиотехника и электроника. 1977, № 3, с. 552—565.
241

11. Зеленков А. В. Свойства преобразования Уолша дискретных экспоненциаль-
экспоненциальных функций. — Известия вузов. Серия «Радиоэлектроника». 1977, № 7,
с. 73—80.
12. Зеленков А. В. О связи спектров мощности и автокорреляционных функций
дискретных сигналов в базисах ВК.Ф и ДЭФ. — Радиотехника и электро-
электроника. 1978, № 2, с. 315—325.
13. Зеленков А. В. Быстрое преобразование спектральных функций действи-
действительных последовательностей из базиса функций Уолша в базис дискрет-
пых экспоненциальных функций. — Известия вузов. Серия «Радиоэлектро-
«Радиоэлектроника». 1978, № 9, с. 10—17.
14. Карповский М. Г., Москалев \Э. С. Спектральные методы анализа и син-
синтеза дискретных устройств. Л.: Энергия, 1973.
15. Качмаж С, Штейнгауз Г. Теория ортогональных рядов: Пер. с нем./Под
ред. и с дополнением Н. Я. Вшюнки'на. М.: Физматгиз, 1958.
16. Кренкель Т. Э. Решетчатые системы и связанные с ними мультипликатив-
мультипликативные базисы. — В кн.: Вунш Г. Теория систем: Пер. с нем. М.: Сов. радио,
1978, с. 261—280.
17. Кухарев Г. А., Дагман Э. Е. Ортогональные базисы для задач цифровой
обработки сигналов. — Препринт 42—79. Институт физики полупроводников
СО АН СССР. Новосибирск, 1980.
18. Лабутин В. К., Сапожкова И. Ф., Чечулин В. Н. Об одном классе инва-
инвариантных к циклическому сдвигу форм и их применении в управляемом
эксперименте. —Известия АН СССР. Техническая кибернетика. 1978, № 3,
с. 195—201.
19. Лоули Д., Максвелл А. Факторный анализ как статистический метод. М.:
Мир, 1967.
20. Мамонтова Л. А., Пономарев В. А., Попечителев Е. П. Матричные опера-
операторы связи дискретных спектров Фурье и Уолша. — Автометрия. 1977, № 1,
с. 41—45.
21. Обработка изображений при помощи цифровых вычислительных машин.—
Сб. переводов с англ./Под ред. Д. С. Лебедева. М.: Мир, 1973.
22. Обработка изображений и цифровая фильтрация. Под ред. Т. Хуанга. М.:
Мир, 1979.
23. Оппенгейм А. В., Шафер Р. В. Цифровая обработка сигналов: Пер. с англ./
Под ред. С. Я. Шаца. М.: Связь, 1979.
24. Пойда В. Н. Спектральный анализ в дискретных ортогональных базисах.
Минск: Наука и техника, 1978.
25. Полонников Р. И., Костюк В. И., Краскевич В. Е. Матричные методы об-
обработки сигналов. Киев: Техника, 1977.
26. Рабинер Л., Гоулд Б. Теория и применение цифровой обработки сигналов:
Пер. с англ./Под ред. Ю. Н. Александрова. М.: Мир, 1978.
27. Специализированные многозначные анализаторы. Сборник под ред. М. А.
Ракова. Киев: Наукова думка, 1977.
28. Солодовников А. И., Канатов И. Им Спиваковский А. М. Методы быстрых
спектральных преобразований в задачах оперативной обработки информа-
информации.— В кн.: Вопросы кибернетики. М., 1979, вып. 62, с. 19—35.
29. Трахтман А. М. Введение в обобщенную спектральную теорию сигналов.
М.: Сов. радио, 1972.
30. Трахтман А. М., Трахтман В. А. Основы теории дискретных сигналов на
конечных интервалах. М.: Сов. радио, 1975.
31. Трахтман В. А. Быстрое преобразование Фурье для широкого класса орто-
ортогональных функций. — Радиотехника и электроника. 1976, № 5, с. 1034—
1041.
32. Ту Джм Гонсалес Р. Принципы распознавания образов: Пер. с англ./Под
ред. Ю. И. Журавлева. М.: Мир, 1978.
33. Фоменко И. Б. Анализ случайных процессов с использованием функций
Уолша. — Радиотехника и электроника. 1977, № 4, с. 720—728.
34. Ярославский Л. П., Мерзляков Н. С. Методы цифровой голографии. М.:
Наука, 1977.
35. Ярославский Л. П. Введение в цифровую обработку изображений. М.: Сов.
радио, 1979.
242

36. Ahmed N., Chen M. C. A Cooley-Tukey algorithm for the slant triinaform, -=•
Intern. J. Computer Math., 1976, v. 5, p. 331—338.
37. Beauchamp K. G. Walsh-Functions and their applications. — N. Y.: Academic
Press, 1975.
38. Kitai R., Siemens K. H. Discrete Fourier transform via Walsh Iniii.ifonii,
IEEE ASSP-27, 1979, N 3, p. 288.
39. McClellan J. H., Rader С. М. Number theory in digital signal рг<нт»н1иц, ^
Englewood Cliffs New Jersey: Prentice Hall, 1979.
40. Rao K. R., Revuluri K., Narasimhan M. A. Complex Haar transform. -- ШВ1
ASSP-24, 1976, N 1, p. 102—104.
41. Rumatowski K. Non-recursive digital filtering using Walsh and НийГ tfini'j
forms. — Foundations of control engineering, 1976, N 3, p. 179—196,
42. Ulman L. T. Computation of the Hadamard transform and the R-trnnefgfltt In
ordered form. — IEEE trans, on Computers, 1970, N 2, p. 359—360,
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
Автокорреляция 27
Автокорреляционная матрица 179
Адамаровское упорядочение 85, 89, 90
Алгоритм Кули—Тьюки 55, 149, 152
Амплитудный спектр 17, 23, 43, 71
Анализ главных компонент 184
Базисно ограниченное преобразова-
преобразование 197
Белый шум 171, 175
ковариационная матрица 171
Быстрое преобразование Фурье
(БПФ) 54
обратное (ОБПФ) 64
приложения 71, 73
программа 79
Вектор образа 204
Взаимная корреляция 24
Винеровская фильтрация 9, 12, 165,
166, 177
Выбор признаков 1, 204, 211
Гармоники 14
Градиент 165
Двоичная инверсия 62
Диагональный фильтр 172
кривые качества 176
оптимальный 172
субоптймальный 174
Дидактическая инвариантность 111
— корреляция 129
— свертка 129
Дидактический сдвиг 109
Диадическое упорядочение 86, 87
Дискретизатор 9
Дискретизированный сигнал 9
Дискретное преобразование Фурье
(ДПФ) 11, 34
теорема линейности 35
комплексной сопряженно-
сопряженности, 35
_ _ ^ _i сдвига 36
свертки 36
корреляции 3(>
спектр мощности 4!)
фазовый спектр 44
двумерное 44
мгновенный спектр 50
Дискриминантная функции 2()в, ЙП|
216
Дисперсионный критерий 185, 190*
197, 211
Дискретное косинусное npeortpnaOit»
ние (ДКП) 12, 156, 141
двумерное 159
Единичный вектор 217
Естественное упорядочение Ж), 81, 10
Закодированное изображение 199
Зональное кодирование 195
Изображение, полученное со сиутиИ»
ка ERTS 196, 197
Испытательный образ 206
Квадратичный классификатор 226, 9Э8
— спектр 128, 130
Класс ортогональных функций 81
Классификация изображений 210
Классификатор, работающий но кри-
критерию минимума расстояния 205, 207
наименьшего среднекнйдрй»
тичного расстояния 214
Ковариационная матрица 1(>Г>, 178,
184, 186
Код Грея 86, 87, 90, 91
— — преобразование двоичного КОДй
в код Грея 87, 90
кода Грея в двоичный КОД
87, 89, 91, 102, 104
Комплексно-сопряженная величина 1<2
Комплексный ряд Фурье 15
Корреляционная матрица 179
Корреляция 37
— матричное представление 39
24,1

Коэффициент корреляции 179
— уменьшения выборки 223
— — количества бит 195
Кронекеровское произведение матриц
145, 160
Кусочно-линейный классификатор 229
Линейная разделимость 222
Матрица Адамара 86, 89
рекуррентное определение 95
свойства 96
— ошибок 2^2
Мгновенный спектр Фурье 46
Многочлены'Лежандра 14
— Чебышева 156
Множители Лагранжа 184, 201
Модифицированная матрица Адамара
123, 125, 151
Модифицированное преобразование
Уолша—Адамара (МПУА) 82, 123
алгоритм быстрого вычисле-
вычисления 125
Модифицированное обобщенное дис-
дискретное преобразование 162
Несовместимые уравнения 230
Нормальное распределение 198
Обобщенная винеровская фильтрация
9, 164
— частота 82
— обращение 230
— преобразование 12, 141
обратное 146
Обобщенный винеровский фильтр 169
оптимальный диагональный
фильтр 172
— субоптимальный 171
Обработка речи 9
— изображений 9, 12
Обучаемый классификатор 204
Обучающее множество 205
Ортогональные функции 9
Основная частота 14
Отображение по методу наименьших
квадратов 213
Перестановка данных 68
Пилообразные матрицы 152
рекуррентное определение 154
Пилообразное преобразование 12, 154
вычисление 156
— — двумерное 159
Полное множество 10
Порог 206
Последовательность данных 9
Представление сигнала рядом Фурье
14
комплексным рядом Фурье 15
рядом Уолша 94
связанное с сжатием данных
181
244
с помощью ортогональных
функций 9
Преобразование Фурье 11, 21, 41
спектр 23, 46
— Уолша—Адамара с упорядочением
по Адамару (ПУА) 96
— алгоритм быстрого вычи-
вычисления 99
теорема автокорреляции
129
программа 134
— матричное определение 97
показательное определе-
определение 98
спектр 112, 122
многомерное 132
с упорядочением по Уолшу
(ПУА) 103
— алгоритм быстрого вычи-
вычисления 105
матричное определение
103
показательное определе-
определение 104
программа 134
Преобразование Хаара (ПХ) 12, 85,
142, 148
алгоритм быстрого вычисления
148, 149
Преобразование BIFORE 96
комплексное 143
— Карунева—Лоэва (ПКЛ) 12, 174,
184
Пространство признаков 205
расширенное 215
— решений 213
Разложение Карунева—Лоэва 184
Распознавание образов 204
Распределение дисперсии 185, 189,
190, 211
Решающее правило 207
Ряд Фурье 11, 14, 22, 23, 42
спектр 18, 19
теоремы 26, 29
— Уолша 85
Сигнал 9
— ограниченный по полосе 30
Система функций sal, cal 83
Сжатие данных 8, 181
— электрокардиограмм 186
— изображений 192
— электрокардиограмм 186
Свертка 27
— матричное представление 40
След 169, 180, 181, 185
Собственные векторы 173, 181, 185
Собственные значения 173, 181, 185
Спектроскопия 9
Теорема Теплица 176
— циклической автокорреляции 130

Теплицева матрица 158
Упорядочение функций Уолща 86
диадическое (по Пэли) 87
естественное (по Адамару)
89
по частности (по Уолшу) 86
Уменьшение размерности 204
Факторный анализ 184
Факторизация матриц 141, 160
Фрагмент изображения 192
Функции Радемахера 82, 83, 85
— Уолша 81, 83, 85, 86, 94, 95
— Хаара 82, 83, 85, 148
Функция степени искажения 198
для марковского процесса
200
Циклическая инвариантность 109
— корреляция 74, 129
— свертка 74, 129
Циклические коды 90
Циклический сдвиг 109
Цифровая последовательность 9
Частность 12, 82, 94, 102
Электрокардиограмма 196
— система расположения электродов
187
— эксперимент по классификации 226
сжатию 187

ОГЛАВЛЕНИЕ
Стр.
Предисловие к русскому изданию 5
Предисловие авторов 7
Глава 1. Введение 8
1.1. Общие замечания 8
1.2. Терминология 8
1.3. Представление сигнала с помощью ортогональных функций ... 9
1.4. Содержание книги 11
Задачи 12
Глава 2. Фурье-представление сигналов 14
2.1. Фурье-представление 14
2.2. Спектр мощности, амплитудный и фазовый спектры 17
2.3. Преобразование Фурье 21
2.4. Связь между рядом Фурье и преобразованием Фурье 23
2.5. Взаимная корреляция, автокорреляция и свертка 24
2.6. Теорема отсчетов 29
2.7. Заключение 32
Задачи 33
Глава 3. Фурье-представление временных последовательностей . . 34
3.1. Определение Дискретного преобразования Фурье 34
3.2. Свойства ДПФ 35
3.3. Матричное представление корреляции и свертки 39
3.4. Соотношение между ДПФ, преобразованием Фурье и рядом Фурье . 41
3.5. Спектр мощности, амплитудный и фазовый спектры 43
3.6. Двумерное ДПФ 44
3.7. Мгновенный спектр Фурье 46
3.8. Заключение 51
Задачи 52
Глава 4. Быстрое преобразование Фурье 54
4.1. Постановка задачи 55
4.2. Обоснование поиска алгоритма 55
4.3. Основа для вывода алгоритма 56
4.4. Вывод алгоритма 57
4.5. Численные примеры 64
4.6. Перестановка данных 68
4.7. Объем вычислений и памяти 69
4.8. Некоторые приложения 71
4.9. Заключение 77
Приложение 4.1. Программа БПФ 77
Задачи 77
Глава 5. Класс ортогональных функций 81
5.1. Определение частости 82
5.2. Обозначение непрерывных и дискретных функций 83
5.3. Функции Радемахера и Хаара 84
5.4. Функции Уолша 86
5.5. Заключение 90
Приложение 5.1. Код Грея . 90
Задачи 91
Глава 6. Преобразование Уолша—Адамара 94
6.1. Представление сигналов в виде ряда Уолша 94
6.2. Преобразование Уолша—Адамара, упорядоченное по Адамару (WHT) л 96
6.3. Быстрое преобразование Уолша—Адамара, упорядоченное по Адама-
ру (БПУА) 99
6.4. Преобразование Уолша—Адамара, упорядоченное по Уолшу (WHT)u> ЮЗ
246

Стр.
6.5. Быстрое преобразование Уолта— Адамара, упорядоченное по Уолту
(FWHTO/, 105
6.6. Циклический и диадичсский сдвиги 109
6.7. Спектр ПУЛ с упорядочением по Уолшу 111
6.8. Спектр ПУЛ с упорядочением по Адамару (WHT)^ 112
6.9. Физическая интерпретация энергетического спектра ПУЛ с упорядо-
упорядочением но Лдамару 116
6.10. Модифицированное преобразование Уолша—Адамара (МПУА) . . 123
6.11. Циклическая и диадическая корреляция (свертка) 128
6.12. Многомерные преобразования Уолша—Адамара с упорядочением по
Адамару и по Уолшу 130
6.13. Заключение 133
Приложение 6.1. Программа БПУА 133
Задачи 134
Глава 7. Различные ортогональные преобразования 141
7.1. Факторизация матриц 141
7.2. Обобщенное преобразование 145
7.3. Преобразование Хаара (НТ) 148
7.4. Алгоритмы для вычисления преобразования Хаара (ПХ) .... 148
7.5. Пилообразные матрицы 152
7.6. Определение пилообразного преобразования 154
7.7. Дискретное косинусное преобразование (ДКП) 156
7.8. Двумерные преобразования 159
7.9. Заключение 159
Приложение 7.1. Кронекеровское произведение матриц 160
Приложение 7.2. Факторизация матриц 160
Задачи 161
Глава 8. Обобщенная винеровская фильтрация 164
8.1. Некоторые основные матричные операции 165
8.2. Математическая модель 166
8.3. Расчет фильтра 167
8.4. Субоптимальпая винеровская фильтрация 170
8.5. Оптимальные диагональные фильтры 172
8.6. Субоптимальные диагональные фильтры 174
8.7. Двумерная винеровская фильтрация 177
8.8. Заключение 177
Приложение 8.1. Терминология и определения 178
Задачи 180
Глава 9. Сжатие данных 182
9.1. Поиск оптимального преобразования 182
9.2. Дисперсионный критерий и распределение дисперсии 185
9.3. Сжатие электрокардиограмм 186
9.4. Основные понятия сжатия изображений 192
9.5. Примеры сжатия изображений 195
9.6. Дополнительные соображения 197
9.7. Заключение 201
Приложение 9.1. Множители Лагранжа 201
Задачи 202
Глава 10. Выбор признаков и распознавание образов 204
10.1. Введение 204
10.2. Принцип обучения 205
10.3. d-мерные образы 207
10.4. Задача трех классов 208
10.5. Эксперимент по классификации изображений 210
10.6. Метод отображения по методу наименьших квадратов . . . . 213
247

10.7. Расширенное пространство признаков 2If.
10.8. Классификатор для распознавания трех классов образов по крите-
критерию наименьшего среднеквадратичного расстояния 2Н_
10.9. Классификатор для распознавания К классов образов по критерию
наименьшего среднеквадратичного расстояния 221
10.10. Квадратичные классификаторы 22Г
10.11. Эксперимент по классификации ЭКГ 22f
10.12. Заключение 22£
Задачи 22£
Список литературы 23Г
Дополнительная литература 24
Предметный указатель 24£
Насир Ахмед, Камисети Рамамахан Рао
ОРТОГОНАЛЬНЫЕ ПРЕОБРАЗОВАНИЯ ПРИ ОБРАБОТКЕ
ЦИФРОВЫХ СИГНАЛОВ
Редактор Н. М. Улановская
Обл. художника Л. Н. Сальянова
Художественный редактор Р. А. Клочков
Технический редактор К. Г. М а р к о ч
Корректор Л. В. Алексеева
ИБ № 608
Сдано в набор 12.05.80 г. Подп. в печ. 25.07.80
Формат 60x90/i,6 Бумага тип. № 1 Гарнитура литературна
Печать высокая Усл. печ. л. 15,5 Уч.-изд. л. 15,51 Тираж 5000 эк
Изд. № >18530 Зак. № 88 Цена 1 р. 40 к.
Издательство «Связь». Москва 101000, Чистопрудный бульвар, д. 2
Типография издательства «Связи» Госкомиздата СССР
Москва 1О100О, -ул. Кирова, д.г ,40