НОУ ИНТУИТ | Математические методы распознавания образов. Лекция 11: Методы генерации признаков

Учитесь и получайте официальные документы БЕСПЛАТНО. Вы можете поддержать наш проект.

Твой путь к знаниям!

Московский государственный университет имени М.В.Ломоносова

Опубликован: 30.04.2008 | Доступ: свободный | Студентов: 1617 / 252 | Оценка: 4.24 / 3.92 | Длительность: 14:56:00

Специальности: Математик

Теги: beta, IWR, recognition, алгоритмы, базисными векторами, выпуклая оболочка, выходной нейрон, направляющий вектор, обучение, поиск, полиэдр, пространство признаков, процедуры, разработка, сложность, собственный вектор, теория, эмпирический риск

|

Вам нравится? Нравится 22 студентам

| Поделиться |

Поддержать курс

| Скачать электронную книгу

11.3. Дискретное преобразование Фурье (ДПФ)

Преобразования типа Карунена-Лоева есть результат специальной обработки (оптимизации) применительно к конкретной выборке требует больших вычислительных затрат. Если разложить по некоторому заданному базису, то можно снизить затраты, правда снизив требования к разложению.

11.3.1. Одномерное дискретное преобразование Фурье

Пусть $x(0),x(1),\ldots,x(N-1)$ – исходных измерений. Тогда ДПФ определяется следующим образом:

$y(k)=\frac{1}{\sqrt{N}}\sum_{n=0}^{N-1}x(n)\exp \left( -j\frac{2\pi}{N}kn \right),$

где $k=0,1,\ldots,N-1$ и $\exp\{\alpha_j\}=\cos(\alpha)+j\sin(\alpha)$ .

Обратное преобразование есть:

$x(k)=\frac{1}{\sqrt{N}}\sum_{k=0}^{N-1}y(n)\exp \left( j\frac{2\pi}{N}kn \right),$

где $n=0,1,\ldots,N-1$

Определим

$W_N=\exp \left\{ -j\frac{2\pi}{N} \right\}.$

Тогда

$\exp \left( -j\frac{2\pi}{N}kn \right)=W_N^{kn}.$

Пусть y=W^Hx , тогда x=Wy ,

$W^H=\frac{1}{\sqrt{N}}\cdot \begin{pmatrix} 1&1&\ldots&1\\ 1&W_N&\ldots&W_N^{N-1}\\ 1&W_N^2&\ldots&W_N^{2(N-1)}\\ \vdots&\vdots&\ddots&\vdots\\ 1&W_N^{N-1}&\ldots&W_N^{(N-1)(N-1)} \end{pmatrix}.$

Утверждается, что – унитарная симметрическая матрица. Пусть W^* – сопряженная матрица: $W^*=W^H=W^{-1}$ . Тогда базисные вектора – это столбцы матрицы . Таким образом, имеет место разложение по заданному базису (по определению $x=\sum_{i=0}^{N-1}y(i)a_i$ – разложение по базисным векторам).

Прямое вычисление y=W^Hx или x=Wy имеет сложность O(N^2) , однако, специфика структуры матрицы позволяет строить алгоритмы сложности $O(N\ln N)$ .

ДПФ можно рассматривать как разложение последовательности X(n) в множество базисных последовательностей h_k(n) :

$X(n)=\sum_{k=0}^{N-1}y(k)h_k(n),$

где

$h_k(n)= \left\{ \begin{aligned} &\frac{1}{N}\exp \left\{ j\frac{2\pi}{N}kn \right\}, \text{ при }n=0,1,\ldots,N-1,\\ &0,\text{ иначе}. \end{aligned} \right.$

- коэффициенты разложения, а последовательности h(k)n

ортогональные:

$(h_k,h_l)=\delta_{kl}= \left\{ \begin{aligned} &1,\text{ при }k=l,\\ &0,\text{ иначе}. \end{aligned} \right.$

11.3.2. Двумерные ДПФ

Пусть $X(i,j),\;i,j=0,1,\ldots,N-1$ – двумерные измерения. Тогда двумерное ДПФ есть:

$Y(k,l)=\frac{1}{N}\sum_{m=0}^{N-1}\sum_{n=0}^{N-1}X(m,n)W_N^{k\times m}W_N^{l\times n}.$

Обратное преобразование:

$X(m,n)=\frac{1}{N}\sum_{k=0}^{N-1}\sum_{l=0}^{N-1}Y(k,l)W_N^{-k\times m}W_N^{-l\times n}.$

Данную запись компактно можно переписать в следующем виде:

$Y=W^HXW^H,\; X+WYW.$

Данное преобразование – это преобразование с базисными матрицами или образами $w_iw_j^T,\;i,j=0,1,\ldots,N-1$ . Число требуемых операций "в лоб" равно O(N^3) . Учитывая специфическую структуру , существуют методы сложности $O(N^2\ln N)$ .

11.3.3. Дискретное косинусное преобразование (ДКП)

Данное преобразование имеет вид:

$y(k)=\alpha(k)\sum_{n=0}^{N-1}x(n)\cos \left( \frac{\pi(2n+1)k}{2N} \right), \;k=0,1,\ldots,N-1,$

где

$x(n)=\sum_{k=0}^{N-1}\alpha(k)y(k)\cos \left( \frac{\pi(2n+1)k}{2N} \right), \;n=0,1,\ldots,N-1,$

где $\alpha(k)= \left\{ \begin{aligned} &\sqrt{\frac1N},\text{ при }k=0,\\ &\sqrt{\frac2N},\text{ иначе}. \end{aligned} \right$ .

Его можно переписать в векторной форме: y=C^Tx , где

$C(n,k)= \left\{ \begin{aligned} &\sqrt{\frac1N},\text{ при }k=0,0\leq n\leq N-1,\\ &\sqrt{\frac2N}\cos\left(\frac{\pi(2n+1)k}{2N}\right),\text{ при }k=1,2,\ldots,N-1,\;0\leq n\leq N-1. \end{aligned} \right.$

и

– действительная матрица, причем $C^{-1}=C^T$ .

Двумерное ДПФ определяется так

$Y=C^TXC\text{ и }X=CYC^T.$

11.3.4. Дискретное синусное преобразования (ДСП)

Данное преобразование вычисляется аналогично косинусному через матрицу:

$S(k,n)=\sqrt{\frac{2}{N-1}}\sin\left(\frac{\pi(k+1)(n+1)}{N+1}\right),\;k,n=0,1,\ldots,N-1.$

Вычислительная сложность затрат на ДКП и ДСП есть $O(N\ln N)$ .

ДКП и ДСП обладают хорошими "упаковочными" свойствами для большинства изображений в том смысле, что концентрируют основную информацию в небольшом числе коэффициентов. Объясняется это тем, что оба они дают хорошее приближение для большого класса реальных образов, моделируемых случайных сигналов, известные как Марковский процесс 1-ого порядка.

Дальше >>

Авторизоваться

Математические методы распознавания образов

Методы генерации признаков

11.3. Дискретное преобразование Фурье (ДПФ)

Вопросы и ответы