[Wavelet Transform] An Introduction to Wavelets - Amara Graps

원문 링크: http://enshahar.tistory.com/51


DMB나 영상처리 등을 들여다 볼 일이 있어서, 관련 논문이나 웹페이지를 보다 보면,
Wavelet Transform을 마주칠 일이 자주 있다. 웨이블렛 관련한 소개 논문 중 가장 유명한 것이
Amara Graps의 논문이다. 다음은 1,2장의 대략의 번역이다. 전체 내용이 길어서 나눠서
올릴 것이다.
---------------------
1. 웨이블렛 개요
웨이블렛의 기본 아이디어는 스케일에 따라 데이터를 나누어 분석하는 것이다.

웨이블렛은 데이터 또는 다른 함수를 표현하는 데 사용되는 몇가지 수학적 특성을 만족하는
함수들이다. 여러 함수를 조합해 데이터/함수를 표현하는 것은 1800년 푸리에(Fourier)가 함수를
사인과 코사인의 합으로 표현할 수 있다는 푸리에 변환을 발견한 때부터 계속되어온 개념이다.
웨이블렛에서 데이터를 살펴볼 때 사용하는 스케일은 특별한 역할을 한다. 웨이블렛 알고리즘은
여러 다른 스케일 혹은 해상도에 따라 데이터를 처리한다. 만약 우리가 처리 대상 신호를 커다란
"창"를 통해 살펴보면 전반적인(gross) 특성을 볼 수 있다. 마찬가지로 만약 우리가 처리 대상 신호를
작은 "창"을 통해서 본다면 작은 특성을 보게 된다. 말하자만, 웨이블릿 분석의 결과는 나무도 보고
숲도 보는 것이다.

이런 특성으로 인해 웨이블렛 변환이 흥미롭고, 유용하다. 수십년간 과학자들은 변동이 심한(choppy) 신호를
표현하기 위해 푸리에 변환의 기반이 되는 사인/코사인 함수 외의 또 다른 근사함수를 원했다.
[각주: choppy signal: R.Crandall, Project and Scientific Computation, Spring-Verlag, N.Y., 1994, pp.
197-198, 211-212] 이런 함수(사인/코사인)는 정의대로 지역적이지 않고(그리고 무한대까지 진행된다),
그에 따라 날카로운 피크를 근사하는데는 적합하지 않다. 하지만, 웨이블렛 변환을 사용할 경우에는
유한한 정의역(도메인,domain)을 가지는 함수를 근사함수로 사용할 수 있다. 웨이블렛은 날카로운
불연속성을 지니는 데이터를 근사할 때 적합하다.

웨이블렛 변환 과정은 웨이블렛 원형함수(프로토타입함수,prototype function)을 적용하는 것이다.
그런 함수는 분석 웨이블렛 또는 모 웨이블렛이라고 한다. 시계열 분석은 모 웨이블렛의 미리 정해진 고주파
버전을 사용해 이루어지고, 주파수 분석은 동일한 모 웨이블렛이 확장된 저주파 버전을 사용해 이루어진다.
원래의 신호/함수가 웨이블렛의 전개식으로 표현(즉, 웨이블렛 함수의 선형 조합으로 표현)될 수 있기 때문에,
데이터 연산은 웨이블렛 계수만 사용해 수행될 수 있다. 또한 어떤 데이터를 표현하는데 더 적합한 웨이블렛을
선택할 수 있거나, 웨이블렛 계수를 어떤 값 이하로 잘라내거나 한다면, 그 데이터는 더 성기게(sparse)
표현될 수 있다. 이런 성질로 인해 웨이블렛은 데이터 압축에서 매우 훌륭하게 쓰일 수 있다.

웨이블렛을 사용하는 다른 적용분야는 천문학, 음향학, 핵공학, 서브밴드 코딩, 신호/이미지 처리, 신경심리학,
음악, 자기 공명 이미징, 음성 인식, 광학, 프랙탈, 난류, 지진예측, 레이더, 인간의 시각(human vision),
그리고 부분 미분방정식의 풀이와 같은 순수 수학의 응용분야에 걸쳐 있다.

2. 역사적 관점
수학 역사에 있어 웨이블렛은 여러가지 다른 기원을 가지고 있다. 대부분의 작업은 1930년대에 이루어졌으며,
그 당시에 있어 각각의 시도는 어떤 일관된 이론의 일부로 나타난 것 같아 보이지는 않는다.

2.1 1930년대 이전

1930년 이전, 웨이블렛으로 이끌어준 주된 수학 분야는 조셉 푸리에(1807)의 주파수 분석 이론이다.
그 이론은 현재는 푸리에 합성으로 알려져 있다. 푸리에는 모든 2pi 주기 함수 f(x)는
다음과 같은 푸리에 급수의 합으로 나타낼 수 있다고 했다.

이때, 각각의 계수는 다음과 같이 계산할 수 있다.

푸리에의 이론은 수학자들이 함수에 대해 가지고 있던 생각의 변화에 중요한 역할을 했다. 그는 새로운 함수의
세계를 열어젖혔다.

1807년 이후, 함수의 의미와 푸리에 급수의 수렴, 그리고 직교(othogonal) 시스템에 대한 연구를 통해
수학자들은 이전의 주파수 분석(frequency analysis)이라는 사고방식에서 스케일 분석(scale analysis)이라는
사고방식으로 나아갈 수 있었다. 그것은, f(x)를 다양한 스케일의 수학적 구조를 만들어서 분석하는 것이다.
어떻게? 함수를 만들고, 어떤 값만큼 시프트(shift)시킨 후, 그 함수의 스케일을 변경한다.
그 후, 그 구조를 신호를 근사하는 데 사용한다. 이제 이 과정을 반복한다. 방금 진행했던 기본 구조를
가지고, 시프트한 후, 다시 스케일을 변경한다. 그 결과를 동일한 신호에 적용해서 새로운 근사값을 얻는다.
등등.. 이런 종류의 스케일 분석은 노이즈에 덜 민감하다는 것이 밝혀졌다. 왜냐하면, 신호의 평균적인 변동이
여러 다른 스케일에서 측정되기 때문이다.

웨이블렛에 대한 첫번째 언급은 A. Haar(1909)의 학위논문의 부록에 나타나 있다. Haar 웨이블렛의 한가지
특성은 compact support를 가진다는 것이다. 그 의미는 유한한 구간 바깥에서는 함수값이 0이라는 것이다.
불행하게도 Haar 웨이블렛은 연속적으로 미분가능하지 않아서 응용 범위가 제한된다.

2.2 1930년대

1930년대에 여러 그룹이 독립적으로 스케일이 변하는(scale varying) 기저함수(basis function)를 가지고
함수를 표현하는 방법을 연구했다. 기저함수와 스케일 변화하는 기저함수에 대해 이해하는 것이
웨이블렛을 이해하는 핵심이다. 아래의 박스는 관심 있는 사람에게 더 자세한 설명을 제공한다.

Haar 기저함수라 불리는 스케일이 변하는 기저함수를 사용해서, 1930년대 물리학자 Paul Levy는 랜덤 신호의
한 종류인 브라운운동을 다루었다. 그는 Haar 기저함수가 푸리에 기저함수보다 브라운운동의 세세한 복잡한
부분을 연구하기에 훨씬 유용하다는 것을 밝혀냈다.

또 다른 1930년의 연구는 Littlewood, Paley, 그리고 Stein이 참여한 함수 f(x)의 에너지를 계산하는 것이다.

만약 에너지가 몇몇 지점에만 집중되어 있는지, 넓은범위에 걸쳐 있는지에 따라 계산 결과가 다르게 나타났다.
이런 결과는 에너지가 보존되지 않을 수 있다는 가능성을 나타내기 때문에 과학자들을 당혹케 했다. 이들은
스케일이 변하면서 함수의 에너지를 계산할 때도 에너지가 보존되는 함수를 발견했다. 그들의 연구는
1980년대 초 David Marr에게 웨이블렛을 이용한 이미지 처리에서 효율적인 알고리즘을 제공했다.

*** 기저함수(basis function)란 무엇인가?
기저함수를 설명하기는 아날로그(함수)가 아닌 디지털(벡터) 영역에서 생각하는 것이 더 쉽다.

모든 2차원 벡터 (x,y)는 두 벡터 (1,0)과 (0,1)의 조합으로 표현될 수 있다. 이러한 두 벡터(여기서는
(1,0)과 (0,1))를 (x,y)의 기저벡터라 한다. 왜 그럴까? x * (1,0) + y * (0,1) = (x,y)이기 때문이다.

가장 좋은 기저 벡터는 한가지 유용한 특성을 더 지닌다. 그것은 두 벡터가 서로 수직(perpendicular) 또는
직교(othogonal)한다는 것이다.

이제 다시 아날로그 세계로 돌아가서 이 개념이 기저함수와 어떤 관계가 있나 살펴보자. 벡터 (x,y) 대신에
f(x)를 다뤄야 한다. 예를 들어 f(x)가 음악에서 어떤 옥타브의 A(라) 음이라 하자. 우리는 A를 사인과
코사인의 주파수와 진폭의 조합으로 표현할 수 있다. 따라서 이 예에서는 사인과 코사인 함수가 기저함수가
된다. 또한 사인/코사인 함수는 푸리에 합성의 기본 요소이다. 선택된 사인과 코사인에 대해 우리는
직교성이라는 추가적인 제약사항을 부과할 수 있다. 어떻게? 두 함수의 내적(inner product)이 0이 되는
사인과 코사인의 조합을 선택하면 된다. 직교하면서 f(x)를 만들어 낼 수 있는 함수의 집합이 이 문제에서는
직교 기저 함수이다.

*** 스케일이 변하는 기저함수(Scale-varying basis function)란 무엇인가?
기저함수의 데이터 또는 함수 스페이스를 다른 크기를 사용해 잘라내면 스케일을 변화시킬 수 있다.
예를 들어 정의역이 0에서 1까지인 신호가 있다고 하자. 우리는 그 신호를 0부터 1/2와 1/2부터 1까지 두
범위의 두 스텝 함수로 나눌 수 있다. 그 후, 우리는 원래의 신호를 다시 0~1/4, 1/4~1/2, 1/2~3/4,
3/4~1까지 4가지 스텝의 함수로 나눌 수 있다. ...
이런 각각의 표현은 원래의 신호를 특정 해상도 혹은 스케일에서 코드화 한다.

2.3 1960~1980

1960년에서 1980년 사이 Guido Weiss와 Ronald R. Coifman이라는 수학자들이 아톰(atom)이라 불리는
함수 공간의 가장 간단한 요소(element)를 연구했다. 그들의 연구의 목적은 일반적인 함수의 아톰을 찾아서,
그 아톰을 사용해서 함수 공간의 모든 함수를 재구성할 수 있는 "합성 규칙"을 찾는 것이었다. 1980년
Grossman과 Morlet이라는 물리학자와 엔지니어가 양자물리학에서 웨이블렛을 폭넓게 정의했다. 이 두
학자는 웨이블렛을 물리학적인 직관에서 생각하는 방법을 제공했다.

2.4 1980이후

1985년 Stephane Mallat이 디지털 신호처리 연구에서 웨이블렛에 새로운 응용을 추가했다. 그는 직각대칭필터(QMF, Quadrature Mirrof Filter)와 피라미드 알고리즘(pyramid algorithm), 그리고 직교 웨이블렛 베이스 사이의
어떤 관계를 발견했다. 이러한 결과에서 아이디어를 얻어서 Y. Meyer는 첫번째로 단순하지 않은(non-trivial)
웨이블렛을 만들었다. Haar 웨이블렛과 달리 Meyer 웨이블렛은 연속으로 미분가능하다. 하지만, Meyer
웨이블렛은 compact support가 없다. 몇년 후, Ingrid Daubechies는 Mallat의 연구 결과를 바탕으로
오늘날의 웨이블렛 응용의 기초가 된, 어쩌면 가장 명확한 웨이블렛 직교 기저 함수 집합을 만들어냈다.


원문 링크: http://enshahar.tistory.com/51