Directional Multiresolution Image Representations

208 Pages·2001·5.3 MB·English

Directional Multiresolution
Image Representations
Minh N. Do
October 23, 2001

Abstract
Efficientrepresentationofvisualinformationliesatthefoundationofmanyim-
age processing tasks, including compression, filtering, and feature extraction.
Efficiencyofarepresentationreferstotheabilitytocapturesignificantinforma-
tionofanobjectofinterestinasmalldescription. Forpracticalapplications,this
representation has to be realized by structured transforms and fast algorithms.
Recently,ithasbecomeevidentthatcommonlyusedseparabletransforms(such
as wavelets) are not necessarily best suited for images. Thus, there is a strong
motivation to search for more powerful schemes that can capture the intrinsic
geometrical structure of pictorial information.
This thesis focuses on the development of new “true” two-dimensional rep-
resentations for images. The emphasis is on the discrete framework that can
lead to algorithmic implementations. The first method constructs multiresolu-
tion,localanddirectionalimageexpansionsbyusingnon-separablefilterbanks.
This discrete transform is developed in connection with the continuous-space
curvelet construction in harmonic analysis. As a result, the proposed trans-
form provides an efficient representation for two-dimensional piecewise smooth
signals that resemble images. The link between the developed filter banks and
the continuous-spaceconstructionsis set up ina newly defined directionalmul-
tiresolution analysis. The second method constructs a new family of block
directional and orthonormal transforms based on the ridgelet idea, and thus
offers an efficient representationfor images that aresmooth awayfrom straight
edges. Finally, directional multiresolution image representations are employed
together with statistical modeling, leading to powerful texture models and suc-
cessful image retrieval systems.
iii

R´esum´e
La repr´esentation ad´equate de l’information visuelle est `a la base des tech-
niques de traitement du signal, de compression et d’identification de struc-
ture. Parrepr´esentationad´equateon entends la descriptionsuccincte et pr´ecise
d’une partie de la sc`ene qui soit digne d’int´erˆet. En pratique, cette descrip-
tion doit ˆetre g´en´er´ee par des transformations structurelles et des algorithmes
rapides. R´ecemment, il est apparut´evident que les transformations usuelles de
type s´eparables, telles que la transform´ee en ondelettes, ne repr´esentent pas
la panac´ee des outils de traitement de l’images. Le besoin de disposer d’outils
permettant l’identification de la structure g´eom´etriqued’une sc`ene se fait ainsi
sentir.
Cette th`ese met l’accent sur la recherche de nouvelles techniques perme-
ttant une description r´e´ellement bidimensionelle de l’image, et plus partic-
(( ))
uli`erement sur les m´ethodes discr`etes qui conduisent a` des algorithmes util-
isables en pratique. La premi`ere technique construit une d´ecomposition multi-
r´esolution,localeetdirectionnelledel’imageenutilisantunbancdefiltremulti-
dimensionnel. Cette d´ecomposition est d´evelopp´ee en analogie avec la r´ecente
transformationen curvelets utilis´eedansledomainedel’analyseharmonique,
(( ))
et fournitune descriptioncompactedes fonctionbidimensionelles continues par
morceau,qui sontconsid´er´eescomme de bonnes repr´esentationsdes imagesna-
turelles.Lelienentrelescourbelettesetlesbancsdefiltreestd´emontr´eedansun
cadrenouvellementd´efinitd’analysemulti-r´esolutiondirectionnelle.La seconde
technique pr´esent´ee dans cette th`ese construit une nouvelle famille de trans-
form´ees directionnelle orthogonales en blocs bas´ee sur l’id´ee des ridgelets ,
(( ))
qui offre une repr´esentation ad´equate des images qui sont r´eguli`eres hors des
zones de contours rectilignes. Finalement, la repr´esentation directionnelle et
multi-r´esolutiondesimagesest utilis´eeconjointementavecdes m´ethodesstatis-
tiquespermettantainsilacr´eationdemod`elesdetexturesperformantsainsique
la cr´eationd’outils puissants de recherches d’images par contenu.
v

Contents
Abstract iii
R´esum´e v
List of Figures xi
List of Tables xix
Acknowledgments xxi
1 Introduction 1
1.1 Motivation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.2 Problem Statement . . . . . . . . . . . . . . . . . . . . . . . . . . 6
1.3 Related Work . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
1.4 Thesis Outline . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
2 Framing Pyramid 13
2.1 Introduction and Motivation . . . . . . . . . . . . . . . . . . . . . 13
2.2 Preliminaries . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
2.2.1 Signals, Operators and Notations . . . . . . . . . . . . . . . 15
2.2.2 Burt and Adelson’s Laplacian Pyramid . . . . . . . . . . . . 16
2.2.3 Polyphase-DomainAnalysis . . . . . . . . . . . . . . . . . . 18
2.2.4 Frame Analysis . . . . . . . . . . . . . . . . . . . . . . . . 19
2.2.5 Noise Analysis . . . . . . . . . . . . . . . . . . . . . . . . . 20
2.3 Laplacian Pyramid with Orthogonal Filters . . . . . . . . . . . . . . 22
2.3.1 The Tight Frame Case . . . . . . . . . . . . . . . . . . . . 22
2.3.2 Eigenvalues of the LP Operators . . . . . . . . . . . . . . . 25
2.4 Reconstruction using Projection. . . . . . . . . . . . . . . . . . . . 27
2.4.1 The New ReconstructionAlgorithm . . . . . . . . . . . . . 27
2.4.2 ReconstructionError Analysis . . . . . . . . . . . . . . . . . 31
2.5 Laplacian Pyramid as an Oversampled Filter Bank . . . . . . . . . . 34
2.5.1 Equivalent Filters in an Oversampled Filter Bank . . . . . . 34
2.5.2 General Reconstruction . . . . . . . . . . . . . . . . . . . . 36
2.6 Iterated Laplacian Pyramids and Derived Continuous Frames . . . . 38
2.6.1 Iterated Laplacian Pyramids . . . . . . . . . . . . . . . . . 38
vii
viii CONTENTS
2.6.2 Framelets from the Laplacian Pyramid . . . . . . . . . . . . 38
2.7 Concluding Remarks . . . . . . . . . . . . . . . . . . . . . . . . . . 41
3 Iterated Directional Filter Banks 43
3.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43
3.2 Multi-Dimensional Multirate Systems . . . . . . . . . . . . . . . . . 45
3.2.1 Sampling in Multiple Dimensions . . . . . . . . . . . . . . . 45
3.2.2 Quincunx Filter Bank . . . . . . . . . . . . . . . . . . . . . 47
3.3 Directional Filter Banks . . . . . . . . . . . . . . . . . . . . . . . . 49
3.3.1 New Construction . . . . . . . . . . . . . . . . . . . . . . . 49
3.3.2 Properties of the DFB. . . . . . . . . . . . . . . . . . . . . 52
3.3.3 Filter Design . . . . . . . . . . . . . . . . . . . . . . . . . . 56
3.3.4 Adaptive DFB’s . . . . . . . . . . . . . . . . . . . . . . . . 57
3.4 Directional Local Bases . . . . . . . . . . . . . . . . . . . . . . . . 57
3.4.1 Discrete Series Expansion from the DFB . . . . . . . . . . . 57
3.4.2 Two Extreme Cases: Polyphase and Sinc Expansions . . . . 59
3.4.3 Bases in the Continuous Domain . . . . . . . . . . . . . . . 62
3.5 Discussion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64
4 Curvelets and Filter Banks 67
4.1 Motivation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67
4.2 Curvelets Background . . . . . . . . . . . . . . . . . . . . . . . . . 68
4.2.1 Original Construction . . . . . . . . . . . . . . . . . . . . . 68
4.2.2 Non-linear Approximation Behaviors . . . . . . . . . . . . . 70
4.2.3 Curvelets and Filter Banks . . . . . . . . . . . . . . . . . . 73
4.3 Pyramidal Directional Filter Banks . . . . . . . . . . . . . . . . . . 74
4.3.1 Multiscale and Directional Decomposition . . . . . . . . . . 74
4.3.2 PDFB for Curvelets . . . . . . . . . . . . . . . . . . . . . . 76
4.4 Multiresolution Analysis . . . . . . . . . . . . . . . . . . . . . . . . 78
4.4.1 Multiscale . . . . . . . . . . . . . . . . . . . . . . . . . . . 79
4.4.2 Multidirection . . . . . . . . . . . . . . . . . . . . . . . . . 81
4.4.3 Multiscale and Multidirection . . . . . . . . . . . . . . . . . 84
4.5 Experimental Results . . . . . . . . . . . . . . . . . . . . . . . . . 85
4.5.1 Non-linear Approximation . . . . . . . . . . . . . . . . . . . 85
4.5.2 Image Denoising . . . . . . . . . . . . . . . . . . . . . . . . 89
4.6 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 90
5 The Finite Ridgelet Transform 93
5.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93
5.2 Continuous Ridgelet Transform . . . . . . . . . . . . . . . . . . . . 94
5.3 Finite Radon Transform . . . . . . . . . . . . . . . . . . . . . . . . 96
5.3.1 Forward and Inverse Transforms . . . . . . . . . . . . . . . 96
5.3.2 Optimal Ordering of the Finite Radon Transform Coefficients 99
5.3.3 Frame Analysis of the FRAT . . . . . . . . . . . . . . . . . 102
5.4 Orthonormal Finite Ridgelet Transform . . . . . . . . . . . . . . . . 105
5.5 Variations on the Theme . . . . . . . . . . . . . . . . . . . . . . . 109