Multi color space LBP-based feature selection for texture classification

191 Pages·2017·10.36 MB·English

by  Vinh Truong Hoang

Numéro d’ordre
École doctorale SPI - Université Lille Nord-De-France
THÈSE
pour l’obtention du grade de
Docteur de l’Université du Littoral Côte d’Opale
Discipline : Traitement du Signal et des Images
Vinh TRUONG HOANG
Présentée et soutenue publiquement le 15 Février 2018
Multi color space LBP-based feature
selection for texture classification
Devant le jury composé de:
Professeur àl’Universitédu
M.FadiDORNAIKA Rapporteur
Pays Basque
Professeur àl’Universitéde
M.Jean-Christophe BURIE Rapporteur
LaRochelle
Professeur àl’Université
M.OlivierALATA Président dujury
Jean MonnetdeSaint-Etinenne
Professeur àl’Université
M.Denis HAMAD Directeurdethèse
du LittoralCôte d’Opale
Maîtredeconférences àl’Université
Mme. AlicePOREBSKI Co-Encadrantedethèse
du LittoralCôte d’Opale
Maîtredeconférences -HDRà
M.NicolasVANDENBROUKE Co-Encadrant dethèse
l’UniversitéduLittoralCôted’Opale
Laboratoired’Informatique,Signal et ImagedelaCôted’Opale– EA 4491
MaisondelaRecherche BlaisePascal –Centre UniversitairedelaMi-Voix
50rue FerdinandBuisson– B.P. 719,62228Calais Cedex, France

Contents
Acknowledgment i
Notations iii
Abbreviations v
Introduction 7
1 Colortexture classification 11
1.1 Colortexturerepresentation . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
1.1.1 Colorspaces . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
1.1.2 Colortexture . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
1.1.3 Colortexturefeatures . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
1.1.4 Local binary patterns . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
1.2 Supervisedtextureclassification . . . . . . . . . . . . . . . . . . . . . . . . . 32
1.2.1 Context . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
1.2.2 Classifiers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
1.2.3 Evaluationmethods . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
1.2.4 Benchmark colortextureimagedatabases . . . . . . . . . . . . . . . . 39
1.2.5 Review oftheconsidered databases . . . . . . . . . . . . . . . . . . . 44
1.3 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47
2 Feature selection 49
2.1 Taxonomyoffeature selectionmethods . . . . . . . . . . . . . . . . . . . . . 50
2.1.1 Contextoffeature selection . . . . . . . . . . . . . . . . . . . . . . . 53
2.1.2 Feature selectionevaluation . . . . . . . . . . . . . . . . . . . . . . . 55
2.2 Dataandknowledgerepresentation . . . . . . . . . . . . . . . . . . . . . . . . 57
2.2.1 Graph datarepresentation . . . . . . . . . . . . . . . . . . . . . . . . 58
2.2.2 Sparse graph construction . . . . . . . . . . . . . . . . . . . . . . . . 59
2.3 Ranking-basedapproaches . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61
2.3.1 Ranking based onscores . . . . . . . . . . . . . . . . . . . . . . . . . 61
2.3.2 Ranking based onweightingalgorithms . . . . . . . . . . . . . . . . . 66
2.4 Featureselectionapplied toLBP . . . . . . . . . . . . . . . . . . . . . . . . . 71
2.4.1 LBP binselection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71
2.4.2 LBP histogramselection . . . . . . . . . . . . . . . . . . . . . . . . . 73
2.5 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79
3 Multi colorspaceLBP-based features selection 81
3.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82
3.2 Colorspace combination . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83
3.2.1 Singlecolorspaceapproach . . . . . . . . . . . . . . . . . . . . . . . 83
3.2.2 Multicolorspace approach . . . . . . . . . . . . . . . . . . . . . . . . 87
3.3 MulticolorspaceLBPselection . . . . . . . . . . . . . . . . . . . . . . . . . 92
3.3.1 Considered colorspaces . . . . . . . . . . . . . . . . . . . . . . . . . 92
3.3.2 Candidatecolortexturedescriptors . . . . . . . . . . . . . . . . . . . 92
3.3.3 Dimensionalityreduction . . . . . . . . . . . . . . . . . . . . . . . . . 95
3.4 Multicolorspacehistogramselection . . . . . . . . . . . . . . . . . . . . . . 95
3.5 Multicolorspacebinselection . . . . . . . . . . . . . . . . . . . . . . . . . . 98
3.5.1 Occurrence based ranking . . . . . . . . . . . . . . . . . . . . . . . . 100
3.5.2 Sparsity based ranking . . . . . . . . . . . . . . . . . . . . . . . . . . 101
3.5.3 Bin selectionprocedure . . . . . . . . . . . . . . . . . . . . . . . . . . 103
3.5.4 Results . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103
3.6 Combinationofhistogramrankingand binselection . . . . . . . . . . . . . . . 105
3.7 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 110
4 Experimental evaluation 111
4.1 Impactofsimilaritymeasure . . . . . . . . . . . . . . . . . . . . . . . . . . . 115
4.2 Impactofthehistogramscore . . . . . . . . . . . . . . . . . . . . . . . . . . . 116
4.3 ImpactoftheLBP-based feature selectionstrategy . . . . . . . . . . . . . . . 117
4.3.1 Classification resultsdetailedon theNew BarkTex . . . . . . . . . . . 117
4.3.2 ValidationonSTex, OuTex-TC-00013and USPTex sets . . . . . . . . 121
4.3.3 Processing times . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 125
4.4 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 127
Conclusionand perspectives 131
Appendices 135
A A summary ofstudies oncolortexture classification 137
B ApplicationofLBP-based features forlaceimagesclassification 145
C Supplementary results 151
Bibliography 155
Publications 179
ListofTables 180
ListofFigures 181
Abstract 184
Résumé 185

Acknowledgment
Iwouldliketoexpressmygratitudeheretomanypeoplewhohavebeenhelpingmeduringmy
thesisworksince2014. Thisthesiscouldnot beaccomplishedwithouttheirhelp.
Firstofall,Iwouldliketogreatlythankmydirectorofthethesis,Prof. DenisHAMAD,for
offeringmetheopportunitytoworkinhisresearchteamandsupportingmewithhisinstructive
guidanceduringthewholethesiswork. Hisguidanceinspiresmetoseeproblemsfromdifferent
perspectives.
I am also greatly thankful to my co-supervisors of the thesis, Dr. Nicolas VANDEN-
BROUKE, and Dr. Alice POREBSKI for their valuable advice during my thesis work. It
has been an honorworkingwiththem.
I would like to express my special thanks to Prof. Fadi DORNAIKA and Prof. Jean-
Christophe BURIE for their precious time and hard work to review my thesis, and giving me
valuable remarks to improve it. Special thanks to Prof. Olivier ALATA as well for examining
mythesis.
I would also like to thanks all my lab colleagues at LISIC and friends for their interaction
and friendly support during those years: Christopher Jankee, Hayder Hendi, Ahmad Mazyad,
AliDarwich,CyrilBriquet,HongPhan,SamahHijazi,HibaToufic,TseMuugii,YvesDugény,
Dominique Walz, Tam Nguyen, Thong Vu, Tuong Huynh, Chau Nguyen, Sarah Bertrand,
Rebhi Aliand Faten Sandid.
Mostofall, Iam sograteful to myfamily,fortheirloveand support. They accompanyand
encouragemenomatterwhathappens.
The last words go to Bach Tuyet. She supports me already, for many years, and I hope she
willdothat forever.
i

Notations
ASLr ASL-scoreofrth histogram
C Numberofclasses
C ColorcomponentC
1 1
C ColorcomponentC
2 2
C ColorcomponentC
3 3
C Set ofcannot-linkconstraints
D Numberofcandidatesfeatures
D Diagonalmatrix
D Histograminstersectiondistance
int
D Jeffreydistance
Jef
D c 2 distance
c 2
d Numberofcandidateshistograms
Fisherr Fisherscoreofrth feature
fr rth feature vector
frc rth feature vectoroftheclassc
G Undirectedgraph
HHH Concatenated histogramto represent imageI
i i
Hr rth histogramofcolorimageI
i i
Hr(k) kth binofhistogramHr
i i
I ith ofcolorimageI
i i
ICSr ICS-score ofrth histogram
J Domimantbinsset
i
J Domimantbinssetforthewholedataset
global
N Numberofimages
N Numberofimagesin theclass c
c
N Numberofcolorspaces c
S
iii
L Laplacian matrixwithL=D−S
Laplacianr Laplacian scoreofrth feature
NM(x ) nearmissofx
i i
NH(x ) nearhit ofx
i i
m Mean ofrth feature
r
m c Mean ofrth feature withintheclassc
r
M Set ofmust-linkconstraints
P NumberofLBP neighborpixels
Q Quantizationlevel
R Radius sizeofLBP
r Hypothesismargin
S Similaritymatrix
Sc Similaritymatrixofdatawithinclassc
s Gaussianvariancevalues
SpASLr SpASL-score ofrth histogram
SupLaplacianr Supervised Laplacianscoreofrth feature
Variancer Variancescore ofrth feature
UnsupSparser Unsupervisedsparsityscoreofrth feature
SupSparser Supervised sparsityscore ofrth feature
X Datamatrix,X={xr}r=1...D
i i=1...N
xr rth feature valueoftheith colorimageI
i i
Y Labels ofthedata
y Label ofx
i i