Learning with nearest neighbour classifiers

Author

Bermejo Sánchez, Sergio

Director

Cabestany Moncusí, Joan

Date of defense

2000-03-29

ISBN

846882190X

Legal Deposit

B.31066-2003



Department/Institute

Universitat Politècnica de Catalunya. Departament d'Enginyeria Electrònica

Abstract

Premi extraordinari ex-aequo en l'àmbit d'Electrònica i Telecomunicacions. Convocatoria 1999 - 2000


Nearest Neighbour (NN) classifiers are one of the most celebrated algorithms in machine learning. In recent years, interest in these methods has flourished again in several fields (including statistics, machine learning and pattern recognition) since, in spite of their simplicity, they reveal as powerful non-parametric classification systems in real-world problems. The present work is mainly devoted to the development of new learning algorithms for these classifiers and is focused on the following topics:<br/><br/>- Development of learning algorithms for crisp and soft k-NN classifiers with large margin<br/>- Extension and generalization of Kohonen's LVQ algorithms<br/>- Local stabilization techniques for ensembles of NN classifiers<br/>- Study of the finite-sample convergence of the on-line LVQ1 and k-means algorithms<br/><br/>Besides, a novel oriented principal component analysis (OPCA) addressed for feature<br/>extraction in classification is introduced. The method integrates the feature extraction into the classifier and performs global training to extract those features useful for the classifier. The application of this general technique in the context of NN classifiers derives in a problem of learning their weight metric.

Keywords

aprenentatge estadístic; classificació; classificadors de veïns propers; intel·ligència artificial; reconeixement de patrons

Subjects

621.3 Electrical engineering

Knowledge Area

3307. Tecnologia electrònica

Documents

01CHAPTER1.pdf

58.39Kb

02CHAPTER2.pdf

1017.Kb

03CHAPTER3.pdf

163.4Kb

04CHAPTER4.pdf

405.0Kb

05CHAPTER5.pdf

123.3Kb

06CHAPTER6.pdf

84.75Kb

07CHAPTER7.pdf

221.9Kb

08CHAPTER8.pdf

1.079Mb

09CHAPTER9.pdf

163.6Kb

10CHAPTER10.pdf

2.225Mb

11CHAPTER11.pdf

11.37Kb

12PUBLICATIONS.pdf

3.810Kb

 

Rights

ADVERTIMENT. L'accés als continguts d'aquesta tesi doctoral i la seva utilització ha de respectar els drets de la persona autora. Pot ser utilitzada per a consulta o estudi personal, així com en activitats o materials d'investigació i docència en els termes establerts a l'art. 32 del Text Refós de la Llei de Propietat Intel·lectual (RDL 1/1996). Per altres utilitzacions es requereix l'autorització prèvia i expressa de la persona autora. En qualsevol cas, en la utilització dels seus continguts caldrà indicar de forma clara el nom i cognoms de la persona autora i el títol de la tesi doctoral. No s'autoritza la seva reproducció o altres formes d'explotació efectuades amb finalitats de lucre ni la seva comunicació pública des d'un lloc aliè al servei TDX. Tampoc s'autoritza la presentació del seu contingut en una finestra o marc aliè a TDX (framing). Aquesta reserva de drets afecta tant als continguts de la tesi com als seus resums i índexs.

This item appears in the following Collection(s)