Functional classification with margin conditions
| Autor: | Christine Tuleau, Magalie Fromont |
|---|---|
| Přispěvatelé: | Institut de Recherche Mathématique de Rennes (IRMAR), AGROCAMPUS OUEST, Institut national d'enseignement supérieur pour l'agriculture, l'alimentation et l'environnement (Institut Agro)-Institut national d'enseignement supérieur pour l'agriculture, l'alimentation et l'environnement (Institut Agro)-Université de Rennes 1 (UR1), Université de Rennes (UNIV-RENNES)-Université de Rennes (UNIV-RENNES)-Université de Rennes 2 (UR2), Université de Rennes (UNIV-RENNES)-École normale supérieure - Rennes (ENS Rennes)-Centre National de la Recherche Scientifique (CNRS)-Institut National des Sciences Appliquées - Rennes (INSA Rennes), Institut National des Sciences Appliquées (INSA)-Université de Rennes (UNIV-RENNES)-Institut National des Sciences Appliquées (INSA), Laboratoire de statistique, Université de Rennes 2 (UR2), Université de Rennes (UNIV-RENNES)-Université de Rennes (UNIV-RENNES), Laboratoire Jean Alexandre Dieudonné (JAD), Université Nice Sophia Antipolis (... - 2019) (UNS), COMUE Université Côte d'Azur (2015-2019) (COMUE UCA)-COMUE Université Côte d'Azur (2015-2019) (COMUE UCA)-Centre National de la Recherche Scientifique (CNRS), Institut de Recherche Mathématique de Rennes ( IRMAR ), Université de Rennes 1 ( UR1 ), Université de Rennes ( UNIV-RENNES ) -Université de Rennes ( UNIV-RENNES ) -AGROCAMPUS OUEST-École normale supérieure - Rennes ( ENS Rennes ) -Institut National de Recherche en Informatique et en Automatique ( Inria ) -Institut National des Sciences Appliquées ( INSA ) -Université de Rennes 2 ( UR2 ), Université de Rennes ( UNIV-RENNES ) -Centre National de la Recherche Scientifique ( CNRS ), Université de Rennes 2 ( UR2 ), Université de Rennes ( UNIV-RENNES ) -Université de Rennes ( UNIV-RENNES ), Laboratoire Jean Alexandre Dieudonné ( JAD ), Université Nice Sophia Antipolis ( UNS ), Université Côte d'Azur ( UCA ) -Université Côte d'Azur ( UCA ) -Centre National de la Recherche Scientifique ( CNRS ), Université de Rennes (UR)-Institut National des Sciences Appliquées - Rennes (INSA Rennes), Institut National des Sciences Appliquées (INSA)-Institut National des Sciences Appliquées (INSA)-École normale supérieure - Rennes (ENS Rennes)-Université de Rennes 2 (UR2)-Centre National de la Recherche Scientifique (CNRS)-INSTITUT AGRO Agrocampus Ouest, Institut national d'enseignement supérieur pour l'agriculture, l'alimentation et l'environnement (Institut Agro)-Institut national d'enseignement supérieur pour l'agriculture, l'alimentation et l'environnement (Institut Agro), Université Nice Sophia Antipolis (1965 - 2019) (UNS) |
| Jazyk: | angličtina |
| Rok vydání: | 2006 |
| Předmět: |
rates
Basis function 02 engineering and technology 62H30 68Q32 68T05 01 natural sciences 010104 statistics & probability [MATH.MATH-ST]Mathematics [math]/Statistics [math.ST] 0202 electrical engineering electronic engineering information engineering Functional space Random pair [ MATH.MATH-ST ] Mathematics [math]/Statistics [math.ST] 0101 mathematics Special case bounds Mathematics Discrete mathematics convergence Minimax problem 020206 networking & telecommunications [STAT.TH]Statistics [stat]/Statistics Theory [stat.TH] 16. Peace & justice Minimax [ STAT.TH ] Statistics [stat]/Statistics Theory [stat.TH] Regression regression Algorithm Curse of dimensionality discrimination |
| Zdroj: | Learning theory: Proceedings of the 19th Annual Conference (COLT 2006) held at Carnegie Mellon University, Pittsburgh Learning theory Learning theory, Jun 2006, Pittsburgh, United States. pp.94-108 Learning theory, Jun 2006, Pittsburgh, United States. Springer, 4005, pp.94-108, 2006, Lecture notes in computer science Learning Theory ISBN: 9783540352945 COLT |
| Popis: | International audience; Let (X,Y) be a X x {0,1}-valued random pair and consider a sample (X-1, Y-1),..., (X-n, Y-n.) drawn from the distribution of (X, Y). We aim at constructing from this sample a classifier that is a function which would predict the value of Y from the observation of X. The special case where X is a functional space is of particular interest due to the so called curse of dimensionality. In a recent paper, Biau et al. [1] propose to filter the Xi's in the Fourier basis and to apply the classical k-Nearest Neighbor rule to the first d coefficients of the expansion. The selection of both k and d is made automatically via a penalized criterion. We extend this study, and note here the penalty used by Biau et al. is too heavy when we consider the minimax point of view under some margin type assumptions. We prove that using a penalty of smaller order or equal to zero is preferable both in theory and practice. Our experimental study furthermore shows that the introduction of a small-order penalty stabilizes the selection process, while preserving rather good performances. |
| Databáze: | OpenAIRE |
| Externí odkaz: |
|