Les méthodes de classification convexes dans les espaces RKHS traduites dans le formalisme des méthodes de sélection de modèles par pénalisation en M-estimation régulière : l’apport de l’heuristique de pente de Birgé et Massart pour la classification convexe.

old_uid9316
titleLes méthodes de classification convexes dans les espaces RKHS traduites dans le formalisme des méthodes de sélection de modèles par pénalisation en M-estimation régulière : l’apport de l’heuristique de pente de Birgé et Massart pour la classification convexe.
start_date2010/11/26
schedule11h
onlineno
location_infoCentre Pierre Mendes-France
summaryNous introduirons tout d’abord les méthodes de classi…cation convexes dans les espaces RKHS - comme par exemple les algorithmes reliés aux "Support Vector" et en particulier la méthode "SVM" -, dans leur formalisme standard, i.e. en tant que méthodes de pénalisation L2 dans un espace de Hilbert convenable. Puis nous changerons de point de vue et nous décrirons ces algorithmes comme des méthodes de sélection de modèles par pénalisation, sur une « petite » collection de modèles. Cette écriture est due à P. Massart et ses coauteurs (cf. Blanchard, G., Bousquet, O., Massart, P., 2008), qui l’ont utilisée dans le but de déterminer si la pénalisation classique utilisée par l’algorithme SVM est bien légitime et optimale. Il semblerait selon ces auteurs que non, la pénalité ne soit pas optimale dans tous les cas de figure, et qu’elle ait au contraire une tendance à « surpénaliser ». Nous irons plus loin dans l’étude initiée par Blanchard, Bousquet et Massart et nous utiliserons pour cela les développements récents sur la validation théorique de l’heuristique de pente de Birgé et Massart, cette dernière stipulant l’existence d’une pénalité optimale et d’une pénalité minimale dans le problème de sélection par pénalisation parmi une famille de M-estimateurs, telles que la pénalité optimale vaut deux fois la pénalité minimale
responsiblesBardet, Cottrell