##  [Dimension VC](/fr/node/60597) 

 Définition

Une mesure combinatoire de la capacité d'une classe de fonctions indicatrices (binaires) égale à la plus grande cardinalité d'un ensemble fini que la classe peut 'shatter', c'est‑à‑dire sur lequel elle peut réaliser toutes les affectations d'étiquettes binaires possibles.

 

 

 

 

 

 





## Principe

Principe

La capacité se mesure par la faculté de réaliser toutes les labellisations sur des ensembles finis ; la dimension VC est le nombre maximal de points pour lesquels cette liberté de labellisation existe.

 

 

 

 

 





## Démonstration

Démonstration

Pour les intervalles sur la droite réelle, on peut choisir deux points distincts : la classe des intervalles réalise les quatre étiquetages binaires sur ces deux points, mais aucun arrangement de trois points n'est garanti d'être entièrement réalisable par des intervalles, donc la dimension VC des intervalles est 2.

 

 

 

 

## Mauvaise application

Mauvaise application

Prendre la dimension VC comme prédicteur direct de l'erreur sur un jeu de test sans tenir compte de la distribution des données, de l'effet de marge ou de la régularisation ; ou calculer la dimension VC d'une classe différente de celle effectivement entraînée.

 

 

 

 

 





## Conséquence

Conséquence

Correctement utilisée, la dimension VC conduit à des résultats de convergence uniforme et à des bornes sur la complexité d'échantillonnage : une dimension VC élevée exige plus d'exemples pour garantir que le risque empirique approchera le risque vrai de façon uniforme sur la classe.

 

 

 

 

## Inversion

Inversion

Interpréter le concept à l'inverse : une petite dimension VC implique une expressivité limitée et une généralisation plus aisée, tandis qu'une VC infinie indique un risque de surapprentissage sauf si d'autres contraintes interviennent.

 

 

 

 

 





## Limite

Limite

Définie pour des classes de fonctions indicatrices (valeurs binaires) ; des extensions (pseudo-dimension, fat‑shattering) traitent les fonctions à valeurs réelles. C'est une quantité combinatoire du pire cas et peut être pessimiste pour certaines distributions ou algorithmes.

 

 

 

 

 





## Tension sémantique

Tension sémantique

Entre en tension avec d'autres mesures de complexité (complexité de Rademacher, stabilité algorithmique, bornes basées sur la marge) : la dimension VC, invariante par distribution et combinatoire, peut contredire des mesures dépendantes des données plus prédictives en pratique.

 

 

 

 

 





## Synthèse

Synthèse

La dimension VC résume l'expressivité combinatoire au pire d'une classe binaire en comptant le plus grand ensemble fini qu'elle peut labelliser de toutes les façons ; c'est un outil utile mais parfois conservateur pour estimer la complexité d'apprentissage.