Je suis d'accord avec Osama, mais je vais quand même donner ma façon de voir la chose, qui est un peu différente.
En gros, tu as un nuage de points (tes mesures) dans un espace à N dimensions (pour chaque point de mesure, tu as mesuré N paramètres).
L'idée de base est de voir si certains paramètres sont liés entre eux et donc de supprimer ces paramètres superflus pour simplifier le problème.
Prenons par exemple des mesures faites sur des arbres malades: tu mesure la largeur des trons de l'arbre, leur age et leur degré de maladie. Donc tu obtiens des points dans un espace 3D. Mais l'age et la taille sont fortement liés, tu vas donc pouvoir remplacer ces deux données par une seule (qui est une combinaison des deux et n'a donc plus vraiment de sens physique, mais c'est pas grave), tu obtiens alors une relation en 2D, le degré de maladie en fonction de l'age/taille, ce qui est beaucoup plus facile à interpréter.
La PCA se fait donc en plusieurs étapes:
- tu regarde le lien entre tes différentes entrées (calcul de la matrice de covariance).
- tu calcules les combinaisons d'entrées qui permettent de maximiser la variance selon les directions principales (vecteurs et valeurs propres)
- tu élimines les directions selon lesquelles la variance est très faible, qui correspondent aux directions selon lesquelles il n'y a plus d'informations indépendantes aux autres directions.
Cette méthode permet donc de diminuer le nombre de paramètres tout en conservant un maximum de variance, ce qui correspond normalement à garder un maximuim d'informations.
mais attention, ça ne marche pas toujours !!
De un: l'ACP est une méthode linéaire, elle ne marchera pas pour des relations fortement non-linéaires. Pour des relations faiblement non-linéaire, ça marchera plus ou moins bien...
De deux, les directions de variances minimales sont parfois justement celles contenant l'information pertinentes pour le problèmes en question... il y a normalement moyen de résoudre le problème en normalisant les données avant de faire la PCA, mais c'est à vérifier...