Le jeu de données contient 178 observations pour trois cépages de vin. Les cépages sont répartis en trois classes, la première contenant 59 observations, la deuxième 71 observations et la troisième 48 observations. Treize variables ont été mesurées pour les trois cépages.

wine = read_csv('wine.data.csv') %>%
   mutate(cultivar=as.factor( c('C','M','V'))[ cultivar ] )

## Rows: 178 Columns: 14
## ── Column specification ────────────────────────────────────────────────────────────────────────────
## Delimiter: ","
## dbl (14): cultivar, alcohol, malic-acid, ash, alcalinity-of-ash, magnesium, total-phenols, flavo...
## 
## ℹ Use `spec()` to retrieve the full column specification for this data.
## ℹ Specify the column types or set `show_col_types = FALSE` to quiet this message.

head(wine)

La description des variables dans ce jeu de données est la suivante :

cultivar : un facteur indiquant le cultivar de vin
alcohol : la quantité d'alcool dans le vin
malic-acid : la quantité d'acide malique dans le vin
ash : la quantité de cendre dans le vin
alcalinity-of-ash : l'alcalinité des cendres dans le vin
magnesium : la quantité de magnésium dans le vin
total-phenols : la quantité de phénols totaux dans le vin
flavonoids : la quantité de flavonoïdes dans le vin
nonflavonoid-phenols : la quantité de phénols non flavonoïdes dans le vin
proanthocyanins : la quantité de proanthocyanidines dans le vin
color-intensity : l'intensité de la couleur dans le vin
hue : la teinte du vin
od280-od315-of-diluted-wines : l'absorbance de la lumière à 280 nm et 315 nm pour le vin dilué
proline : la quantité de proline (un acide aminé) dans le vin

La première étape consiste à calculer les statistiques descriptives pour chaque variable, y compris la moyenne, l’écart-type, la médiane, le minimum et le maximum, et visualiser les distributions des variables.

summary(wine)

##  cultivar    alcohol        malic-acid         ash        alcalinity-of-ash   magnesium     
##  C:59     Min.   :11.03   Min.   :0.740   Min.   :1.360   Min.   :10.60     Min.   : 70.00  
##  M:71     1st Qu.:12.36   1st Qu.:1.603   1st Qu.:2.210   1st Qu.:17.20     1st Qu.: 88.00  
##  V:48     Median :13.05   Median :1.865   Median :2.360   Median :19.50     Median : 98.00  
##           Mean   :13.00   Mean   :2.336   Mean   :2.367   Mean   :19.49     Mean   : 99.74  
##           3rd Qu.:13.68   3rd Qu.:3.083   3rd Qu.:2.558   3rd Qu.:21.50     3rd Qu.:107.00  
##           Max.   :14.83   Max.   :5.800   Max.   :3.230   Max.   :30.00     Max.   :162.00  
##  total-phenols     flavonoids    nonflavonoid-phenols proanthocyanins color-intensity 
##  Min.   :0.980   Min.   :0.340   Min.   :0.1300       Min.   :0.410   Min.   : 1.280  
##  1st Qu.:1.742   1st Qu.:1.205   1st Qu.:0.2700       1st Qu.:1.250   1st Qu.: 3.220  
##  Median :2.355   Median :2.135   Median :0.3400       Median :1.555   Median : 4.690  
##  Mean   :2.295   Mean   :2.029   Mean   :0.3619       Mean   :1.591   Mean   : 5.058  
##  3rd Qu.:2.800   3rd Qu.:2.875   3rd Qu.:0.4375       3rd Qu.:1.950   3rd Qu.: 6.200  
##  Max.   :3.880   Max.   :5.080   Max.   :0.6600       Max.   :3.580   Max.   :13.000  
##       hue         od280-od315-of-diluted-wines    proline      
##  Min.   :0.4800   Min.   :1.270                Min.   : 278.0  
##  1st Qu.:0.7825   1st Qu.:1.938                1st Qu.: 500.5  
##  Median :0.9650   Median :2.780                Median : 673.5  
##  Mean   :0.9574   Mean   :2.612                Mean   : 746.9  
##  3rd Qu.:1.1200   3rd Qu.:3.170                3rd Qu.: 985.0  
##  Max.   :1.7100   Max.   :4.000                Max.   :1680.0

Les resultats de la fonction summry() sur notre jeu de données, permet de voir que les variables mesurées ont des plages de valeurs différentes, par exemple, alcohol varie de 11.03 à 14.83, tandis que color-intensity varie de 1.28 à 13. La moyenne de alcohol est d’environ 13.00, ce qui indique que la plupart des vins ont une teneur en alcool autour de 13%. La médiane de alcalinity-of-ash est de 19.50, indiquant que la moitié des vins ont une alcalinité des cendres inférieure à 19,50. La plage de valeurs de proline est très large, allant de 278 à 1680, avec une moyenne de 746,9 et une médiane de 673,5, indiquant que les vins de cette base de données varient beaucoup en termes de teneur en proline. En résumé cela montre que les variables ont été mesurées avec différents échelles. et comme indiqué dans la description de jeu de données fournit, aucune observation manquante n’est signalée pour aucune des variables mesurées.

wine %>%
  ggplot(aes(x=cultivar, fill=cultivar)) + # aes pour aesthetic
  geom_bar(stat = 'count') + # https://ggplot2.tidyverse.org/reference/geom_bar.html
  geom_text(stat='count', aes(label=..count..), vjust=-1) # pour afficher les effectifs

## Warning: The dot-dot notation (`..count..`) was deprecated in ggplot2 3.4.0.
## ℹ Please use `after_stat(count)` instead.

Cela nous permet de voir le nombre d’échantillons de vin inclus dans le jeu de données pour chacune des trois classes de vin.

Ensuite, dans une seconde étape, on peut afficher les boxplots pour l’ensemble des variables afin de visualiser la distribution de chaque variable pour chaque classe de vin, notamment en termes de tendance centrale, de dispersion et de présence de valeurs aberrantes.

# Create boxplot for all variables
boxplot_data <- gather(wine, key = "variable", value = "value", -cultivar)
ggplot(boxplot_data, aes(x = variable, y = value, fill = cultivar)) +
  geom_boxplot() +
  scale_fill_brewer(palette = "Set1") +
  labs(x = "Variable", y = "Value", title = "Distribution of Variables by Cultivar")

Les boxplots montrent des différences de variance entre les variables, notamment avec une forte variance pour la variable “proline”. Pour éliminer l’effet de l’échelle et de la variance des variables, il est recommandé de normaliser les données. Pour cela, on peut utiliser la méthode de la z-score qui transforme chaque valeur en la différence entre cette valeur et la moyenne des valeurs, divisée par l’écart-type des valeurs.

Cette étape consiste à mettre les valeurs de chaque variable dans une plage de valeurs communes afin de les rendre comparables. La normalisation avec Z-score est l’une des méthodes les plus courantes de normalisation. Elle consiste à soustraire la moyenne des valeurs de chaque variable et à diviser le résultat par l’écart type.

# Select only the numeric columns
wine_numeric <- wine %>% select_if(is.numeric)

# Normalize the data using scale function
wine_normalized <- scale(wine_numeric)

# Convert the normalized data to a tibble
wine_normalized <- as_tibble(wine_normalized)

# Combine the normalized data with the cultivar column
wine_normalized <- wine %>% select(cultivar) %>% bind_cols(wine_normalized)


head(wine_normalized)

Ensuite, on peut refaire une représentation de boxplots sur le jeu de données normalisé, afin de voir si cela a eu un impact sur la distribution et la variance des variables. Cette représentation permet de comparer directement la distribution des variables normalisées entre elles, en éliminant les effets de l’échelle et de la variance.

boxplot_data <- gather(wine_normalized, key = "variable", value = "value", -cultivar)
ggplot(boxplot_data, aes(x = variable, y = value, fill = cultivar)) +
  geom_boxplot() +
  scale_fill_brewer(palette = "Set1") +
  labs(x = "Variable", y = "Value", title = "Distribution of Variables by Cultivar")

Après la normalisation, on peut observer que les boxplots sont désormais alignés et que l’effet de l’échelle a été éliminé, ce qui permet de comparer les variables sur une même échelle. Les données normalisées sont ainsi prêtes à être utilisées pour les analyses suivantes, telles que la recherche de corrélations entre les variables ou la réalisation de modèles prédictifs.

L’Analyse en Composantes Principales (ACP) est une technique d’analyse multivariée qui permet de réduire la dimensionnalité d’un jeu de données, tout en conservant le maximum d’informations possibles. Elle permet également de visualiser la structure des données, d’identifier les variables les plus discriminantes et de détecter des relations entre les variables. Dans le cas du jeu de données Italian Wines, l’ACP pourrait être utilisée pour identifier les variables les plus importantes dans la différenciation entre les différents types de vins italiens, et pour visualiser la structure sous-jacente des données.

# Appliquer l'ACP
pca.wine <- prcomp(wine_normalized[,2:14], scale = FALSE)  # l'argument "scale = FALSE" indique que les données sont déjà normalisées

# Visualiser les résultats
summary(pca.wine)

## Importance of components:
##                          PC1    PC2    PC3     PC4     PC5     PC6     PC7     PC8     PC9   PC10
## Standard deviation     2.169 1.5802 1.2025 0.95863 0.92370 0.80103 0.74231 0.59034 0.53748 0.5009
## Proportion of Variance 0.362 0.1921 0.1112 0.07069 0.06563 0.04936 0.04239 0.02681 0.02222 0.0193
## Cumulative Proportion  0.362 0.5541 0.6653 0.73599 0.80162 0.85098 0.89337 0.92018 0.94240 0.9617
##                           PC11    PC12    PC13
## Standard deviation     0.47517 0.41082 0.32152
## Proportion of Variance 0.01737 0.01298 0.00795
## Cumulative Proportion  0.97907 0.99205 1.00000

Dans le tableau généré par la fonction summary(), on peut voir que le PC1 explique 36,2% de la variance totale, le PC2 explique 19,2% et ainsi de suite. Les deux premiers PC expliquent plus de la moitié de la variance totale (55,4%) et les dix premiers PC expliquent plus de 96% de la variance totale. Pour cette analyse, nous allons retenir que les deux premières PCs.

Histogramme des valeurs propres, exprimé en pourcentage de variance pour les composantes successives

fviz_eig(pca.wine, addlabels = T, ylim = c(0,40))

Les forêts aléatoires (Random Forest) est un algorithme d’apprentissage supervisé qui combine plusieurs arbres de décision en un modèle de classification robuste. Cet algorithme utilise un échantillonnage aléatoire pour créer des sous-ensembles de données d’entraînement et construit un arbre de décision pour chaque sous-ensemble. Les prédictions finales sont basées sur la moyenne des prédictions de chaque arbre.

L’Arbre de Décision (Decision tree) est également un algorithme d’apprentissage supervisé qui utilise une structure d’arbre pour prendre des décisions de classification. L’arbre est construit en séparant les données en fonction des variables les plus importantes pour la classification et en créant des noeuds pour chaque séparation. Les feuilles de l’arbre correspondent aux classes à prédire.

Nous avons choisi d’utiliser deux métriques d’évaluation des performances : la matrice de confusion et la l’accuracy.

La matrice de confusion est une table qui permet de visualiser les résultats de la classification en comparant les prédictions du modèle aux valeurs réelles. Elle contient quatre cellules : les vrais positifs (VP), les vrais négatifs (VN), les faux positifs (FP) et les faux négatifs (FN). Cette matrice est utilisée pour calculer plusieurs métriques telles que la sensibilité, la spécificité et le taux d’erreur.

L’accuracy est une mesure de la précision du modèle qui correspond au nombre de prédictions correctes divisé par le nombre total de prédictions. Elle est exprimée en pourcentage et varie de 0 à 1. Plus l’accuracy est proche de 1, plus le modèle est précis.

Pour comparer les performances des différentes méthodes de classification, nous avons utilisé deux méthodes : la cross-validation et la partitioning.

La cross-validation est une technique d’évaluation de modèles qui consiste à diviser le jeu de données en plusieurs sous-ensembles et à entraîner le modèle sur l’un de ces sous-ensembles tout en testant sur les autres. Nous avons choisi une cross-validation avec 10 nombres de validation et un échantillonnage aléatoire.

La partitioning consiste à diviser le jeu de données en un ensemble d’apprentissage (2/3 des données) et un ensemble de test (1/3 des données). Nous avons utilisé cette méthode pour évaluer les performances des modèles sur un ensemble de données inédit.

En résumé, nous avons étudié deux méthodes de classification (Random Forest et Decision Tree), utilisé deux métriques d’évaluation des performances (confusion matrix et accuracy) et comparé les performances des modèles selon deux modèles : la cross-validation avec 10 nombre de validations, avec un échantillonnage aléatoire et la méthode de partitionnement 2/3 apprentissage et 1/3 test.

Pour le modèle d’arbres de décision avec la méthode de partitionnement, 56 observations ont été correctement classées tandis que 5 ont été mal classées, ce qui donne une accuracy de 91,603%. Pour le modèle de forêts aléatoires avec la même méthode, toutes les 61 observations ont été correctement classées, ce qui donne une accuracy de 100%.

En utilisant la méthode de validation croisée, le modèle d’arbres de décision a correctement classé 175 observations avec seulement 3 observations mal classées, ce qui donne une accuracy de 98,315%. Le modèle de forêts aléatoires a correctement classé 165 observations avec 13 observations mal classées, ce qui donne une accuracy de 92,697%.

Ces résultats montrent que les modèles de forêts aléatoires ont tendance à donner de meilleures performances que les arbres de décision, surtout lorsqu’ils sont utilisés avec la méthode de partitionnement. Cependant, le modèle d’arbres de décision avec la méthode de validation croisée a donné des résultats comparables à celui de la forêt aléatoire, ce qui montre que la méthode de validation croisée peut être utile pour améliorer les performances des modèles de classification.

Il convient de noter que ces résultats dépendent également des paramètres utilisés pour chaque modèle, tels que le nombre d’arbres dans la forêt aléatoire ou le critère de partitionnement pour les arbres de décision. Des ajustements de paramètres peuvent donc être nécessaires pour obtenir les meilleures performances possibles.