Snowflake Intelligence est ici
Les informations de votre entreprise sont désormais à portée de main de chaque collaborateur.
La forêt aléatoire est l’un des algorithmes les plus performants et les plus populaires utilisés dans la création de modèles de machine learning. Ce modèle d’apprentissage supervisé crée plusieurs arbres décisionnels, puis combine les prédictions à partir de ces derniers pour produire des résultats plus précis et plus fiables. La capacité de l’algorithme à contourner les problèmes liés aux données manquantes ou bruitées est l’une des principales raisons pour lesquelles il est couramment déployé dans des applications telles que la notation de crédit, la prévision de la demande et la classification d’images.
Dans ce guide, nous allons aborder le fonctionnement de la forêt aléatoire et pourquoi elle est un outil important pour la conception de modèles d’IA et de machine learning fiables.
La forêt aléatoire est un algorithme de machine learning ensembliste qui crée de nombreux arbres décisionnels pendant sa période d’entraînement. Chaque arbre est entraîné sur un sous-jeu aléatoire du jeu de données d’entraînement, sélectionne un nombre déterminé d’attributs de données de manière aléatoire à partir de chaque point de décision de l’arbre, puis génère ses propres prédictions.
Les modèles créés à l’aide de forêts aléatoires peuvent être utilisés à la fois pour la classification (détermination de la prédiction choisie par le plus grand nombre d’arbres) ou pour l’analyse de régression (moyenne des prédictions de tous les arbres).
Par exemple, un modèle conçu pour classer les e-mails comme spams ou non analyserait les résultats de toutes les arborescences et choisirait la classification retenue par la majorité d’entre elles. En revanche, un modèle conçu pour prédire le prix des maisons calculerait la moyenne des résultats de tous les arbres.
Cette méthode réduit le risque que les prévisions extrêmes faussent les résultats finaux et offre des moyens simples de mesurer la confiance et la variabilité de chaque prédiction.
À son niveau le plus élémentaire, une forêt aléatoire est un ensemble d’arbres de décision. Mais il existe de nombreuses différences pratiques entre le fonctionnement de ces deux approches.
Un arbre décisionnel utilise le jeu de données d’entraînement et prend en compte toutes les fonctionnalités disponibles (attributs de données, tels que l’emplacement, la taille et l’âge d’une maison) dans ses prédictions. Une forêt aléatoire crée plusieurs arbres à partir de ce jeu de données et sélectionne des fonctionnalités de manière aléatoire pour générer des résultats.
Les arbres décisionnels suivent un chemin direct et génèrent une seule prédiction. Une forêt aléatoire obtient des prédictions de chaque arbre et génère une prédiction globale au moyen d’un comptage ou d’une moyenne des résultats.
Les arbres décisionnels utilisent une méthode simple à expliquer pour arriver à leurs prédictions. Une forêt aléatoire est beaucoup plus complexe, ce qui rend plus difficile l’explication des prédictions individuelles.
Un arbre décisionnel est beaucoup plus simple, plus rapide à entraîner et consomme beaucoup moins de ressources de calcul et de mémoire. L’entraînement de plusieurs arbres dans une forêt aléatoire peut s’avérer coûteux en calcul et nécessiter un délai plus long.
Les arbres de décision peuvent être très précis, mais sont également sujets à des surapprentissages, ce qui amène un modèle à faire des prédictions moins précises lorsqu’il reçoit des données en dehors de son ensemble d’entraînement. Les arbres décisionnels sont également plus sensibles aux données manquantes ou bruitées. Les prédictions générées par les algorithmes de forêt aléatoire sont généralement considérées comme plus précises, stables et fiables.
La forêt aléatoire crée des centaines d’arbres décisionnels, qui apprennent chacun à partir d’échantillons aléatoires différents de données d’entraînement et prennent en compte différentes combinaisons de caractéristiques des données. Ils combinent ensuite toutes leurs prédictions par vote ou par moyenne afin de produire un résultat plus précis et plus fiable que celui qu’un seul arbre pourrait obtenir.
Voici les principales étapes que suit la forêt aléatoire, des données brutes à la prédiction finale :
L’algorithme prend le jeu de données d’entraînement d’origine et le prépare pour le traitement. Tout nettoyage, formatage ou prétraitement nécessaire est effectué à ce stade.
La forêt aléatoire utilise une technique d’échantillonnage statistique appelée « bagging » (ou « bootstrap aggregating ») pour sélectionner des points de données au hasard pour chaque arbre, dont beaucoup sont répétés dans plusieurs arbres. Cela permet de s’assurer que chaque arbre voit une version légèrement différente des données d’entraînement.
Chaque arbre est créé par division répétée du jeu de données afin de créer de nouvelles branches. Par exemple, si vous créez un arbre pour prédire si une personne est susceptible d’acheter une nouvelle voiture, il peut être divisé en fonction du fait que son revenu annuel est supérieur ou inférieur à 100 000 USD, puis à nouveau en fonction du fait qu’elle a plus de 30 ans. À chaque point de décision, l’algorithme sélectionne aléatoirement un sous-ensemble de caractéristiques disponibles et choisit celle qui établit la séparation la plus claire entre les différents résultats.
L’algorithme répète les étapes 2 et 3 entre 100 et 1000 fois pour créer une collection d’arbres décisionnels diversifiés. Chaque arbre apprend des schémas différents, car il examine des données distinctes et prend en compte des caractéristiques différentes.
Lorsque de nouvelles données arrivent, chaque arbre de la forêt effectue sa propre prédiction de manière indépendante selon les règles décisionnelles qu’il a apprises. Il en résulte plusieurs prédictions distinctes pour la même entrée.
Pour les problèmes de classification, l’algorithme compte les votes de tous les arbres et sélectionne la classe qui a obtenu le plus de votes. Pour les problèmes de régression, il calcule la moyenne de toutes les prédictions d’arbres pour produire le résultat final.
L’algorithme fournit la prédiction consolidée ainsi que des mesures de confiance optionnelles basées sur le degré de concordance entre les arbres individuels.
Qu’il soit utilisé pour la classification ou la régression aléatoire, le modèle de forêt aléatoire excelle dans la production de résultats précis à partir de jeux de données complexes avec un réglage minimal. Voici quelques-uns des principaux avantages qui font de la forêt aléatoire un algorithme incontournable pour les data scientists :
La forêt aléatoire offre des performances prédictives constantes et fiables pour divers jeux de données et types de problèmes. La décision collective de centaines d’arbres produit généralement des résultats plus précis que celle d’un seul arbre.
Contrairement aux arbres décisionnels individuels qui peuvent mémoriser trop fidèlement les données d’entraînement, la forêt aléatoire offre une protection naturelle contre le surapprentissage. Chaque arbre voit des données et des caractéristiques différentes, ce qui annule les biais et les erreurs individuels et permet une meilleure généralisation lorsqu’il est confronté à de nouvelles données.
La forêt aléatoire fonctionne parfaitement avec des types de données mixtes, y compris des valeurs numériques (comme l’âge ou le revenu) et des variables catégorielles (comme la couleur ou la marque), sans nécessiter de prétraitement approfondi. Il s’agit donc d’un bon choix pour des jeux de données réels contenant des informations désordonnées dans plusieurs formats.
L’algorithme classe automatiquement les variables d’entrée qui ont eu le plus d’influence sur une prédiction donnée, une technique connue sous le nom d’importance des caractéristiques. Les data scientists peuvent ainsi mieux comprendre leurs données, identifier les facteurs clés et potentiellement simplifier les modèles sur la base des variables les plus importantes.
La forêt aléatoire est très résistante aux valeurs aberrantes, au bruit et aux faibles variations dans les données d’entraînement. Alors que d’autres algorithmes peuvent produire des résultats très différents en cas de variations mineures des données, la forêt aléatoire maintient des performances constantes, ce qui lui confère une grande fiabilité dans les environnements de production.
La forêt aléatoire fonctionne bien « telle quelle » avec les paramètres par défaut. Elle est donc accessible aux praticiens de tous niveaux de compétence, ce qui permet un prototypage rapide et le développement de modèles de référence.
Voici les principaux inconvénients et limites de l’utilisation du modèle de forêt aléatoire :
Contrairement à un arbre décisionnel unique où il est simple de retracer le cheminement exact de la décision, la forêt aléatoire utilise des centaines d’arbres pour parvenir à une prédiction finale. Il devient alors plus difficile d’expliquer pourquoi une prédiction spécifique a été faite, ce qui limite son utilisation dans les secteurs réglementés ou les situations qui nécessitent une prise de décision transparente.
La création de centaines d’arbres prend beaucoup plus de temps que l’entraînement d’un seul modèle. À mesure que le nombre d’arbres augmente, le temps de prédiction croît proportionnellement, ce qui peut poser problème pour les applications en temps réel ou les environnements aux ressources limitées.
Lorsqu’il traite des jeux de données dans lesquels une classe est beaucoup plus courante que les autres (comme le filtrage des spams, où la majorité des messages sont légitimes), le modèle de forêt aléatoire se montre peu performant pour détecter les rares exceptions lorsque la précision est primordiale.
La forêt aléatoire nécessite de stocker tous les arbres individuels en mémoire, ce qui peut constituer un goulot d’étranglement lorsqu’il s’agit de traiter de grands jeux de données ou de créer des forêts de centaines d’arbres.
Bien que la forêt aléatoire soit généralement efficace pour éviter le surapprentissage, elle peut néanmoins rencontrer des difficultés lorsqu’il s’agit de traiter des données extrêmement désordonnées ou imprécises. Si les mêmes erreurs apparaissent dans toutes les données d’entraînement, l’algorithme peut commencer à considérer ces erreurs comme fiables, ce qui conduit à des prédictions moins précises lorsqu’il est confronté à de nouvelles données.
Voici quelques applications concrètes de la forêt aléatoire dans différents secteurs :
Les banques, les sociétés de cartes de crédit et d’autres organismes de services financiers utilisent la forêt aléatoire pour identifier les transactions suspectes par l’analyse des tendances de dépenses, des lieux de transaction, des montants et du moment où elles ont lieu. L’algorithme peut rapidement repérer des comportements inhabituels, comme des achats dans des pays étrangers ou plusieurs transactions à forte valeur ajoutée sur une courte période, ce qui permet de détecter les fraudes financières en temps réel.
Les professionnels de santé utilisent la forêt aléatoire pour faciliter le diagnostic des maladies par l’analyse des symptômes des patients, des résultats de laboratoire, des antécédents médicaux et des informations démographiques. Par exemple, les hôpitaux l’utilisent pour prédire le risque de réadmission des patients ou pour identifier les premiers signes d’affections comme le diabète ou les maladies cardiaques, sur la base de multiples indicateurs de santé.
Les sociétés d’investissement et les plateformes de trading utilisent la forêt aléatoire pour prévoir les fluctuations des cours boursiers en analysant les indicateurs techniques, les volumes de transactions, les opinions du marché et les données économiques. Bien que les prédictions de marché restent intrinsèquement difficiles, l’algorithme permet d’identifier des tendances sur les marchés financiers et aide les traders à prendre des décisions d’achat/de vente plus éclairées.
Les services de streaming, les opérateurs de télécommunications et les fournisseurs de logiciels utilisent la forêt aléatoire pour identifier les clients sur le point de se désabonner. L’analyse des tendances d’utilisation, de l’historique des paiements, des interactions avec le service client et des données démographiques permet aux entreprises de contacter de manière proactive les clients à risque afin de leur proposer des offres de fidélisation.
Les retailers en ligne utilisent la forêt aléatoire pour alimenter leurs recommandations de produits par l’analyse de l’historique des achats, du comportement de navigation et des similitudes entre les produits. L’algorithme contribue à augmenter les ventes en suggérant des produits pertinents que les clients sont susceptibles d’acheter en fonction de schémas d’utilisateurs similaires.
Les banques et les organismes de prêt utilisent la forêt aléatoire pour évaluer les demandes de prêt sur la base de facteurs tels que les antécédents de crédit, les revenus, la situation professionnelle et le ratio dette/revenu. Les prêteurs peuvent ainsi prendre des décisions plus précises quant à l’octroi des prêts et aux taux d’intérêt à proposer aux différents demandeurs.
La forêt aléatoire est un outil polyvalent et performant pour établir des prévisions. Elle offre une précision élevée et constante dans des applications qui vont de la détection des fraudes au diagnostic médical, sans oublier le filtrage des spams. L’utilisation de plusieurs arbres décisionnels permet à la forêt aléatoire d’éviter la plupart des problèmes liés aux données désordonnées et au surapprentissage, ce qui en fait une technologie fondamentale pour la création de modèles de machine learning. Sa capacité à traiter différents types de données et à fonctionner correctement sans réglages importants la rend accessible aux utilisateurs de tous niveaux. À mesure que les données deviennent de plus en plus complexes, les méthodes ensemblistes fiables telles que la forêt aléatoire resteront essentielles pour les praticiens qui cherchent à créer des systèmes d’IA hautes performances.
Le terme « aléatoire » découle de deux sources principales : Chaque arbre est entraîné sur un sous-jeu de données sélectionné de manière aléatoire et chaque arbre ne prend en compte qu’une poignée de facteurs aléatoires à chaque point de décision. Ce caractère aléatoire renforce la puissance de l’algorithme dans la mesure où il oblige les arbres à trouver différents schémas utiles qui se complètent mutuellement.
Considérez un arbre décisionnel comme une demande d’avis à une seule personne, tandis qu’une forêt aléatoire s’apparente à un sondage auprès d’une centaine de personnes, chacune apportant des informations légèrement différentes sur le problème. La combinaison de toutes leurs réponses par le biais d’un vote ou d’une moyenne permet d’obtenir une prédiction beaucoup plus fiable et précise que si l’on se fiait uniquement au jugement d’une seule personne.
La forêt aléatoire est un excellent point de départ lorsque vous souhaitez obtenir une grande précision sans passer beaucoup de temps à modifier les paramètres, en particulier si vous travaillez avec des types de données mixtes ou si vous avez besoin de comprendre quels sont les facteurs les plus importants. Toutefois, si vous devez expliquer exactement pourquoi chaque prédiction a été faite, vous pouvez envisager d’utiliser des algorithmes plus simples et plus interprétables.
Inscrivez-vous à notre newsletter mensuelle
Restez informé(e) des dernières informations produit, des conseils d'experts et des ressources de Snowflake, directement dans votre boîte mail !
