Exploration de données

L’exploration de données (terme recommandé en France par la DGLFLF, et au Canada par l'OQLF), aussi connue sous les noms fouille de données, data mining (forage de données) ou encore extraction de connaissances à partir de données (ECD en français, KDD en anglais), a pour objet l’extraction d'un savoir ou d'une connaissance à partir de grandes quantités de données, par des méthodes automatiques ou semi-automatiques. L'utilisation industrielle ou opérationnelle de ce savoir dans le monde professionnel permet de résoudre des problématiques très diverses, allant de la gestion de relation client à la maintenance préventive, en passant par la détection de fraudes ou encore l'optimisation de sites web.

Le data mining fait suite - dans l'escalade de l'exploitation des données de l'entreprise - à l'informatique décisionnelle. Celle-ci permet de constater un fait (e.g le chiffre d'affaire) et de l'expliquer (le chiffre d'affaire par produits), tandis que le data mining permet de classer les faits et de les prévoir dans une certaine mesure (quel sera le chiffre d'affaire dans un mois ?).

L'extraction de modèles à partir d'un grand nombre de données n'est pas un phénomène récent. Pour qu'il y ait extraction de modèle il faut qu'il y ait collecte de données. En Chine on prête à l'Empereur Tang, Yao, la volonté de recenser les récoltes en 2238 avant J.-C. ; en Egypte le Pharaon Amasis organise le recensement de sa population au cinquième siècle avant J.-C.. Ce n'est qu'au XVIII siècle qu'on commence à vouloir analyser les données pour en rechercher des caractéristiques communes. En 1763, Thomas Bayes montra qu'on peut déterminer, non seulement des probabilités à partir des observations issues d’une expérience, mais aussi les paramètres relatifs à ces probabilités. Présenté dans le cas particulier d'une loi binomiale ce résultat fut étendu indépendamment par Laplace, conduisant à une formulation générale du théorème de Bayes. Legendre publia en 1805 un essai sur la méthode des moindres carrés qui permet de comparer un ensemble de données à un modèle mathématique.

Dans les années 1920, Ronald Fisher mit au point l'analyse de la variance comme outil pour son projet d'inférence statistique médicale. Plus tard, dans les années 1950, l'apparition du calculateur et des techniques de calcul sur ordinateur tels que la segmentation, les réseaux de neurones et les algorithmes génétiques, dans les années 1960, les arbres de décisions, et dans les années 1980, les SVM, permirent aux chercheurs d'exploiter et de découvrir des modèles de plus en plus précis. En France, Jean-Paul Benzécri inventa l'analyse factorielle dans les années 1960.

Aujourd'hui, une entreprise comme Amazon.com se sert de tous ces outils pour proposer à ses clients d'autres achats qui seraient susceptibles de les intéresser.

Par objectifs

De nos jours, les techniques de data mining peuvent être utilisées pour :

• Analyser les comportements des consommateurs : ventes croisées, similarités de comportements, cartes de fidélité, …
• Prédire le taux de réponse à un publipostage (mailing) ou à une opération de marketing direct (par exemple pour en optimiser les coûts)
• Prédire l’attrition (ou churn) des clients : quels sont les indices de comportement permettant de détecter qu’un client puisse quitter son fournisseur (sa banque, son opérateur de téléphonie mobile, …)
• Détecter des comportements anormaux ou frauduleux (transactions financières, escroquerie aux assurances, distribution d’énergie, …)
• Rechercher des critères qui permettant de repérer les « bons » clients, sans facteur de risque (Évaluation des risques-clients), et ainsi pouvoir leur proposer une tarification adaptée (par exemple pour une banque ou une compagnie d’assurance).
• Suggérer lors de la sollicitation d’un centre d'appel, en temps réel, une réponse de l’opérateur qui soit adaptée
• Provoquer un comportement attendu, dès lors qu'on en a isolé le stimulus

Les outils de text mining (fouille de textes) associent en complément aux principes du data mining, l’analyse lexicographique et/ou linguistique multilingue des données non structurées comme les courriels, les réponses à des questionnaires ou à des enquêtes, les réclamations clients, les blogs Internet, les news en ligne, les tchats… En tentant de déterminer par exemple le degré de satisfaction (ou d’insatisfaction) de la clientèle. Ses applications les plus rudimentaires sont la lutte contre le spam, ou pourriel, ainsi que l’analyse de contenu. De plus ambitieuses concernent l’évaluation par analyse de dépêches de presse, de l’image d’une société, d’un climat politique ou boursier, ou la catégorisation automatique d’informations.

Par secteurs d'activités

L'industrie a pris conscience de l'importance du patrimoine constitué par ses données et cherche à l'exploiter en utilisation l'informatique décisionnel et l'exploration des données. Les plus avancés se situent dans le secteur tertiaire. Selon les site www.kdnuggets.com la répartition aux USA (en % du total des réponses au sondage) de l'utilisation du data mining par secteurs d'activités s'effectue en 2010 comme ceci :

Comme on le voit ci-dessus, l'industrie est très intéressée par le sujet, notamment en matière de standard et d'interopérabilité. En outre, celle-ci, l'enseignement et la recherche ont grandement contribué à l'évolution et à l'amélioration (en terme de rigueur par exemple) des méthodes et des modèles; un article publié en 2008 par l'International Journal of Information Technology and Decision Making résume une étude qui trace et analyse cette évolution. Certains acteurs - comme on le verra par la suite - sont passés de la recherche à l'industrie.

Des Universités telles que celles de Constance et de Dortmund, Allemagne, de l'Etat de Caroline du Nord, USA , de Waikato, Nouvelle-Zélande, et l'Université Lumière Lyon 2, France, ont effectué des recherches pour trouver de nouveaux algorithmes et améliorer les anciens, et ont développé des logiciels permettant à leurs étudiants, enseignants et chercheurs de progresser dans ce domaine, faisant ainsi bénéficier l'industrie de leur progrès.

En outre, de nombreux groupements inter-professionnels et d'associations se sont créés pour réfléchir et accompagner le développement du Data Mining. Le premier de ces groupements professionnels dans le domaine du data mining est le Groupe d’intérêt de l'Association for Computing Machinery sur la Gestion des connaissances et le data mining (SIGKDD). Depuis 1989 ils accueillent une conférence internationale et publient les résultats de leur réflexion , et depuis 1999 cet organisme publie une revue semestrielle dont le titre est « SIGKDD Explorations ». D'autres conférences sur le data mining et l'informatique sont organisées, comme par exemple :

• DMIN - International Conference on Data Mining
• DMKD - Research Issues on Data Mining and Knowledge Discovery
• ECML-PKDD - European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases;
• ICDM - IEEE International Conference on Data Mining
• MLDM - Machine Learning and Data Mining in Pattern Recognition
• SDM - SIAM International Conference on Data Mining
• EDM - International Conference on Educational Data Mining
• ECDM - European Conference on Data Mining
• PAKDD - The annual Pacific-Asia Conference on Knowledge Discovery and Data Mining

Ces recherches et résultats financièrement probants obligent les équipes de data mining à effectuer un travail méthodique dans des projets structurés.

De «bonnes pratiques» ont émergé au fil du temps pour améliorer la qualité des projets. Parmi celles-ci, les méthodologies aident les équipes à organiser les projets en processus. Au nombre des méthodes les plus utilisées on trouve la méthodologie SEMMA du SAS Institute et la CRISP-DM qui est la méthode la plus employée. Techniquement, la méthode CRISP-DM découpe le processus de data mining en six étapes permettant de structurer la technique et de l'ancrer dans un processus industriel. Plus qu'une théorie normalisée, c'est un processus d'extraction des connaissances métiers comportant les étapes principales suivantes :

• Comprendre le métier - Formaliser un problème que l'organisation cherche à résoudre en termes de données, et mettre en place un plan initial pour réaliser cet objectif.
• Comprendre les données - Accéder aux données appropriées quelles qu'elles soient
• Préparer ces données en vue des traitements et utilisations futurs
• Modéliser les données en leur appliquant des algorithmes d'analyse
• Évaluer et valider les connaissances ainsi extraites des analyses
• Déployer les analyses dans l'entreprise pour une utilisation effective

Vocabulaire

Avant d'aborder la méthode CRISP-DM en détail, il est intéressant de préciser le vocabulaire rencontré dans la littérature française et anglo-saxone. Voici un tableau emprunté à Stéphane Tufféry.

Détailler la méthode CRISP-DM

Les principales étapes de la démarche sont expliquées ci-après.

Comprendre le métier

C'est définir le problème : le chef de projet doit comprendre les objectifs du métier en matière de DM et connaître les critères de réussite du projet.

Comprendre les données

Une fois que l'équipe de projet sait ce qu'il faut faire, elle doit se mettre en quête des données, des textes, et tout ce qui lui permettra de répondre au problème. Il lui faut ensuite en évaluer la qualité, découvrir les premiers schémas apparents pour émettre des hypothèses sur les modèles cachés.

Préparer

Le data mining se propose d'utiliser un ensemble d'algorithmes issus de disciplines scientifiques diverses (statistiques, intelligence artificielle, base de données) pour construire des modèles à partir des données, c'est-à-dire trouver des schémas « intéressants » (des patterns ou motifs selon des critères fixés au départ), et d'en extraire un maximum de connaissances utiles à l'entreprise. Les données que l'équipe de projet a collectées sont hétérogènes. Elles doivent être préparées en fonction des algorithmes utilisés, en supprimant les valeurs aberrantes - valeurs extrêmes -, en complétant les données non renseignées(par la moyenne ou en utilisant la méthode des K plus proches voisins), en supprimant les doublons, les variables invariantes et celles ayant trop de valeurs manquantes, ou bien par exemple en discrétisant les variables si l’algorithme à utiliser le nécessite, comme c'est par exemple le cas pour l'analyse des correspondances multiples (ACM), l'analyse discriminante DISQUAL, ou bien la méthode de Condorcet.

Modéliser

Une fois que les données sont prêtes à être traitées il faut les explorer. L'activité Modéliser regroupe quatre classes de tâches pouvant être utilisées seules ou en complément avec les autres :

1. La Segmentation - est la tâche consistant à découvrir des groupes et des structures au sein des données qui sont d'une certaine façon «similaires», sans utiliser des structures connues dans les données.
2. La Classification - est la tâche de généralisation des structures connues pour les appliquer à des données nouvelles. Par exemple, un programme d'email pourrait tenter de classer un email en tant que légitime ou bien en tant que spam. Les algorithmes généralement utilisés incluent les arbres de décision, les plus proches voisins, la Classification naïve bayesienne, les réseaux neuronaux, et les séparateurs à vaste marge (SVM).
3. La Prédiction - qui tente de trouver une fonction modélisant les données avec le plus petit taux d'erreur, afin d'en prédire les valeurs futures.
4. L'Association - recherche les relations entre les variables. Par exemple un supermarché peut rassembler des données sur des habitudes d'achats de ses clients. En utilisant l'apprentissage des règles d'association, le supermarché peut déterminer quels produits sont fréquemment achetés ensemble et ainsi utiliser cette connaissance à des fins de marketing. On se réfère souvent à cette technique sous le nom de « analyse du panier de la ménagère ».

Évaluer

Il s'agit d'évaluer les résultats obtenus en fonction des critères de succès du métier, d'évaluer le processus lui-même pour faire apparaître les manques et les étapes négligées. A la suite de ceci, il doit être décidé soit de déployer, soit d'itérer le processus en améliorant ce qui a été mal ou pas effectué.

Déployer

C'est la phase de livraison et de bilan de fin de projet. On établit les plans de contrôle et de maintenance et on rédige le rapport de fin de projet. Afin de déployer un modèle prédictif, on utilise le langage PMML - basé sur le XML - qui permet de décrire toutes les caractéristiques du modèle et de le déployer sur d'autres applications compatibles PMML.

D'autres méthodes

SEMMA

La méthodologie SEMMA (Sample then Explore, Modify, Model, Assess) inventée par le SAS Institute, se concentre sur les activités techniques du data mining. Bien qu'elle soit présentée par SAS comme seulement une organisation logique des outils de SAS Enterprise miner, SEMMA peut être utilisée pour organiser le processus de data mining indépendamment du logiciel utilisé.

Six Sigma (DMAIC)

Six Sigma (DMAIC est un acronyme caractérisant la méthode comme suit: Define, Mesure, Analyse, Improve, Control) est une méthodologie structurée, orientée données, dont le but est l'élimination des défauts, des redondances, et des problèmes de contrôle qualité de toutes sortes dans les domaines de la production, de la fourniture de service,du management, et d'autres activités métiers.

Conclusion

Le coeur du data mining est constitué par la modélisation: toute la préparation est effectuée en fonction du modèle que le statisticien envisage de produire, les tâches effectuées ensuite valident le modèle choisi, le complètent et le déploient. La tâche la plus lourde de conséquences dans la modélisation consiste à déterminer le ou les algorithmes qui produiront le modèle attendu. La question importante est donc celle des critères qui permettent de choisir cet algorithme.

Classement des algorithmes

Résoudre une problématique avec un processus de data mining impose généralement l'utilisation d'un grand nombre de méthodes et d'algorithmes différents plus ou moins faciles à comprendre et à utiliser. On peut distinguer deux grandes familles d'algorithmes: les méthodes descriptives et les méthodes prédictives.

Méthodes descriptives

Ce sont des méthodes qui permettent d'organiser, de simplifier, d'aider à comprendre l'information sous-jacente à un ensemble important de données. Elles permettent de travailler sur un ensemble de données dans lequel aucune des variables explicatives des individus n'a d'importance particulière par rapport aux autres. On les utilise par exemple pour dégager d'un ensemble d'individus des groupes homogènes (typologie), pour construire des normes de comportements et donc des déviations par rapport à ces normes (détection de fraudes nouvelles ou inconnues à la carte bancaire, à l'assurance maladie...), pour réaliser de la compression d'informations (compression d'image)...

Parmi les techniques disponibles on peut utiliser:

• Les analyses factorielles: elles permettent de dégager les variables cachées (les facteurs) dans un ensemble de mesures. Dans les analyses factorielles on part du principe que si les données sont dépendantes c'est parce qu'elles sont liées à des facteurs qui leur sont communs. Les techniques factorielles se décomposent en analyse en composantes principales, analyse en composantes indépendantes, analyse factorielle des correspondances, analyse des correspondances multiples, positionnement multidimensionnel...

• La Classification (non supervisée) : ce sont des méthodes qui permettent de regrouper des individus en classes, dont la caractéristique est que les individus d'une même classe se ressemblent, tandis que ceux de deux classes différentes sont dissemblables. Les classes de la classification ne sont pas connues au préalable, elles sont découvertes par le processus. D'une manière générale, les méthodes de classification servent à rendre homogènes des données qui ne le sont pas à priori, et ainsi permettent de traiter chaque classe avec des algorithmes sensibles aux données 'aberrantes'. Dans cette optique, les méthodes de classification forment une première étape du processus d'analyse. On distingue notamment:

• le partitionnement: il s'agit par exemple des méthodes des centres mobiles,« k-means » (les nuées dynamiques en français), les « k-medoids », k-modes et k-prototypes, les réseaux de Kohonen; l'algorithme EM, AdaBoost et la classification par agrégation des similarités.

• la classification hiérarchique: parmi les méthodes hiérarchiques on trouve les méthodes ascendantes où on part des individus qu'on agrège en classes, et des méthodes descendantes où on part du tout et par divisions successives on arrive aux individus qui composent les classes.

• le recouvrement à logique floue

• Les Associations: les techniques dites de recherche d'associations (elles sont à l'origine utilisées pour faire de l'analyse dite de panier d'achats ou de séquences, c'est-à-dire pour essayer de savoir parmi un ensemble d'achats effectués par un très grand nombre de clients et de produits possibles, quels sont les produits qui sont achetés simultanément (pour un supermarché par exemple ; elles sont également appliquées à des problèmes d'analyse de parcours de navigation de site web). Ces techniques peuvent donc être utilisées de manière supervisées) : algorithmes APriori, GRI, Carma, méthode ARD, PageRank...

• Corrélation: les analyses de liens

Méthodes prédictives

Leur raison d'être est d'expliquer et/ou de prévoir un ou plusieurs phénomènes observables et effectivement mesurés. Concrètement, elles vont s'intéresser à une ou plusieurs variables de la base de données définies comme étant les cibles de l'analyse. Par exemple, on utilisera ce type de méthode lorsque l'on cherchera à comprendre pourquoi un individu a acheté un produit plutôt qu'un autre, pourquoi un individu a répondu favorablement à une opération de marketing direct, pourquoi un individu a contracté une maladie particulière, pourquoi un individu a visité une page d'un site web de manière répétée, pourquoi la durée de vie après la contraction d'une maladie varie selon les malades. En exploration de données prédictive, il y a deux types d'opérations : la discrimination (ou classement) et la régression (ou prédiction) tout dépend du type de variable à expliquer. La discrimination s’intéresse aux variables qualitatives, tandis que la régression s’intéresse aux variables continues.

• Classement (classification supervisée) et Prédiction

Les méthodes de classement (et de prédiction) permettent de séparer des individus en plusieurs classes. Si la classe est connue au préalable et que l'opération de classement consiste à analyser les caractéristiques des individus pour les placer dans une classe, alors on a à faire à une méthode supervisée. Dans le cas contraire, les anglo-saxons parlent de méthodes non-supervisées. La différence entre les méthodes descriptives de classification et les méthodes prédictives de classement provient du fait que les premières « réduisent, résument, synthétisent les données » alors que les secondes expliquent une ou plusieurs variables.

• exemples de méthodes prédictives

• Arbre de décision : CART, CHAID, ECHAID, QUEST, C5, C4.5, les forêts d'arbres décisionnels, le Raisonnement par cas...

• Statistiques : Techniques de régressions linéaires et non linéaires au sens large : Régression linéaire, Régression linéaire multiple, Régression logistique binaire ou multinomiale, Probit binaire, multinomial ou ordonné, Tobit, Cauchit, modèle Gamma, binomial négatif, Loi log-logistique, Analyse discriminante linéaire ou quadratique, régression de cox, modèle linéaire généralisé, régression PLS, régressions non paramétrique, équations structurelles ... (voir aussi économétrie)

• Réseau de neurones : les perceptrons mono ou multicouches avec ou sans rétropropagation des erreurs, les Neurones à base radiale...

• Algorithmes génétiques : certains en appui des Réseaux Bayésiens , d'autres comme Timeweaver en recherche d'évènements rares

• Inférence bayésienne : Réseau bayésien

• Aide à la décision  : L'Exploration Hypercubique

• Marketing  : Le Filtrage collaboratif

Pour connaitre les conditions dans lesquelles on peut employer ces algorithmes, voici un tableau qui quelles sont les algorithmes à employer en fonction des types de variables explicatives et celui des variables à expliquer :

Pourquoi tant d'algorithmes ?

Parce que nous venons de voir qu'ils n'ont pas tous le même objet, parce qu'aucun n'est optimal dans tous les cas, parce qu'ils s'avèrent en pratique complémentaires les uns des autres et parce qu'en les combinant intelligemment (en construisant ce que l'on appelle des modèles de modèles ou métamodèles) il est possible d'obtenir des gains de performance très significatifs, si l'on prend bien garde d'éviter des problèmes de sur-ajustement des modèles ainsi obtenus (voir à ce sujet le paragraphe traitant du problème de sur-ajustement des modèles dans l'article Arbre de décision). Encore faut-il être en mesure de réaliser ces combinaisons facilement, ce que permettent les logiciels ateliers de Data Mining, par opposition aux outils de statistiques classiques dans lesquels l'opération est beaucoup plus délicate en pratique. L'ICDM-IEEE a fait en 2006 un classement des 10 algorithmes qui ont le plus d'influence dans le monde du Data mining : ce classement est une aide efficace au choix et à la compréhension de ces algorithmes.

Chercher d'autres algorithmes, ou bien enrichir les données ?

L'université de Stanford a mis en concurrence à sa rentrée d'automne 2007 deux équipes sur le projet suivant : en s'appuyant sur la base de films visualisés par chaque client d'un réseau de distribution (abonnement avec carte magnétique) déterminer l'audience la plus probable d'un film qui n'a pas encore été vu. Une équipe s'est orientée sur une recherche d'algorithme extrêmement fin à partir des informations de la base, une autre au contraire a pris des algorithmes extrêmement simples, mais a combiné la base fournie par le distributeur au contenu de l'Internet Movie Database (IMDB) pour enrichir ses informations. La seconde équipe a obtenu des résultats nettement plus précis. Un article écrit à ce sujet suggère que de la même façon l'efficacité de Google tient bien moins à son algorithme de page rank qu'à la très grande quantité d'information que Google peut corréler par croisement des historiques de requête, de la correspondance et du comportement de navigation sur ses sites de ses utilisateurs.

Avec la qualité des moyens modernes de l'informatique l'une ou l'autre de ces deux solutions peut s'envisager dans chaque projet.

Le Datamining n'existerait pas sans l'informatique. L'offre est présente sous la forme de logiciels bien entendu, mais aussi quelques plateformes sont proposées. De nombreux logiciels sont présents dans la sphère des logiciels commerciaux, mais il en existe aussi dans celle des logiciels libres. Il n'y a pas de meilleurs logiciels que d'autres tout dépend de ce qu'on veut en faire.Les logiciels commerciaux sont plus destinés aux entreprises, tandis que les logiciels libres sont destinés plus particulièrement aux étudiants et à ceux qui veulent expérimenter des techniques nouvelles. En 2009 les outils les plus utilisés sont, dans l'ordre, SPSS, RapidMiner, SAS, Excel, R, KXEN, Weka, Matlab, Knime,Microsoft Sql Server, Oracle DM, Statistica,......Voilà une présentation très succinte de quelques-uns de ces logiciels:

KXEN Analytic Framework™

KXEN Analytic Framework™ est un logiciel commercial de DataMining édité par la société KXEN basée en Californie et fondée en 1998. Les modules de KXEN Analytic Framework™ permettent la prédiction, la segmentation, les associations (panier de la ménagère), la prévision à l'aide de KPIs, le texte Mining et l'analyse des réseaux sociaux.

KNIME

KNIME(prononcer NAÏM) - (Konstanz Information Miner) - est un logiciel libre édité par le Nycomed Chair for Bioinformatics and Information Mining, qui est une chaire de l'université de Constance (Konstanz) . Il intègre tous les modules d'analyse de Weka (voir ci-dessous) et permet de créer des scripts en langage R (voir ci-dessous). Comme tous les logiciels libres KNIME est facilement extensible.

Logiciel R

R est un language et un environnement pour effectuer des calculs statistiques et créer leurs graphiques. C'est un projet GNU qui est semblable au langage S et à son environnement créé aux Laboratoires Bell (anciennement AT&T, maintenant Lucent Technologies) par John Chambers et ses collègues. R peut être considéré comme une autre mise en oeuvre de S. Il y a quelques différences importantes, mais beaucoup de code écrit pour S s'exécute inchangé sous R. R fournit un large éventail de de techniques statistiques et graphiques (modélisation linéaire et non linéaire, tests statistiques classiques, analyse des séries chronologiques, classification, clustering, ...), et peut être fortement étendu. Le langage S est souvent le véhicule de choix pour la recherche en matière de méthodologie statistique, et R fournit une voie open source à la participation à cette activité. Un des atouts de R est la facilité avec laquelle des graphiques bien conçus de qualité digne de publications peuvent être produits, y compris des symboles mathématiques et des formules si besoin est. Un grand soin a été accordé à la prise en charge des options par défaut pour les choix mineurs dans la conception des graphiques, mais l'utilisateur conserve le contrôle complet de ces options. R est disponible comme logiciel libre sous les termes de la « Free Software Foundation's GNU General Public License » sous la forme de code source. Il se compile et s'execute sous une grande variété de plates-formes UNIX et de systèmes similaires (y compris FreeBSD et Linux), Windows et MacOS.

Microsoft Sql Server

Microsoft™ propose une solution de data mining limitée, déduite de son offre Business intelligence, soit en utilisant les outils de développement associés à SSAS™ (pour les développeurs), soit en utilisant l'Add-in Data mining proposé pour EXCEL™ 2007 ou Powerpivot™ pour les Statisticiens.

Orange

Orange est un logiciel libre créé à l'université de Ljubljana, Slovenie. Ce logiciel est doté d'une interface Homme-Machine extrêmement conviviale. Il est développé en C++ et Python. Chaque algorithme se présente sous la forme de Widget pouvant avoir une entrée et une sortie; ils sont agencés dans un canvas.

RapidMiner

RapidMiner est un logiciel libre, distribué par la société Rapid-I, basée à Dortmund, Allemagne. RapidMiner est un logiciel intégrant la Business Intelligence (ETL, OLAP, Reporting,..) et le Data Mining (SVM, ACP, arbres de décision, réseaux neuronaux..).

SAS

SAS® Enterprise Miner™ est un outil commercial de data mining édité par la société SAS Institute Inc(Statistical Analysis System), société créée en 1976 à Raleigh, Caroline du Nord, USA. SAS® Enterprise Miner™ est un logiciel offrant toutes les facettes du Data Mining dont le process est facilité par son interface Homme-Machine (GUI) bien conçue.

SPSS

SPSS™ (Statistical Package for the Social Sciences) est un logiciel Statistiques, édité par la filiale d'IBM™ du même nom, qui se décompose en plusieurs modules dont SPSS Modeler (Data mining), SPSS Amos ( Modèle d'équation structurelle), Predictive Analytics (Analyse prédictive)....

Statistica Data Miner

STATISTICA Data Miner™, de la société Statsoft, Inc, est un logiciel commercial de data mining intégrant des techniques statistiques et de réseaux de neurones avancées.

Tanagra

Tanagra est un logiciel libre de Data Mining développé sous la direction de Ricco Rakotomalala du laboratoire ERIC de l'université Lumière Lyon 2. Tanagra permet d'effectuer les traitements d'analyses factorielles (ACP, AFC,ACM, régression PLS ), de clustering (avec l'algorithme des k-means et l'algorithme hiérarchique ascendant), de classification . Tanagra permet aussi d'importer des fichiers au format weka.

Weka

Weka(Waikato Environment for Knowledge Analysis) est un logiciel libre de data mining, créé par l'université de Waikato, Nouvelle-Zélande. Le Weka est un oiseau endémique de la Nouvelle-Zélande. Weka est une collection d'algorithmes d'apprentissage automatique créés pour effectuer des tâches d'exploration de données (data mining). Les algorithmes peuvent soit être appliqués directement à un ensemble de données soit appelé de votre propre code Java. Weka contient des outils pour les pré-traitements des données, la classification, la régression, le clustering, les règles d'association, et la visualisation. Il est également bien adapté au développement de nouveaux schémas pour l'apprentissage automatique. C'est un logiciel open source publié sous la Licence Publique Générale GNU.