La théorie des sous-ensembles flous est une théorie mathématique du domaine de l’algèbre abstraite. Elle a été développée par Lotfi Zadeh en 1965 afin de représenter mathématiquement l'imprécision relative à certaines classes d'objets et sert de fondement à la logique floue.
Les sous-ensembles flous (ou parties floues) ont été introduits afin de modéliser la représentation humaine des connaissances, et ainsi améliorer les performances des systèmes de décision qui utilisent cette modélisation.
Les sous-ensembles flous sont utilisés soit pour modéliser l'incertitude et l'imprécision, soit pour représenter des informations précises sous forme lexicale assimilable par un système expert.
Une partie A d'un ensemble E est usuellement associée à sa fonction caractéristique. Celle-ci s'applique sur les éléments x de E. Elle prend la valeur 0 si x n'appartient pas à A et 1 si x appartient à A.
On souhaite définir une partie A floue de E en attribuant aux éléments x de E un degré d'appartenance, d'autant plus élévé qu'on souhaite exprimer avec certitude le fait que x est élément de A. Cette valeur vaudra 0 si on souhaite exprimer que x de façon certaine n'est pas élément de A, elle vaudra 1 si on souhaite exprimer que x appartient à A de façon certaine, et elle prendra une valeur comprise entre 0 et 1 suivant qu'on estime plus ou moins certain l'appartenance de x à A. On est donc amené à définir une partie floue de la façon suivante :
Une partie floue (ou sous-ensemble flou) d'un ensemble E est une application de E dans [0,1].
Plus généralement, si L est un treillis complet, distributif et complémenté, on définit une partie L-floue comme étant une application de E dans L. Si L = [0,1], on retrouve la définition précédente de partie floue, et si L = {0,1}, on retrouve la notion usuelle de partie de E.