L'ensemble de Mandelbrot est une fractale qui est définie comme l'ensemble des points c du plan complexe pour lesquels la suite récurrente définie par :
 
 
et la condition z0 = 0
ne tend pas vers l'infini (en module).
Si nous reformulons cela sans utiliser les nombres complexes, en remplaçant zn par le couple (xn, yn) et c par le couple (a, b), alors nous obtenons:
et
L'ensemble de Mandelbrot a été créé par Benoît Mandelbrot et permet d'indicer les ensembles de Julia : à chaque point du plan complexe correspond un ensemble de Julia différent; ces points de l'ensemble de Mandelbrot correspondent précisément aux ensembles de Julia connexes, et ceux en dehors correspondent aux ensembles de Julia non connexes.
Il peut être démontré que dès que le module de zn est strictement plus grand que 2 (zn étant sous forme algébrique, quand xn2 + yn2> 22), la suite diverge vers l'infini, et donc c est en dehors de l'ensemble de Mandelbrot. Cela nous permet d'arrêter le calcul pour les points ayant un module strictement supérieur à 2 et qui sont donc en dehors de l'ensemble de Mandelbrot. Pour les points de l'ensemble de Mandelbrot, i.e. les nombres complexes c pour lesquels z n ne tend pas vers l'infini, le calcul n'arrivera jamais à terme, donc il doit être arrêté après un certain nombre d'itérations déterminé par le programme. Il en résulte que l'image affichée n'est qu'une approximation du vrai ensemble.
Bien que cela n'ait aucune importance sur le plan mathématique, la plupart des programmes générant des fractales affichent les points en dehors de l'ensemble de Mandelbrot dans différentes couleurs. La couleur attribuée à un point n'appartenant pas à l'ensemble dépend du nombre d'itérations au bout desquelles la suite correspondante est déclarée divergente vers l'infini (par exemple quand le module est strictement supérieur à deux). Cela donne plusieurs zones concentriques, qui entourent l'ensemble de Mandelbrot. Les plus éloignées sont constituées de points c pour lesquels la suite (zn) tend « plus rapidement » vers l'infini. Ces différentes zones délimitent d'une manière plus ou moins précise l'ensemble de Mandelbrot.
L'ensemble 
 
 
 
![\;[-2,\frac{1}{4}]\;.](https://static.techno-science.net/illustration/Definitions/autres/b/ba65aa6b0994ab7ae8562ba231efd3be_1bdc05e04190644017bc209666e79b72.png) 
      Si ,
 
![\;\mathbb{C}[X]\;,](https://static.techno-science.net/illustration/Definitions/autres/3/3022efb9557c777379a5425278e91f5d_120efc6d3096ca009ad5d6f7ee143fca.png) 
 
 
 
 
 
et 
 
 
 
Alors,
 
 
 
 
 
La compacité des 
 
Pour voir que la suite 
 
 
 
en effet si  on a
 on a 
et une petite récurrence donne  pour tout
 pour tout 
 
d'où si 
 
 
 
pour voir que 
 
 
 
vérifie 
 
 
 
 
 
 
 
 
Pour 
![\;M\cap\mathbb{R}=[-2,\frac{1}{4}]](https://static.techno-science.net/illustration/Definitions/autres/a/a7620f30c7fe4da40bca83467565dee1_6cb09c297f31b14d0b392385bec199e8.png) 
on a déjà 
![\;\;[0,\frac{1}{4}]\subset M\;](https://static.techno-science.net/illustration/Definitions/autres/b/b1d432dd10400234937f5b71d4c23907_7dbaccfa1e137d5066cd4ae075e69c06.png) 
Pour 
![\;z\in[-2,0]\;](https://static.techno-science.net/illustration/Definitions/autres/a/aa43e1da3533811a8537a5bff55ca56a_cd5acf3380065787a3773fbc7397e98c.png) 
 
 
en effet c'est trivial pour 
 
 
 
et vu que 
 
 
Pour 
![\;z\in]\frac{1}{4},+\infty[\;](https://static.techno-science.net/illustration/Definitions/autres/7/794332fd76e19e8401a6ab3241319b77_318c08667b61688eb1d5b66ffb355501.png) 
 
 
 
Les polynômes 
 
 
 
(ce qui se traduit géométriquement par la symétrie des 
 
 
Remarque : Toutes les racines des polynômes 
 
 
 
 
il est facile de montrer par récurrence que 
 
 
ce qui veut dire que la suite 
 
Une propriété moins évidente à montrer est la connexité des 
 
(à suivre)
En outre, le complémentaire de l'ensemble de Mandelbrot est conformément isomorphe au complémentaire dans 
 
On conjecture que l'ensemble de Mandelbrot est localement connexe.