Une notion fondamentale concernant les tests est la probabilité que l'on a de se tromper. Dans l'idéal on souhaiterait avoir un test qui renvoie toujours le "bon" résultat. Par exemple on aimerait avoir un test qui choisisse toujours l'hypothèse nulle lorsque celle-ci est vérifiée et qui rejette tout le temps l'hypothèse nulle lorsque celle-ci est fausse.
Il y a deux façons de se tromper lors d'un test statistique :
- la possibilité de rejeter à tort l'hypothèse nulle lorsqu'elle est vraie. On appelle ce risque le risque de première espèce et en général on note α la probabilité de se tromper dans ce sens. α est alors la probabilité d'avoir un faux négatif : de rejeter une hypothèse alors qu'en fait elle était vraie ;
- la possibilité d'accepter à tort l'hypothèse nulle lorsqu'elle est fausse. On appelle ce risque le risque de deuxième espèce et en général on note β la probabilité de se tromper dans ce sens. β est alors la probabilité d'avoir un faux positif : d'accepter une hypothèse alors qu'en fait elle était fausse ;
Dans l'idéal on aimerait bien que ces deux erreurs soient nulles, malheureusement ce n'est pas possible, en tout cas lorsque l'on ne dispose que d'un nombre fini d'observations, et il faut alors faire un choix.