Claude Cohen-Tannoudji travaille au laboratoire Kastler-Brossel de l'École normale supérieure à Paris, où il avait été étudiant auprès d’Alfred Kastler et Jean Brossel. En 1973, il est nommé professeur titulaire de la chaire de physique atomique et moléculaire au Collège de France où il enseigne jusqu'en 2003-2004.
Il reçoit en 1996 la médaille d'or du CNRS. Également, avec Steven Chu et William Daniel Phillips, il est colauréat du prix Nobel de physique de 1997 « pour le développement de méthodes servant à refroidir et à confiner des atomes à l'aide de la lumière laser ».
Il est l'auteur d'ouvrages universitaires de physique quantique.
Humaniste, il a notamment signé, avec d'autres lauréats du prix Nobel, un appel demandant qu'une délégation du Comité des droits de l'enfant de l'ONU rende visite à un enfant tibétain en résidence surveillée depuis 1995 en Chine, Gendhun Choekyi Nyima, reconnu comme 11 Panchen Lama par le 14 Dalaï Lama, Tenzin Gyatso.
Il a trois enfants : Alain, Joëlle et Michel. Son frère, Gilles Cohen-Tannoudji (né en 1938), est également physicien.