Incoraggiato dal padre Cherubini iniziò gli studi musicali ancora bambino, perfezionandosi poi a Bologna con Giuseppe Sarti, con l'aiuto del quale, non ancora ventenne, mise a punto la sua prima opera.

Trasferitosi per un periodo a Londra, dove ottenne fra l'altro la nomina di compositore di corte, e dopo un altro breve soggiorno a Torino, fissò la sua residenza definitiva a Parigi nel 1788, dove, tramite l'amicizia di Viotti, entrò in contatto con gli ambienti aristocratici. Nominato direttore del "Théátre de Monsieur", aderì poi alle iniziative di Bernard Sarrette, creatore di una banda musicale e di una scuola di musica, e dal '94 divenne insegnante al Conservatorio.

Dopo l'incontrastato successo dell'opera Medée, godette di fama internazionale, nonostante la poca simpatia dimostratagli da Napoleone.

Quindi ebbe occasione di recarsi a Vienna, nel 1805, dove conobbe Haydn.
Invitato nel 1815 a Londra dalla Philarmonie Society, tornò infine a Parigi dove divenne direttore della Cappella reale.

Direttore del Conservatorio dal 1821, proseguì questo impegno fino al termine della sua vita lasciando un'eredità musicale ammirata da intere generazioni di grandi musicisti, da Beethoven a Brahms.

Compose più di 30 Opere, diverse Messe e altre pagine sacre, cantate e altre pagine vocali, una Sinfonia. Il catalogo di musica da camera annovera 6 Quartetti e un Quintetto per archi, oltre a un Adagio intitolato Souvenir, anch'esso per quartetto d'archi.