Le projet est discuté au Conseil d'État au printemps 1802 et il passe de justesse. Les objections sont fortes : la Révolution a aboli les ordres de chevalerie, une distinction ressemble à un privilège, on parle de hochets. La réponse de Bonaparte est restée, et elle assume le cynisme : c'est avec des hochets que l'on mène les hommes.
Ce que l'ordre a de neuf tient en trois traits. Il est ouvert aux civils autant qu'aux militaires ; il ne connaît pas la naissance, un tambour peut le recevoir comme un maréchal ; et il est doté de revenus, ce qui en fait aussi une pension. La première grande distribution a lieu au camp de Boulogne le 16 août 1804, devant cent mille hommes ; celle des Invalides l'avait précédée en juillet.
La grande chancellerie s'installe en 1804 à l'hôtel de Salm, construit peu avant la Révolution pour un prince allemand guillotiné en 1794. Sa façade sur la Seine, colonnade et rotonde, avait tellement plu à Thomas Jefferson, alors ambassadeur à Paris, qu'il s'en est inspiré pour Monticello. L'ordre crée aussi des maisons d'éducation pour les filles et sœurs de légionnaires, dont celle d'Écouen en 1805.
L'hôtel brûle pendant la Commune en 1871 et est reconstruit à l'identique grâce aux souscriptions des légionnaires. L'ordre, lui, n'a jamais été interrompu : monarchies, républiques et empires l'ont tous conservé. De toutes les institutions créées entre 1800 et 1804, c'est celle dont la forme a le moins changé en deux siècles.