Le Haut-Rhin est l'un des 83 départements originaux créés pendant la Révolution française, le 4 mars 1790. Il était divisé en trois districts : Altkirch, Belfort et Colmar, avec Colmar comme capitale.
En 1800, avec la création des arrondissements en France, les trois districts ont été transformés en cinq arrondissements : Colmar, Altkirch, Belfort, Delémont et Porrentruy. Les arrondissements de Delémont et de Porrentruy ont été supprimés en 1814 et transférés en Suisse.
La sous-préfecture d'Altkirch a été transférée à Mulhouse en 1857.
Le département du Haut-Rhin a été supprimé en 1871 lorsque le territoire est devenu partie intégrante de l'Allemagne, à l'exception d'une partie qui forme le Territoire de Belfort.
En 1919, le Haut-Rhin est à nouveau un département lorsque le territoire fait partie de la France avec les arrondissements de Colmar-Ville, Colmar-Campagne, Altkirch, Guebwiller, Mulhouse, Ribeauvillé et Thann. Son chef-lieu est Colmar.
Les arrondissements de Colmar-Ville et de Colmar-Campagne ont été réunis en 1934 pour former l'arrondissement de Colmar.
L'arrondissement de Guebwiller a été supprimé en 2015 et son territoire a été combiné avec celui de Tharn pour former l'arrondissement de Thann-Guebwiller. La même année, l'arrondissement de Ribeauvillé a également été supprimé et son territoire a été regroupé avec celui de Colmar pour former l'arrondissement de Colmar-Ribeauvillé.
