Le terme "chimie physique" a été utilisé pour la première fois par Mikhail Lomonosov en 1752. Il a présenté un cours magistral intitulé "Un cours de vraie chimie physique" (en russe : "Курс истинной физической химии") aux étudiants de l'université de Petersbourg.
La chimie physique moderne a été développée dans les années 1860-1880 avec des travaux sur la thermodynamique chimique, les électrolytes en solution, la cinétique chimique et d'autres sujets. En 1876, Josiah Willard Gibbs a écrit un article intitulé "On the Equilibrium of Heterogeneous Substances". Cet article présentait de nombreuses parties principales de la chimie physique, telles que l'énergie de Gibbs, les potentiels chimiques, la règle de la phase de Gibbs. Parmi les autres découvertes importantes, citons les travaux de Heike Kamerlingh Onnes sur l'enthalpie et les processus macromoléculaires.
La première revue scientifique sur la chimie physique a été la revue allemande Zeitschrift für Physikalische Chemie. Elle a été fondée en 1887 par Wilhelm Ostwald et Jacobus Henricus van 't Hoff. Les deux chimistes et Svante August Arrhenius ont été les hommes les plus importants de la chimie physique à la fin du 19e siècle et au début du 20e siècle. Tous trois ont reçu le prix Nobel de chimie.
D'importantes découvertes ont été faites au XXe siècle. Parmi celles-ci figurent l'application de la mécanique statistique aux systèmes chimiques et les travaux d'Irving Langmuir sur les colloïdes et la chimie des surfaces. Dans les années 1930, Linus Pauling et d'autres ont appliqué la mécanique quantique pour développer la chimie quantique. Les théories chimiques se sont développées avec les nouvelles découvertes expérimentales. De nouvelles formes de spectroscopie ont vu le jour au XXe siècle, notamment la spectroscopie infrarouge, la spectroscopie micro-ondes, la spectroscopie RPE et la spectroscopie RMN.
La chimie physique s'est également améliorée avec les découvertes en chimie nucléaire, notamment en matière de séparation des isotopes. Cela s'est produit à peu près avant et pendant la Seconde Guerre mondiale. Les chimistes ont découvert des faits importants dans le domaine de l'astrochimie.
