La ville a été fondée en 1656. La région a été habitée pour la première fois il y a environ 10 000 ans (épipaléolithique). Un crâne et d'autres traces ont été trouvés dans des grottes à proximité.
Au milieu du XIVe siècle, la région a été colonisée à partir du sud du Val-de-Ruz. La Chaux-de-Fonds est mentionnée pour la première fois en 1350 sous le nom de la Chaz de Fonz. En 1378, elle est mentionnée sous le nom de Chault de Font.
La région était sous l'autorité des seigneurs de Valangin. Aux XVe et XVIe siècles, une deuxième vague de colonisation est venue du Clos de la Franchise (les vallées du Locle et de la Sagne). L'agriculture était l'activité principale mais le village restait petit. En 1531, il n'y avait qu'environ 35 personnes qui y vivaient. La première église a été construite en 1528. En 1530, La Chaux-de-Fonds, comme le reste des terres de Valangin, se convertit à la nouvelle foi réformée. Le Seigneur de Valanginian, René de Challant, fixe les limites de la paroisse en 1550. L'église et la paroisse ont fourni une structure politique et une petite communauté de citoyens valanginiens, de fermiers et de paysans libres a grandi autour de l'église. En 1615, le village comptait 355 habitants. En 1616, la basse et moyenne juridiction de La Chaux-de-Fonds s'installe au Locle et à La Sagne, tandis que la haute cour reste à Valanginian. L'agriculture, complétée par des moulins sur les rives du Doubs, continuait à dominer. Cependant, à la fin du XVIe siècle, la ville devient un important carrefour entre Neuchâtel, la Franche-Comté et l'évêché de Bâle.
La communauté s'est développée pendant la guerre de Trente Ans, principalement en raison de sa position stratégique pour le commerce. L'activité économique s'est accélérée au XVIIIe siècle avec le développement des industries dentellière et horlogère de la ville. Pierre Jacquet-Droz, plus connu pour ses automates, était un horloger particulièrement important de cette époque.
En 1794, la ville est dévastée par un incendie. Charles-Henri Junod a créé le plan de la nouvelle ville en 1835, et la ville est maintenant connue pour son plan "moderne", en forme de grille, par rapport aux rues sinueuses de la plupart des villes européennes. L'avenue centrale est appelée avenue Léopold Robert.
