Le Plomb du Cantal se trouve dans les Monts du Cantal, une chaîne de montagnes volcaniques du Massif central, au centre du département du Cantal. Il se trouve à environ 40 km au nord-est d'Aurillac, le chef-lieu du Cantal.
Le sommet est situé à la frontière entre les communes de Saint-Jacques-des-Blats à l'ouest et d'Albepierre-Bredons à l'est.
De nombreuses rivières prennent naissance sur les pentes de la montagne ; elles traversent trois grands bassins de drainage :
- à l'ouest, du côté de Saint-Jacques-des-Blats, se trouve le bassin de drainage de la Cère qui se jette dans la Dordogne ;
- au sud, du côté de la commune de Brezons, se trouve le bassin de drainage de la rivière Brezons qui se jette dans la Garonne
- au nord-est, du côté d'Albepierre-Bredons, se trouve le bassin de drainage de l'Alagnon qui se jette dans la Loire.
Le Plomb du Cantal, avec d'autres montagnes proches, fait partie du stratovolcan du Cantal, le plus grand stratovolcan français et l'un des plus importants d'Europe avec une superficie de près de 2 500 km2 (965 mi2). Il avait, il y a 4 millions d'années, une altitude de 3 000 km ou plus.
En raison de son importance pour la circulation des oiseaux migrateurs, le Plomb du Cantal et les Monts du Cantal font partie d'une Zone de Protection Spéciale depuis 2005 : FR8310066 - Monts et Plomb du Cantal.