La caractéristique la plus évidente de l'Ankylosaure est son armure, constituée de boutons et de plaques osseuses massives, appelées ostéodermes ou scutelles osseuses, encastrées dans la peau. On trouve également des ostéodermes dans la peau des crocodiles, des tatous et de certains lézards. L'os était probablement recouvert d'une couche cornée et dure de kératine.
Ces ostéodermes étaient de taille très variable, allant de larges plaques plates à de petits nodules ronds. Les plaques étaient alignées en rangées horizontales régulières le long du cou, du dos et des hanches de l'animal, les nombreux petits nodules protégeant les zones situées entre les grandes plaques. Des plaques plus petites peuvent avoir été disposées sur les membres et la queue. Par rapport à l'ankylosaure Euoplocephalus, légèrement plus ancien, les plaques de l'Ankylosaure étaient de texture lisse, sans les hautes quilles trouvées sur l'armure du nodosaure contemporain Edmontonia. Une rangée de pointes plates et triangulaires a pu faire saillie latéralement de chaque côté de la queue. Des écailles robustes et arrondies protégeaient le sommet du crâne, tandis que quatre grandes cornes pyramidales faisaient saillie vers l'extérieur à partir de ses coins arrière.
En dessous, il était recouvert d'une peau normale, mais pour l'atteindre, le carnivore devait retourner un animal pesant jusqu'à 6 000 kg (11 000 lb).
