L'ANC a été fondé en réponse directe à ce qui était considéré comme des injustices envers les Sud-Africains noirs aux mains de leur gouvernement blanc, principalement afrikaner. L'ANC trouve son origine dans une déclaration de Pixley ka Isaka Seme qui disait en 1911 : "Oubliez toutes les différences passées entre les Africains et unissez-vous en une seule organisation nationale". L'ANC a été créé l'année suivante, le 8 janvier 1912.
Le gouvernement de la nouvelle Union d'Afrique du Sud a commencé à opprimer systématiquement les noirs en Afrique du Sud. La loi sur les terres des autochtones a été promulguée en 1913. L'effet de ces lois était de forcer de nombreux non-blancs à quitter leurs fermes pour aller travailler dans les villes et les villages, et de restreindre leurs déplacements à l'intérieur de l'Afrique du Sud. En 1919, l'ANC a mené une campagne contre les laissez-passer, et en 1929, l'ANC a soutenu une grève militante des mineurs.
L'ANC est devenu inactif au milieu des années 20. À cette époque, les Noirs étaient également représentés par l'Union des travailleurs industriels et commerciaux et par le parti communiste, autrefois réservé aux Blancs. En 1927, J.T. Gumende (président de l'ANC) a proposé de coopérer avec les communistes afin de revitaliser l'organisation, mais il a été chassé du pouvoir dans les années 1930. L'ANC est alors devenu largement inefficace et inactif, jusqu'au milieu des années 1940, lorsque l'ANC a été remodelé en un mouvement de masse.
L'ANC a répondu militairement aux attaques contre les droits des Sud-Africains noirs, et a appelé à la grève, au boycott et au défi. Cela a conduit à la Defiance Campaign dans les années 1950, un mouvement de résistance de masse à l'Afrique du Sud sous l'apartheid. Le gouvernement a essayé de stopper l'ANC en interdisant les dirigeants du parti et en promulguant de nouvelles lois pour arrêter l'ANC, mais ces mesures ont échoué.
En 1955, le Congrès du peuple a officiellement adopté la Charte de la liberté, qui énonce les principes fondamentaux de l'Alliance du Congrès sud-africain, composée du Congrès national africain et de ses alliés, le Congrès indien sud-africain, le Congrès des démocrates sud-africains et le Congrès des gens de couleur. Le gouvernement a affirmé qu'il s'agissait d'un document communiste, et par conséquent les dirigeants de l'ANC et du Congrès ont été arrêtés. 1960 a vu le massacre de Sharpeville, au cours duquel 69 personnes ont été tuées lorsque la police a ouvert le feu sur des manifestants anti-apartheid.
Les Blancs ont finalement rejoint la lutte contre l'apartheid, ce qui a conduit de nombreux suprémacistes noirs à se détacher de l'ANC.
Umkhonto we Sizwe
Umkhonto we Sizwe (ou MK), traduit "Lance de la Nation", était la branche militaire de l'ANC. En partie en réponse au massacre de Sharpeville en 1960, certains membres de l'ANC pensaient que la violence était nécessaire parce que la protestation pacifique et passive avait échoué. Une partie importante de l'ANC s'est donc tournée vers la violence pour atteindre ses objectifs. Une partie importante des dirigeants de l'ANC ont convenu que cette violence était nécessaire pour combattre les réactions de plus en plus vives du gouvernement.
Certains membres de l'ANC ont été bouleversés par les actions du MK et ont refusé d'accepter la violence comme étant nécessaire pour mettre fin à l'apartheid, mais ces personnes sont devenues une minorité lorsque les leaders militants tels que Nelson Mandela ont gagné en popularité. Beaucoup considèrent leurs actions comme criminelles, mais le MK a déclaré que la violence était justifiée par l'objectif de mettre fin à l'apartheid. Certains membres du MK ont commis des actes terroristes pour atteindre leurs objectifs, et le MK a été responsable de la mort de civils et de membres de l'armée. En coopération avec le Parti communiste sud-africain, MK a été fondé en 1961.