L'Union soviétique a envoyé des athlètes aux Jeux olympiques pour la première fois en 1952. Ils ont envoyé des équipes aux Jeux 18 fois depuis lors. À sept reprises sur neuf aux Jeux olympiques d'été, l'équipe s'est classée première pour le nombre total de médailles remportées. Elle a été classée deuxième aux deux autres Jeux. L'équipe a été classée première pour le nombre de médailles à sept reprises et deuxième deux fois sur les neuf fois où elle a envoyé des équipes aux Jeux olympiques d'hiver.
Le Comité olympique de l'URSS a été créé le 21 avril 1951. Il a été accepté par le CIO le 7 mai 1951.
Les Jeux olympiques d'été de 1952 à Helsinki ont été les premiers Jeux olympiques pour les athlètes soviétiques. Le 20 juillet 1952, Nina Romashkova remporte la première médaille d'or olympique pour le pays au lancer du disque féminin. Romashkova a établi un nouveau record olympique dans cette épreuve. Les Jeux Olympiques d'hiver de 1956 à Cortina d'Ampezzo ont été les premiers Jeux Olympiques d'hiver pour les athlètes soviétiques. La première médaille d'or olympique d'hiver pour l'Union soviétique est remportée par Lyubov Kozyreva dans l'épreuve féminine de ski de fond sur 10 km.
L'URSS a été le pays hôte des Jeux olympiques d'été de 1980 à Moscou. Ces Jeux ont été boycottés par les États-Unis et de nombreux autres pays. Après cela, l'URSS a mené un boycott des Jeux de 1984 à Los Angeles.
L'URSS a pris fin le 26 décembre 1991. Le Comité olympique de l'URSS n'a pris fin que le 12 mars 1992.
En 1992, 12 des 15 pays qui avaient fait partie de l'Union soviétique ont participé aux Jeux en tant qu'équipe unifiée. Ils ont utilisé le drapeau olympique aux Jeux de Barcelone. L'équipe unifiée a terminé première au classement des médailles. L'équipe unifiée a également participé aux Jeux d'hiver d'Albertville plus tôt dans l'année. Seuls sept des douze pays y ont participé. Ils ont terminé à la deuxième place du classement des médailles à ces Jeux.