L'OGPU a été la police secrète de l'Union soviétique de 1922 à 1934. C'était après la Tcheka et avant le NKVD. Son nom officiel était la Direction politique conjointe de l'État.
L'OGPU était théoriquement censé opérer avec plus de retenue que la police secrète bolchevique d'origine, la Tcheka. Les pouvoirs de l'OGPU ont été considérablement accrus en 1926, lorsque le code pénal soviétique a été modifié pour inclure une section sur le "terrorisme antiétatique". La loi était rédigée de manière vague et interprétée de manière très large. Avant même cette date, elle a mis en place des tribunaux pour juger les cas les plus exceptionnels de terrorisme, généralement sans faire appel à des témoins. Avec le temps, les pouvoirs de l'OGPU ont été encore plus étendus que ceux de la Tcheka.
Son succès le plus spectaculaire a peut-être été l'opération Trust de 1924-1925. Des agents de l'OGPU ont contacté des émigrés en Europe occidentale et ont prétendu faire partie d'un grand groupe travaillant au renversement du régime communiste, connu sous le nom de "Trust". Les Russes exilés ont donné au Trust de grandes sommes d'argent et des fournitures, tout comme les agences de renseignement étrangères. Le Trust a finalement réussi à attirer en Russie l'un des principaux opérateurs anticommunistes, Sidney Reilly, pour qu'il rencontre le Trust. Une fois en Russie, il a été capturé et tué. Ce fut un grand succès de propagande.
De 1927 à 1929, l'OGPU a mené des enquêtes intensives sur un coup d'État de l'opposition. Staline a rapidement pris un décret public selon lequel toutes les opinions de l'opposition devaient être considérées comme dangereuses et a donné au GPU l'autorité de rechercher les éléments hostiles. Il y eut de nombreux procès pendant le plan quinquennal de Staline.
L'OGPU était responsable de la création du système du goulag. Il est également devenu le bras du gouvernement soviétique pour la persécution de l'Église orthodoxe russe, des gréco-catholiques, des catholiques latins, de l'Islam et d'autres organisations religieuses. L'OGPU était également la principale agence de police secrète pour la détection, l'arrestation et la liquidation des anarchistes et autres factions dissidentes de gauche au début de l'Union soviétique.
L'OGPU a été fusionné en juillet 1934 avec le Commissariat du peuple aux affaires intérieures (NKVD), nouvellement créé et composé de tous les syndicats. Son dernier changement a été le Comité pour la sécurité de l'État (KGB), plus connu.