En 1947, Leonard Chess achète un label appelé Aristocrat Records. En 1950, Leonard fait venir son frère Phil et ils rebaptisent le label Chess Records. La première sortie fut "My Foolish Heart" en noir et blanc "Bless You" de Gene Ammon, qui devint un succès. En 1952, ils lancent Checker Records pour la radio car les stations ne diffusent qu'un nombre limité de chansons d'un seul label et en décembre 1955, ils lancent Argo Records pour le jazz. Le premier LP a été produit en 1958.
Au début, Leonard Chess était le producteur, mais plus tard, l'affaire a été gérée par Ralph Bass pour la section gospel et Willie Dixon pour le blues. Dixon a écrit beaucoup de chansons qui sont devenues des succès et a également joué de la basse sur de nombreux enregistrements. Le label était également célèbre pour ses musiciens de studio qui jouaient sur la plupart des enregistrements soul de Chicago, comme le batteur Maurice White et le bassiste Louis Satterfield, qui ont tous deux formé plus tard le groupe funk Earth, Wind, & Fire, les guitaristes Pete Cosey, Gerald Sims et Phil Upchurch, le pianiste Leonard Caston, plus tard producteur chez Motown et l'organiste Sonny Thompson. En 1953, ils commencent à travailler avec le Memphis Recording Service de Sam Phillips. Un des musiciens de Memphis était Howlin' Wolf, qui a fait de nombreux succès pour Chess.
En 1969, le label a été vendu à General Recorded Tape (GRT) et en 1972, la seule partie de l'entreprise qui existait encore était le studio d'enregistrement, Ter-Mar Studios. Au milieu des années 80, le catalogue de Chess Records a été vendu à MCA Records. Le 50e anniversaire de Chess Records a été célébré par un certain nombre de CD mettant en vedette de grands artistes qui avaient enregistré pour Chess. Dans les années 2000, le label de réédition en édition limitée d'Universal, Hip-O Select, a commencé à sortir une série de coffrets célébrant le travail d'artistes d'échecs comme Muddy Waters, Little Walter, Bo Diddley et Chuck Berry.