Leopold Damrosch, qui avait été le premier violon de Franz Liszt à Weimar, était le chef d'orchestre pour la saison 1876-1877. Mais le public ne l'aimait pas, alors il a créé son propre orchestre : la Symphony Society of New York. À sa mort en 1885, son fils de 23 ans, Walter Johannes Damrosch, prend la relève et poursuit la compétition avec l'ancienne Philharmonie. C'est Walter qui fera comprendre au riche Écossais Andrew Carnegie que New York a besoin d'une très bonne salle de concert. Le 5 mai 1891, Walter et le compositeur russe Tchaïkovski dirigent tous deux le premier concert du nouveau Music Hall de la ville. Quelques années plus tard, cette nouvelle salle a été rebaptisée Carnegie Hall en l'honneur de l'homme qui a donné l'argent nécessaire à sa construction.
Theodore Thomas a commencé à diriger le Philharmonique en 1877 et en a fait un très bon orchestre. En 1891, Thomas a quitté New York pour fonder l'Orchestre symphonique de Chicago.
Anton Seidl a dirigé l'orchestre jusqu'en 1898. Seidl avait travaillé comme assistant de Wagner et était célèbre pour avoir dirigé la musique de Wagner. Il a donné la première représentation de la Neuvième Symphonie d'Antonín Dvořák "Du Nouveau Monde". Beaucoup de gens étaient tristes lorsque Seidl est soudainement mort en 1898 d'une intoxication alimentaire à l'âge de 47 ans. Douze mille personnes ont demandé des billets pour ses funérailles au Metropolitan Opera House, à l'angle de la 39e rue et de Broadway, et les rues étaient encombrées de monde et de circulation.