Unmittelbar nach der Gründung der Gesellschaft begann man mit dem Aufbau einer Musiksammlung. – Bald entstanden verschiedene Bereiche. „Archiv“ bezeichnete im engeren Sinn das Notenarchiv.
Form und Aussehen der Noten sind vielfältig: Es gibt handgeschriebene Stimmen, die im Gebrauch der kaiserlichen Hofkapelle gestanden sind. Es gibt prachtvolle Partituren, die einem Adeligen gewidmet sind. Es gibt äußerst seltene Drucke aus dem 16. oder 17. Jahrhundert, es gibt auch Probedrucke mit Eintragungen der Komponisten oder seltene Erstausgaben. Am wertvollsten sind wohl die über 5.000 Autographe, die Rückschlüsse auf den Kompositionsprozess zulassen. Darunter finden sich Handschriften vieler großer Komponisten, etwa Beethoven, Brahms, Haydn, Mahler, Mozart, Schubert, Schönberg, Schumann, Strauss und Strauß, Zemlinsky und vieler anderer. Es sind allerdings auch Prokofjew oder Verdi vertreten.
Nicht alle Musikautographe stammen heute von hochberühmten Meistern, auch Komponist:innen der vermeintlich zweiten Reihe sind vertreten, werden eifrig beforscht und harren ihrer Wiederentdeckung im Konzertsaal.
Der Schwerpunkt der Sammlung liegt auf dem Kaiserreich bzw. der Monarchie ab etwa 1750. Es finden sich allerdings auch immer wieder einzelne Stücke, die man hier nicht vermuten würde, etwa eine Partitur der Oper Castor et Pollux des französischen Komponisten und Musiktheoretikers Jean-Philippe Rameau (1683–1764) mit Eintragungen des Komponisten.
