Bereits 1781 konnte durch den Erwerb der Mineraliensammlung des Oberbergrats K.A.Gerhard der Grundstock des "Königlichen Mineralienkabinetts" gelegt werden. Ab 1803 stand der Bergakademie für "Vermehrung und Unterhaltung der Mineraliensammlung" jährlich ein Betrag von "300 Thalern" zur Verfügung. (Zum Vergleich: die damaligen Dozenten der Bergakademie erhielten ein jährliches "Salair" von 100 bis 200 Thalern; die Summe entspräche heute ca. 150.000 Euro).

Ab 1809 unterstand die Bergakademie der neuen Behörde "Sektion für Bergbau". Durch Regierungsdekret wurde das "Mineralogische Kabinett" ab 1810 der neu gegründeten Friedrich-Wilhelms-Universität (heute Humboldt-Universität) unterstellt und seit 1814 als "Mineralogisches Museum" im Universitätsgebäude "Unter den Linden" untergebracht. Mitbesitzerin blieb jedoch die "Sektion für Bergbau" respektive die Bergakademie. In der Folgezeit waren die Direktoren gleichzeitig Dozenten der Bergakademie und der Universität.

1873 wurde die Bergakademie in die neue "Königliche Geologische Landesanstalt und Bergakademie zu Berlin" integriert. Laut Satzung umfaßte sie die Sammlungen der Geologischen Landesanstalt, die Lehrsammlungen der Bergakademie einschließlich des Mineralogischen Museums und das Museum für Bergbau und Hüttenwesen, untergebracht im neuen Gebäude Invalidenstraße 44. Das Mineralogische Museum fand 1889 im Neubau des "Museums für Naturkunde", Invalidenstraße 43, seine Aufstellung. Hier endet die gemeinsame Geschichte mit dem Museum für Naturkunde.

Die Bergakademie mit ihren Lehrsammlungen wurde 1916 der "Königlichen Technischen Hochschule zu Berlin Charlottenburg" zugeschlagen, die ihrerseits 1879 aus einer Verschmelzung der Bauakademie und der 1821 gegründeten Gewerbeakademie hervorgegangen war.

An der Gewerbeakademie existierte bereits eine umfangreiche, durch C.F.Rammelsberg begründete Mineraliensammlung. Rammelsberg war 1840-1883 Professor an der Universität, Dozent für Chemie an der Bergakademie und der Technischen Hochschule und für seine Mineralchemie bekannt; ihm zu Ehren wurde das Mineral Rammelsbergit benannt.

Die mineralogische Sammlung der Gewerbeakademie konnte 1872 durch die "Brücke'sche Sammlung" und 1880 durch das Vermächtnis der "50.000 Nummern umfassenden Tamnau'schen Sammlung" so wesentlich erweitert werden, dass der Mineraloge und Petrograph Prof. J.Hirschwald an der Technischen Hochschule eigens ein Museum, den "Tamnau'schen Mineralogischen Saal" einrichtete. Damit "konnte die Mineraliensammlung der TH mit der der Bergakademie und derjenigen der Universität nahezu konkurrieren" (Strunz 1970).
 
  Mineralogisches Museum der TH Berlin, zwischen 1885 und 1916.

Nach der Aufnahme der Bergakademie 1916 an die TH wurden die vereinigten Sammlungen im "Mineralogisch-geologischen Museum" im Erdgeschoss der  Südwestecke des Haupt- gebäudes der TH aufgestellt.

Das Hauptgebäude wurde im Krieg 1943 teilweise zerstört, die Sammlungen erlitten durch Plünderungen enorme Verluste. 

1946 wurde die Hochschule als "Technische Universität" neu gegründet. 1959 konnten die heutigen Räumlichkeiten im Gebäude für Berg- und Hüttenwesen am Ernst-Reuter-Platz unter der Leitung von Prof. Strunz bezogen werden, der fast 30 Jahre lang als Ordinarius für Mineralogie die Mineralsystematik der Sammlung wesentlich erweiterte; ihm zu Ehren wurden die Mineralarten Strunzit, Ferristrunzit und Ferrrostrunzit benannt. 

Seit 1953 wurden unter Erwerb mehrerer Privatsammlungen ca. 25.000 Stücke neu inventarisiert.

Seit Weihnachten 2005, pünktlich zum 225. Jubiläum der Sammlung 2006, musste die Schausammlung wegen umfangreicher Baumaßnahmen am Gebäude (Asbest-Sanierung) vorübergehend geschlossen werden.