Speicherhierarchie bezeichnet die Anordnung von Arbeits- und Datenspeichern verschiedener Technologie nach sinkender Zugriffsgeschwindigkeit und steigender Speicherkapazität (ausgenommen die Wechseldatenträger) in einer Rechnerarchitektur.
Eine auf vielen heutigen Computern eingesetzte Speicherhierarchie ist:
Häufig werden zur besseren Organisation des Speichers (z. B. Optimierung der Zugriffszeit für häufig benötigte Daten) Speicherinhalte innerhalb der Hierarchie verschoben, z. B. werden Teile der Festplatte in den Datenträgercache geladen, andererseits werden Teile des Arbeitsspeichers in die Auslagerungsdatei ausgelagert (virtueller Speicher).
Die verschiedenen Speicherebenen einer Datenbank werden gelegentlich auch je nach ihrer Geschwindigkeit als Primärspeicher, Sekundärspeicher oder Tertiärspeicher bezeichnet. Dabei ist als Primärspeicher in der Regel der Arbeitsspeicher gemeint, während Sekundärspeicher einen schnellen Festspeicher und Tertiärspeicher ein langsames Archivierungsmedium meint.
Hierarchische Speichermanagementsysteme lagern länger nicht benötigte Daten automatisch auf einen Speicher niedrigerer Hierachiestufe aus. Auch Informationslebenszyklusmanagement automatisiert derartige Prozesse.