8 sierpnia 1938 roku Niemcy założyli w północnej Austrii, pod Linzem, obóz koncentracyjny Mauthausen-Gusen. Więźniowie pracowali w kamieniołomach grafitu (Wiener Graben).

Od samego początku budowy obozu Hitlerowcy wzorowali się na obozie koncentracyjnym Dachau. Ten nowy obóz Mauthausen do końca 1940 roku służył jako miejsce kaźni niemieckich socjalistów, homoseksualistów i opozycjonistów politycznych.

W grudniu 1939 roku zapadła decyzja o założeniu obozu w Gusen, przy podziemnych zakładach zbrojeniowych. Latem 1940 roku oba obozy zostały połączone wspólną administracją i kierownictwem. Stąd w nazwie występują dwa człony: Mauthausen-Gusen. Dodatkowo istniała sieć 56 podoobozów w całej III Rzeszy. Więźniowie pracowali na rzecz niemieckiego przemysłu zbrojeniowego (np. Messerschmitt GmbH, Regensburg).

W styczniu 1941 roku w obozie wybudowano pierwsze krematorium. W lutym 1942 roku przeprowadzono pierwsze próby gazowania jeńców radzieckich.

We wrześniu 1944 roku w Mauthausen otworzono obóz kobiecy, do którego przewieziono wiele kobiet z obozów koncentracyjnych Ravensbrück, Bergen-Belsen, Gross Rosen i z Buchenwaldu.

Wiosną 1945 roku do Mauthausen dotarło wiele Marszów Śmierci z ewakuowanego obozu koncentracyjnego Auschwitz-Birkenau. 5 maja 1945 roku obóz został wyzwolony przez wojska amerykańskie.

Przez KL Mauthausen i jego podobozy przeszło 335 tysięcy więźniów różnych narodowości, z których zginęło około 122 tysiące.

W latach 1961-1965 powstało Muzeum KL Mauthausen-Gusen z inicjatywy byłych więźniów.