Megalakulás
Az egykori NDK területéről származó együttes tagjai egybehangzóan azt állítják, hogy korábban is ismerték egymást, amikor még különböző zenekarokban játszottak.
Az együttes fő alapítója, Richard Kruspe (gitár) az Orgasm Death Gimmick nevű zenekarban zenélt, míg Paul Landers (gitár) és Flake Lorenz (billentyű) egy jellegzetes punkrock együttesben, a Feeling B-ben játszott. A Feeling B-ben bekövetkezett személyi változások után Paul a Die Firma nevű együttes tagja lett, ahol Christoph Schneider (dob) volt a dobos. Oliver Riedel (basszusgitár) az Inchtabokatables nevű banda sorait gyarapította, míg Till Lindemann (ének) a First Arsch formációban dobolt.
Ezekkel a zenekarokkal azonban egyikük sem volt megelégedve, valami sokkal egyedülállóbb és különlegesebb hangzású zenét akartak játszani, így ötük, kezdetben Flake kivételével, együttessé verbuválódott és dalokat kezdtek írni. Egyedivé teszi a Rammstein zenéjét Paul és Richard szinkronizált, monoton, ám precíz és a véglegetig leegyszerűsített gitárjátéka, de ezt a hangzást kezdetben ők maguk is üresnek érezték. Egy billentyűs hangszerre volt szükség, ami ellensúlyozza a gitárok dallamtalanságát. Flakét nem volt könnyű beszervezni az együttesbe, de egyedi, technós hangzású szintetizátor játékával lett igazán ipari hangzású a Rammstein.

Névválasztás
Ramstein: amerikai légierőbázis Németországban, ahol egy 1988. augusztus 28-án tartott légibemutatón három repülőgép összeütközött és egyikük a közönségre zuhant. A katasztrófa során 70-en vesztették életüket, és több százan szenvedtek súlyos (többnyire égési) sérüléseket.
A komor hangzású név, amelyet tovább sötétített a hozzá kapcsolódó tragédia, megtetszett az együttes tagjainak, akik névválasztási zavarral küszködtek. Hozzátettek még egy "m" betűt, így lettek Rammstein.

Herzeleid
A Rammstein is szembesült a nehézségekkel, amivel a legtöbb kezdő zenekar általában. Több kiadó visszautasította őket, és először a XIII Bis nevű független francia kiadó mellett kötelezték el magukat. Talán ez is indokolhatja, hogy Herzeleid című albumuknak létezik egy verziója, amelynek borítóján egyes dalok franciára vannak lefordítva.
1995 elején lemezszerződést írtak alá a Motor Music nevű kiadóval, ez évben vették fel debütáló albumukat, a Herzeleidot a stockholmi Polar stúdióban (producer: Jacob Hellner és Carl-Michael Herlöffsen).
Erről 1995 augusztusában első kislemezként a "Du riechst so gut" illatosított digipackja került piacra, egy kezdeti videóváltozattal (1998-ban a dalhoz új videóklipet készítettek). 1995 szeptember 24-én került a boltokba a "Herzeleid", amely tartós siker lett Európa német nyelvterületein. 1996 januárjában pedig megjelent a második kislemez, a "Seemann".
1995 és 1996 során a Rammstein olyan neves együttesekkel turnézott Európában, mint Project Pitchfork, Clawfinger és a Ramones. Sajátos hangulatú, extrém színpadi látványosságokban, különösen tűzben bővelkedő koncertjeikkel sok új rajongót szereztek maguknak, több saját turné is megszervezésre került.

Lost highway
1996 augusztusában a készülő második album egyik videójához kerestek rendezőt, ebből a célból hanganyagaikat elküldték David Lynchnek is, aki akkor éppen Lost Highway című filmjén dolgozott.
Ugyan a forgatás miatt nem ért rá videót rendezni, de a Herzeleid zenéje annyira megtetszett neki, hogy végül két dalt, a Heirate mich és a Rammstein címűeket felhasználta betétdalként kultuszfilmjében. A Lost Highway című film ismertette meg sokakkal a Rammstein zenéjét.
Azóta az együttes több zenéhez kölcsönözte a zenéjét, így például a "Du hast" című dal a Matrix filmzenealbumon található, míg az "Engel" a Mortal Kombat betétdala volt.

Sehnsucht
1996 novemberében kezdtek neki "Sehnsucht" nevű albumuk felvételeinek Máltán, a Temple stúdióban (producer: Rammstein és ismét Jacob Hellner).
Mielőtt az album 1997 augusztusában megjelent volna, előzetesként kiadták az "Engel" és a "Du hast" kislemezeket, mindkettő rövidesen aranylemez lett. Ezzel egyidőben a Herzeleid ismét visszakapaszkodott a lemezeladási listákra és egy évig maradt ott.
1997 augusztusában jelent meg a "Sehnsucht", és azonnal a listák élére került.
Szintén 1997-ben jelent meg Kraftwerk feldolgozásuk, a "Das Modell", majd 1998-ban a Depeche Mode tribute albumról kimásolt "Stripped".

1997-ben indultak először turnéra az Egyesült Államokban, az ott már befutott KMFDM előzenekaraként. Sikeresebbek voltak, mint amennyire egy előzenekarnak szabadna lennie, néhány helyen "ellopták a showt".
1998-ban már önálló turnét bonyolítottak le az államokban, majd ugyanebben az évben később a "Family Values" turnén vettek részt. 1999-ben a világ számos pontján turnéztak és megjelentették az 1998. augusztus 22-23-án készült "Live aus Berlin" című koncertalbumukat (a Bück dich miatt cenzúrázott és cenzúrázatlan változatban).

Mutter
1999-ben kezdtek neki a harmadik stúdióalbum, a "Mutter" előkészületeinek Dél-Franciaországban. A producer ismét Jacob Hellner és az együttes volt, de a keverést ezúttal nem Ronald Prentre, hanem Stefan Glaumannra bízták.
A lemez 2001. április 2-án, a nemzetközi anyák napján jelent meg. A hangzásában az előzőektől meglehetősen elütő albumról a tervek szerint előbb a "Sonne" jelent volna meg kislemezen Európában, majd "Links 234" az Egyesült Államokban, ám végül is mindkét kislemez kapható az összes kontinensen.
2001 májusában kezdett újra turnézni a Rammstein, a hosszú turnésorozat várhatóan a világ minden részével megismerteti majd a hármas számú albumot.

Kritikák
A Rammstein leplezetlenül katonás, teutonikus hangzása és a német nyelvű szövegek miatt az együttest a kezdetektől fogva rasszizmussal, neonácizmussal vádolták a kritikusok. Azonban bárki, aki elolvassa szövegeiket, megértheti, hogy a Rammstein zenéjének nincsen politikai vonatkozása.
További negatív (némileg indokolt) kritikákat kapott az együttes az olykor felforgató, perverz és erőszakos szövegvilág miatt, ám enélkül valószínűleg csak feleannyi albumot adtak volna el.