A banda Avenger néven már készített egy lemezt és egy EP-t 1985-ben, mielőtt felvették volna a Rage nevet. Az Avenger nevet egy hasonló nevű angol zenekar miatt változtatták Furious Rage-re, ami nem sokkal később Rage-re rövidült.

A debütáló lemez 1986-ban jelent meg Reign of Fear címmel. A zenekar megbízhatóan készítette a további lemezeket, de a nagyobb áttörés annak ellenére sem következett be, hogy olyan zenekarokkal turnézhattak, mint a Motörhead, a Saxon, a Running Wild, vagy az U.D.O..

Az 1992-es Trapped lemezzel valamelyest sikerült növelni táborukat, melynek különösen a Japán turnéja aratott sikert. Az 1996-os Lingua Mortis lemez újabb elismerést hozott a zenekar számára, ugyanis elsőkként alkalmaztak nagyzenekart metal albumon. 1999-ben érkezett a zenekarba Mike Terrana a metal világ egyik legtechnikásabb dobosa, valamint a fehérorosz gitárbűvész Victor Smolski is. A Smolski-Terrana-Peavy alkotta zenekar egészen 2007-ig működött ebben a felállásban.

1999-ben felléptek a Wacken Open Air fesztiválon,2002-ben pedig a Primal Fear, egy évvel később pedig a Helloween társaságában turnéztak. 2006-ban Mike Terrana kilépett a zenekarból, helyére az Axxis soraiból ismert André Hilgers került. A zenekar a 2007-es európai turnéjának pétervári állomását DVD-n is megörökítette (Full Moon in St. Petersburg), míg a cseh Monsters of Rock fesztiválon valódi nagyzenekarral léptek fel. 2008. február. 22-én jelent meg a Carved in Stone album, melynek bónusz DVD-je egy 2007-es Wacken koncert felvételét tartalmazza. 2009-ben részt vettek a német televízió népszerű zenés vetélkedőjében a Bundesvision Song Contest műsorban is, ahol a harmadik helyezést érték el.

Az elkövetkező évben elkészítették a zenekar 20. lemezét Strings to a Web címmel, amely 2010 elején jelent meg. Majd rövid turnézást követően 2012 márciusában jelentkeztek a címében is egyértelmű utalást tartalmazó 21. albummal.